Фото: MIT
Тренды

DeepMind изучает, как ИИ разобщает интернет

Каждый пользователь видит сеть по-разному: благодаря машинному обучению все больше страниц становятся персонифицированными. То, что Google выдаст одному человеку, - спрячет от другого. Это ограничивает информационное поле, отрицательно влияя на общество.

Есть два понятия, которые описывают важнейшие моменты, связанные с потреблением контента в сети: «пузырь фильтров» и «эхо-комната». Пузырем фильтров называется вся та информация, которую пользователь предоставляет поисковикам: запросы, клики, интересующие его продукты и темы. На основе этих данных сервисы ограничивают информацию, выдаваемую человеку, чтобы в нее не попадало ничего из-за пределов пузыря.

«Эхо-комната» — похожее понятие. Им описывают постоянное повторение и закрепление того материала, который система посчитала важным для пользователя. Он будет видеть одну и ту же рекламу, одни и те же новости по избранным темам. Эти механизмы упрощают жизнь, но при этом вызывают куда более глобальные процессы.

Например, эксперты связывают их с влиянием на исход выборов, на дополнительное расслоение и поляризацию общества.

Отдельные группы людей будут отдаляться друг от друга еще сильнее, потому что «пузырь фильтров» полностью лишит их точек соприкосновения.

В своем исследовании специалисты DeepMind изучали, как различные рекомендательные алгоритмы ускоряют и замедляют развитие обоих феноменов. Для этого они запускали симуляции, фиксируя, изменения в предлагаемом контенте.

Оказалось, что алгоритмы, которые точнее всего попадают в интересы пользователя, быстрее всего приводят к деградации системы.

Интуитивно это понятный вывод: если система будет навязчиво предлагать одно и то же, сужая область интереса, многим пользователям станет скучно.

Исследователи приходят к выводу, что главный способ борьбы с «пузырями» и «эхо-комнатами» — наделение алгоритмов более широкими возможностями к исследованию. То есть умение время от времени покидать «пузырь», пишет MIT Technology Review.

Профессор Университета Миннесоты Джозеф Констант критикует исследование. Во-первых, исследователям давно ясна разница между точными рекомендациями и эффективным исследованием в рекомендательных моделях.

Во-вторых, предыдущие работы показывают, что пользователи готовы мириться с более низким уровнем точности таких систем в обмен на преимущества от более разнообразных рекомендаций. Но все упирается в разработчиков.

Им гораздо проще и безопаснее дать, возможно, узкую и предсказуемую, но точную рекомендацию, чем рискнуть и посоветовать что-то из совершенно другой сферы. Но такой путь связан с низким риском лишь в краткосрочной перспективе.

Ранее Google рассказал, что концепцию поисковика ждут изменения: он все больше будет походить на социальную сеть. Также система станет еще умнее, начнет точнее предугадывать запросы, будет запоминать историю и ход поиска по каждому вопросу.