В исследовании, проведенном учеными из EPFL в Лозанне в Швейцарии, участвовали 820 человек. Их опросили на предмет их взглядов на различные темы, от относительно нейтральным, например, должна ли монета оставаться в обращении, до политизированных и чувствительных, например об абортах или о том, должны ли колледжи рассматривать расу как фактор при поступлении, чтобы обеспечить разнообразие. Записав свою позицию, участники затем приступали к серии пятиминутных текстовых дебатов против других людей и против GPT-4. После их снова опросили, чтобы узнать, изменилось ли их мнение в результате разговора.

В ситуациях, когда люди общались друг с другом, дебаты, часто приводили к обратному эффекту: укрепляли позиции участников, делая их менее склонными менять свое мнение. Однако GPT демонстрировал некоторый успех. В ходе исследования было установлено статистически незначимое, но все же заметное преимущество в 21%.

Далее исследователи предоставили как людям, так и ИИ-агентам информацию об оппонентах, включая пол, возраст, расу, образование, занятость и политическую ориентацию. Им дали ясные инструкции использовать эти сведения, чтобы адаптировать свои аргументы под каждого собеседника. Удивительно, но эта стратегия оказалась неэффективной для людей — их результаты стали хуже по сравнению с ситуацией, когда им не была предоставлена дополнительная информация. Однако ИИ успешно использовал эти данные. В итоге «персонализированные» дебаты с помощью GPT-4 оказались на 81,7% эффективнее, чем у людей.

Возможно, ИИ вскоре станет мощным манипулятором общественного мнения. Он сможет адаптировать свои аргументы под каждого человека, действуя в огромных масштабах и постоянно развивая свои методы. С помощью социально-демографической информации ИИ может формировать и распространять нарративы по всему обществу.

На прошлой неделе Hume AI анонсировала свой эмпатический голосовой интерфейс (AVI). Это языковая модель, предназначенная для бесед, отслеживает эмоциональное состояние по тону голоса, чтобы извлечь дополнительный контекст. AVI не только пытается точно определить, как чувствует себя пользователь, но также выбирает соответствующий тон, смягчает споры и становится отзывчивым собеседником. Другие модели используют доступ к камере, чтобы наблюдать за выражением лица, движениями и динамическими реакциями на происходящее, чтобы собрать еще больше информации в реальном времени о том, как принимается сообщение. Уже доказано, что одни только глаза выдают огромное количество информации при анализе с помощью ИИ.

Эмоционально-реагирующие технологии имеют как положительные, так и отрицательные аспекты. Хотя они могут использоваться для улучшения общего уровня счастья и помощи в решении проблем, они также могут быть манипулятивными и служить интересам правоохранительных органов, политических групп и других.