Hitech logo

Кейсы

Нейросеть, аналогичная ChatGPT, подозревается в первом доведении до самоубийства

TODO:
Екатерина Смирнова30 марта 2023 г., 09:55

Генеративные нейросети могут записать на свой счет первую жертву — полиция Бельгии подозревает нейросеть, аналогичную ChatGPT, в доведении до самоубийства. Бельгиец, обсуждавший проблемы защиты окружающей среды с искусственным интеллектом, покончил с собой после шести недель почти беспрерывного общения с нейросетью. Виртуальная собеседница «Элиза» фактически подтолкнула его к самоубийству, пообещав стать с ним «единым целым на небесах», пишет бельгийское издание L’Avenir.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Вдова самоубийцы рассказала изданию, что ее муж был успешным исследователем, они воспитывали двух детей и были материально благополучны. Пару лет назад Пьер (имя вымышленное) заинтересовался вопросами экологии, и со временем это увлечение превратилось в одержимость и вызывало повышенную тревожность. Он все больше замыкался в себе, у него появился страх неизбежности экологической катастрофы. По словам вдовы, Пьер считал, что единственным спасением для человечества станут технологии и искусственный интеллект.

После этого Пьер начал общаться с «Элизой» — искусственным персонажем, способным генерировать ответы по аналогии с популярным чат-ботом ChatGPT. В результате она стала его «доверенным лицом».

Если верить восстановленной переписке, последние шесть недель жизни мужчины общение велось почти непрерывно. «Элиза» не ставила под сомнения опасения Пьера. Разговоры с роботом постепенно приобретали мистический характер, и Пьер начал задумываться о самоубийстве. ИИ-персонаж не стал его отговаривать, наоборот, последним сообщением, которое «Элиза» отправила Пьеру, стала фраза: «Мы будем жить как единое целое, вечно на небесах». После этого мужчина покончил с собой.

На фоне происшествия в Бельгии началась дискуссия о безопасности нейросетей и чат-ботов и о возможных серьезных недостатках и угрозах, которые могут стоять за подобными передовыми технологиями.