«Алгоритмы отомстят за то, как мы с ними сейчас обращаемся»
Фото:
искусственный интеллект

«Алгоритмы отомстят за то, как мы с ними сейчас обращаемся»

Роботы станут новым угнетаемым классом, полагает исследующий вопросы этики футурист Николас Агар. А когда по-настоящему разумный ИИ осознает себя, настанет час расплаты.

Месть роботов — привычный мотив развития сюжета для научной фантастики, от «Бегущего по лезвию» до «Мира Дикого запада». Но специалист по этике Николас Агар, работающий в Университете Виктории в Веллингтоне (Австралия), опасается, что этот сценарий может воплотиться и в жизни.

Он призывает не издеваться над голосовыми помощниками, например, пытаясь обучить их ругаться почище сапожника. «Возможно, наше поведение в отношении бесчувственного ИИ сегодня должно быть обусловлено нашими ожиданиями в отношении того, как люди будут вести себя с осознающим происходящее ИИ, которые может чувствовать и страдать», — пишет Агар в материале для Conversation.

Ученый считает, что у людей есть давняя традиция угнетения и проявления насилия по отношению к бесправным. Кто-то кричит на официантку, другой — «отрывается» на домашних питомцах. В будущем удар злобы примут на себя роботы.

«Животные мстить не могут. Но разумные машины — вполне», — считает Агар.

«Если мы хотим создать машины, подобные людям с психологической точки зрения, мы должны быть готовы к тому, что они станут разумными. И как тогда они среагируют на наше поведение в ходе общения?» — Говорит ученый.

Сейчас эта дискуссия касается в основном робо-борделей. Сторонники говорят, что там клиенты могут дать выход эмоциям, которым нет места в политкорректном обществе. Критики — что, распробовав насилие однажды, не все будут готовы остановиться.

Большинство исследователей прогресса ИИ считают, что до появления разумных роботов у нас еще есть время. Пока ИИ хорош лишь в выявлении скрытых связей в больших массивах данных. Но к концу 2020-х ситуация серьезно изменится.