Одна из самых известных инициативных групп ведет «Кампанию за запрет роботов убийц». Под этим требованием объединились правозащитники, ИТ-лидеры, ученые и другие личности, которых принято считать просвещенными, гуманными и заслуживающими доверия. Они призывают ООН принять глобальный договор, который полностью запрещает оружие, способное работать и принимать решения без контроля живого оператора.
С тех пор в ООН идут активные споры. 25 сентября генеральный секретарь ООН Антониу Гутерреш назвал такие технологии одним из глобальных рисков для человечества. ИИ-оружие по уровню угрозы он поставил наравне с изменением климата и постоянно растущим неравенством доходов населения Земли. «Давайте назовем вещи своими именами: перспектива машин, решающих жить человеку или умереть, — морально отвратительна», — подытожил он.
Эксперты выступают в схожем ключе. Один из самых пессимистичных сценариев, по их мнению, — бесконтрольная гонка ИИ-вооружений. При этом решения в этой гонке будут принимать уже не люди, а сами алгоритмы, которые, по заветам Маска, в один прекрасный момент обязательно дойдут до нажатия «красной кнопки». Чтобы этого не произошло, летом 160 компаний и 2400 ученых и предпринимателей подписали письмо-клятву с призывом к властям полностью запретить создание летального автономного ИИ-оружия.
Шум противников ИИ-оружия становится все сильнее. Влиятельные европейские чиновники высказываются за запрет: верховный представитель Европейского союза по иностранным делам политике безопасности Федерика Могерини заявила, что контроль за действием машины всегда должен оставаться за человеком, сообщает NYT. После даже Европарламент, смирившись с возможным замедлением прогресса, принял соответствующую резолюцию.
Кажется, что все против, но перспектива запрета по-прежнему под большим вопросом и, скорее всего, маловероятна. Дело в том, что ряд государств категорически против подобного запрета. Это в частности Россия, США, Израиль, Южная Корея и Япония — для них смертоносные автономные системы уже сейчас превращаются в огромный бизнес.
В российском МИДе отказ объясняли тем, что нельзя запретить то, чего еще нет. Когда Конвенция по негуманному оружию ООН запрещала кассетные боеприпасы, напалм, ослепляющие лазеры и противопехотные мины, они уже активно калечили людей. В данном случае в МИД РФ заявили, что «речь идет о технике, не имеющей пока реально действующих образцов. Представление о таких системах имеется пока лишь весьма поверхностное и умозрительное». В итоге на соответствующем заседании в ООН страны так и не смогли договориться. Только 26 участников поддержали полностью инициативу о запрете. Так что в ближайшее время робот-убийца Федор не будет объявлен вне закона.
