«Проблема контроля — главный порок сильного ИИ»
Фото:
Искусственный интеллект

«Проблема контроля — главный порок сильного ИИ»

В книге "Human Compatible" британский специалист по искусственному интеллекту Стюарт Рассел рассматривает так называемую "проблему контроля" - ситуацию, когда универсальный ИИ в конце концов превосходит по интеллекту своих создателей.

Стюарт Рассел — член AAAI, Американской ассоциации специалистов по искусственному интеллекту и автор нескольких книг. Он отмечает, что к проблеме контроля до него обращались многие ученые и писатели-фантасты. В 1950 основоположник кибернетики Норберт Винер написал работу «Человеческое использование человеческих существ», в которой утверждал, что опасность для общества исходит не от самих машин, а от того, что именно человек заставляет машины делать. Книга Рассела рассматривает тот же постулат: кто несет ответственность, творец или его создание.

Хотя в книге Рассела не говорится, когда и как именно ИИ может стать универсальным и сверхразумным, он указывает на важную проблему необходимости контроля за разработками все более автономных ИИ, пишет Nature.

Начиная с самых ранних лет, ИИ поражен противоречием, считает Рассел. В 1956 году в Дартмутском колледже Ганновера, легендарном месте рождения ИИ, будущий нобелевский лауреат Герберт Саймон и Аллен Ньюэлл предлагали назвать свое творение «устройством для комплексной обработки информации». Джон Маккарти и Марвин Мински предпочитали более расплывчатое имя «искусственный интеллект».

Маккарти и Мински, а также другие их сторонники увлекались бихевиоризмом и предполагали, что проявление разумного поведения логически достаточно для того, чтобы доказать наличие интеллекта. То есть машины, которые выглядят разумными, можно называть разумными. Их точка зрения, как мы знаем, победила, и последствия этой победы двойственные, пишет Рассел.

В «Human Compatible» ученый описывает варианты злоупотребления искусственным интеллектом. Он предупреждает, как ИИ — распознающие лица и голоса технологии, генераторы дипфейков, системы интеграции информации — могут применяться для слежки, контроля и массовых манипуляций поведением.

Рассел не рассматривает «скучные» алгоритмы, помогающие ученым искать новые лекарства и материалы, прогнозировать землетрясения или ураганы, диагностировать заболевания. Протагонист его книги — «сверхразумный» ИИ, который сумел превзойти по интеллекту человека. Пока этого не произошло, но лучше бы нам подготовиться к этому.

Самый смелый прогноз о появлении сверхразумного ИИ принадлежит футурологу Рэю Курцвейлу — он считает, что машины сравнятся в интеллекте с человеком уже в 2029. Большинство ученых более осторожны в прогнозах, и ставят скорее на 2099 год.