«Галлюцинации — одна из главных проблем ИИ»
Фото: EAST NEWS
ИИ

«Галлюцинации — одна из главных проблем ИИ»

Многие связывают с искусственным интеллектом расцвет либо порабощение человечества в будущем. Но пока курьезов эта технология порождает не меньше, чем прорывов. Ученые рассказали BBC о визуальных и аудиальных "галлюцинациях" нейросетей.

ИИ используют в медицине, транспорте, доверяют алгоритмам вопросы безопасности и другие важнейшие решения. Но на самом деле технология еще далека от совершенства. В практике аспиранта Массачусетского технологического института Аниша Атали был случай, когда алгоритм принял кота на фотографии за гуакамоле.

Сбить нейросеть с толку довольно просто. Например, чтобы ИИ принял знак «Стоп» за знак ограничения скорости, достаточно нескольких наклеек.

Можно немного изменить раскраску — и машине покажется, что перед ней не бейсбольный мяч, а чашка эспрессо.

В рамках эксперимента Атали и его коллеги напечатали на 3D-принтере более 200 предметов, чтобы лучше понять природу «галлюцинаций». Выяснилось, что игрушечная черепаха выглядит для ИИ как ружье.

Алгоритмы ошибаются не только с визуальными объектами. Нейросеть может неправильно расслышать слово и в итоге превратно понять смысл всего предложения.

Николас Карлини из Google Brain рассказал, как однажды нейросеть распознала «голос», прослушивая сюиту для виолончели Иоганна Себастьяна Баха.

Чтобы исключить такие странные ошибки, Александр Мадри из Массачусетского технологического института предлагает специально обучать нейросети на сложных примерах. Непростые задачи научат робота распознавать кошку не только на фотографиях и видео, но еще и на примитивном детском рисунке.

Саймон Стрингер из Оксфордского фонда теоретической неврологии и искусственного интеллекта предлагает другой путь. По его мнению, прежде чем обучать ИИ, необходимо лучше понять работу человеческого мозга.

Оптимисты считают, что изучение мозга позволит не только совершенствовать ИИ, но и создать машину для передачи мыслей или управления компьютером на расстоянии.