Искусственный интеллект

Алгоритму DALL-E разрешили редактировать лица людей

Фото:

Раньше эта функция была недоступна пользователям из-за опасности злоупотребления технологией, но после улучшения работы фильтров по удалению изображений, содержащих контент сексуального или политического характера, а также сцены насилия, руководство OpenAI решило сделать этот инструмент общедоступным – по крайней мере, для тех, кто попал в круг избранных, допущенных к работе с нейросетью DALL-E.

Новая функция позволяет пользователям редактировать изображения различным образом. Например, можно загрузить фотографию любого человека и изменить черты лица, одежду или прическу. Несомненно, инструмент станет популярным среди художников, фотографов и прочих представителей творческих профессий.

«Благодаря улучшениям в системе безопасности DALL-E теперь готова поддерживать эти очаровательные и важные возможности — при этом минимизировав потенциальный риск дипфейков», — говорится в письме, которое руководство OpenAI разослало клиентам.

Это решение стало частью идущих переговоров создателей ИИ с пользователями по поводу возможного злоупотребления технологией. Напомним, что DALL-E — продукт некоммерческой организации OpenAI, мощная нейронная сеть, генерирующая изображения по словесному запросу. Находится в режиме бета-тестирования.

До сих пор компания исповедовала достаточно осторожный подход, но в последнее время конкуренты, не настолько щепетильные в этих вопросах, начали обходить OpenAI и переманивать пользователей. Так, Stable Diffusion уже позволяет создавать реалистичные фейковые изображения знаменитостей, пишет Verge.

Теперь OpenAI внедрила в DALL-E фильтры, позволяющие пользоваться функционалом редактирования лиц на фотографиях и видео, не нарушая законов и правил приличия. Условия пользования программой запрещают загружать изображения людей без их согласия, хотя обеспечить выполнение этого пункта соглашения при нынешней модели доступа на практике почти невозможно. Однако, ни один фильтр не идеален, и существует множество вариантов злоупотреблений, более тонких, чем непосредственная порнография без согласия изображенного лица.

Искусственный интеллект DALLE-2 создает реалистичные изображения из текстового описания, но как именно она и подобные ей нейросети достигают результат, по большей части, неизвестно. В начале лета разработчики OpenAI сделали интригующее заявление — якобы их модель изобрела собственный секретный язык, чтобы разговаривать об изображаемых объектах.