Hitech logo

Искусственный интеллект

Amazon предлагает пять правил законного распознавания лиц

TODO:
Георгий Голованов8 февраля 2019 г., 11:54

В ответ на заявления правозащитников о том, что система распознавания лиц ущемляет свободы граждан, Amazon — разработчик нашумевшей системы Recognition — выступает с инициативой по ответственному использованию технологии.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Предложение поступило очень вовремя: в прошлом году компания попала под огонь критики за продажу сервиса распознавания и анализа изображений Recognition правоохранительным агентствам, даже несмотря на то, что в нем были замечены следы гендерной и расовой предвзятости, пишет ZDNet.

В ситуации отсутствия федеральных законов родной штат Amazon Вашингтон разрабатывает собственный указ, регулирующий применение таких технологий. Microsoft, расположенная там же, активно его лоббирует. Amazon до сих пор выражала на этот счет сомнения.

Заявление, появившееся недавно в блоге Amazon, свидетельствует о сохранении компанией своей первоначальной позиции — но на других основаниях. Автор поста Майкл Панке, вице-президент по глобальной политике, призвал к введению единого для всех федерального закона и перечислил пять правил правомочной системы распознавания лиц.

  • Распознавание должно всегда использоваться в соответствии с законом, включая законы, защищающие гражданские права.
  • Когда технологию применяют правоохранительные органы, необходим человеческий надзор как гарантия того, что использование прогнозов в принятии решений не нарушает гражданских прав.
  • Когда технология распознавания лиц применяется правоохранительными органами для идентификации или другим способом, способным нарушить гражданские свободы, рекомендована 99-процентная степень уверенности.
  • Правоохранительные органы должны быть прозрачны в применении технологии распознавания лиц.
  • Следует уведомлять о совместном применении видеонаблюдения и технологии распознавания лиц в местах общественного и коммерческого использования.
  • Глава Amazon Джефф Безос допускает, что технологии могут стать эффективным инструментом в руках авторитарных режимов, но только не в США. Об этом он заявил осенью прошлого года, когда выяснилось, что Amazon будет сотрудничать с Пентагоном, несмотря на сомнения сотрудников.