Фото:
Тренды

В Европе не будет массового распознавания лиц и систем социального рейтинга

Депутаты Европарламента большинством голосов приняли резолюцию о необходимости введения в ЕС полного и постоянного запрета на автоматическое распознавание лиц в общественных местах, так как подобные системы нарушают «неприкосновенность частной жизни и человеческое достоинство». Запрет также должен быть введен на создание любых систем социального рейтинга, прогнозирования преступлений и использование алгоритмов в судебной сфере.

Парламент также призвал запретить использование частных баз данных по распознаванию лиц, таких как система искусственного интеллекта американского стартапа Clearview (ее уже используют полицейские отдельных стран Европы), и объявить вне закона любые системы прогнозирования правонарушений, основанные на поведенческих данных.

Еще в апреле Еврокомиссия представила законопроект о регулировании использования технологий искусственного интеллекта с высокой степенью риска, который включал запрет на социальную оценку и принципиальный запрет на использование удаленного биометрического наблюдения в общественных местах. Однако Европейский совет по защите данных и Европейский надзорный орган по защите данных, а также ряд депутатов Европарламента сочли законопроект недостаточно проработанным.

В резолюции, принятой Европарламентом большинством голосов, в части о дистанционном биометрическом наблюдении содержится следующий призыв к Еврокомиссии:

… Необходимо запретить любую обработку биометрических данных, включая изображения лиц, в правоохранительных целях, ведущую к массовому слежению в общедоступных местах; Еврокомиссия должна прекратить финансирование биометрических исследований или развертывание программ, которые могут привести к неизбирательному массовому наблюдению в общественных местах.

Создание любых систем социального рейтинга, которые стремятся оценивать надежность граждан на основе их поведения или личности, должно быть также запрещено.

Резолюция направлена ​также ​на борьбу с алгоритмической предвзятостью и призывает к обязательному сильному надзору со стороны человека-оператора за работой алгоритмов с целью предотвращения дискриминации со стороны ИИ, особенно в работе правоохранительных органов и в контексте пересечения границ.

Депутаты Европарламента согласились с тем, что люди-операторы всегда должны принимать окончательные решения, заявив, что субъекты, контролируемые системами на базе искусственного интеллекта, должны иметь доступ к средствам правовой защиты.

Из резолюции следует, что для обеспечения соблюдения основных прав человека алгоритмы, использующие систем идентификации на основе ИИ, которые часто неверно идентифицируют этнические меньшинства, ЛГБТИ-людей, пожилых и женщин, должны быть прозрачными, отслеживаемыми и достаточно документированными.

Резолюция парламента призывает и к введению запрета на ИИ-помощников при принятии судебных решений — попытки внедрения таких алгоритмов в системе уголовного правосудия (в первую очередь при вынесении решений о досрочном освобождении осужденных) выявили многочисленные факты дискриминации нацменьшинств со стороны ИИ.

Европарламент также призвал госорганы ЕС использовать программное обеспечение с открытым исходным кодом везде, где это возможно.

Комментируя принятие резолюции, докладчик Петар Витанов сказал: «Основные права безусловны. Впервые мы призываем к мораторию на развертывание систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам. Мы категорически против прогнозирующей полицейской деятельности, основанной на использовании ИИ, а также против любой обработки биометрических данных, ведущей к массовому слежению. Это огромная победа для всех граждан Европы».