Проблемы белых людей

Кремниевая долина строит новый формат общества на основе неравенства, в котором небольшая доминирующая группа пытается решить глобальные проблемы своими силами. Технический консультант и эксперт по нейронаукам Вивьен Минг считает, что человечество дает слишком большую власть белым молодым мужчинам, на которых держится Кремниевая долина.

По ее мнению, лидерам ИТ-компаний не хватает жизненного опыта.

«Мы доверяем решение глубинных экзистенциальных вопросов группе людей, которые в своей жизни не решили ни одной проблемы», — отметила исследовательница в интервью Guardian.

Эксперт подчеркивает, что представители ИТ-индустрии умны и у них нет желания навредить другим людям. Просто поставленные задачи им не по силам. «Мы хотим, чтобы группка молодых людей сказала нам, кого нанимать на работу, кого и на какой срок сажать в тюрьму, как бороться с психическими заболеваниями. Но они понятия не имеют, как отвечать на эти вопросы», — предупреждает Минг.

Этическое невежество

По мнению исследовательницы, ситуацию усугубляет система образования. Разработчики слепо поклоняются технологиям искусственного интеллекта и полностью доверяют им принятие важных решений. Им кажется, что достаточно «скормить» нейросети массив данных, чтобы все сработало как надо.

Создатели технологий зачастую не понимают самой сути проблемы и не пытаются разобраться в ней другими способами, без помощи ИИ. Они также не исследуют этические вызовы и не принимают во внимание последствия некорректной работы алгоритмов.

Минг приводит в пример Amazon. При найме сотрудников на работу компания использовала алгоритм, который сканировал резюме и отбирал предпочительных кандидатов.

В октябре стало известно, что программа ставила более низкую оценку резюме, в которых присутствовало слово «женский». Когда систему уличили в сексизме, ее пришлось свернуть.

Как поясняет эксперт, создатели проекта не знали, как избавить алгоритм от предубеждений. А сам ИИ с этим вопросом не разберется: он видит, что большинство вакансий занимают мужчины, и считает это преимуществом.

Она уверена. что этику нужно осваивать на практике методом проб и ошибок: «Чтобы действовать этично, нужно осознавать последствия предлагаемых решений».

Глубинное неравенство

Исследовательница уверена, что технологии усиливают неравенство. Она приводит в пример образовательные приложения. Изначально их создают с благими намерениями, чтобы помочь отстающим школьникам и студентам лучше усваивать материал. Но в итоге ими чаще пользуются дети элиты, поскольку именно они создают спрос и приносят прибыль.

«Практически любая технология стимулирует рост неравенства, поскольку наиболее эффективно воспользоваться ей могут те, кто меньше всего в ней нуждается. Остальные 99,999% остаются не у дел», — замечает Минг.

Она предлагает признать ИИ таким же правом человека, как право на доступ к суду или к вакцинам. 

Среда разработки должна стать более разнообразной. Минг предлагает подключать к процессам больше женщин и представителей меньшинств. «Крайне важно предоставлять голос тем, кто пострадал больше всего», — уверена эксперт.

По прогнозам ОЭСР, равная репрезентация полов в сфере технологий еще не скоро станет реальностью. Экономисты полагают, что цифровой гендерный разрыв сократится лишь к 2080 году. При этом, как показывают исследования, по STEM-дисциплинам мальчики и девочки добиваются примерно одинаковых успехов — по крайней мере в Северной Америке.