Новая форма неравенства

ООН признала проблему цифрового неравенства в начале 2000-х годов. Тогда под этим термином подразумевали неравный доступ к средствам коммуникации — телевизору, интернету, телефонной и мобильной связи. Однако в 2010-е под этим понятием скрывается другой смысл.

Эксперт по информационным системам Аньяна Сусарла считает, что в ближайшее время общество поделится на две группы. Одни будут следовать предписаниям алгоритмов и потреблять информацию в неограниченном объеме, а их данные станут достоянием крупных корпораций.

Вторая более привилегированная группа сможет избежать цифрового надзора. Ее представители построят свою жизнь так, что им не придется подчиняться ИИ.

Ранее к похожему заключению пришла колумнистка New York Times Нелли Боул. Она отметила, что цифровыми сервисами все чаще пользуются люди с низкими доходами. Многие не могут позволить себе услуги специалистов, поэтому обращаются к мобильным приложениям, чтобы пройти курс, заказать еду или получить психологическую поддержку.

Проблема черного ящика

Сусарла тоже считает, что возможность выйти за рамки навязчивой цифровой среды есть далеко не у всех. Более того, большинство не понимает, как именно работают алгоритмы и какое воздействие на повседневную жизнь они оказывают. Закрытость ИИ-систем сравнивают с черным ящиком.

Парадокс в том, что даже сами разработчикам не всегда понимают логику и последовательность действий ИИ.

В результате машинный интеллект обвиняют в предвзятости и дискриминации. Эксперты требуют, чтобы принципы работы алгоритмов стали прозрачными и понятными каждому. 

Проблема в том, что подробное объяснение поймет далеко не каждый. А в ряде случаев люди даже не подозревают, что имеют дело с машинным интеллектом.

Например, при оформлении ипотеки человек не знает, что система анализирует его данные и проводит автоматизированную оценку.

При этом неясно, насколько в целом население осведомлено о степени проникновения алгоритмов в повседневность. Но первые исследования в этой сфере уже проводятся. Недавно социологи в рамках эксперимента рассказали группе пользователей, как работает алгоритмическая лента новостей в Facebook. После этого 83% поменяли свое поведение, а 10% стали пользоваться соцсетью реже.

Но, как пишет Сусарла в статье для Conversation, большинство не знает, как алгоритмы используют их персональные данные. Отсутствуют и навыки фильтрации информации.

«Цифровая грамотность сегодня — это не только умение пользоваться компьютером и интернетом, но и понимание последствий постоянного включенности в сеть», — отмечает эксперт.

По мнению Сусарлы, в будущем избежать контроля со стороны алгоритмов смогут только избранные. А возможность отключиться от сети станет роскошью и символом достатка.