Можем ли мы искоренить предвзятость, или лучше сосредоточиться на исправлении системы?

Уже к шести годам американские дети, как показывают исследования, склонны ассоциировать интеллект с мужчинами в большей степени, чем с женщинами. Девочки этого возраста зачастую не верят, что женщины могут быть «действительно, действительно умными», и это влияет на их выбор игр и интересы. Этот ранний гендерный стереотип формирует их поведение, уменьшая интерес к занятиям, предназначенным для «очень умных» детей, закладывая фундамент для дальнейшего развития предвзятости.
Можем ли мы искоренить предвзятость, или лучше сосредоточиться на исправлении системы?
Изображение носит иллюстративный характер

Исследования экономиста Микелы Карлана в итальянских школах показали, что девочки, которых обучали учителя с неосознанным предубеждением в пользу мальчиков в математике (оценка проводилась с помощью Теста на имплицитные ассоциации), демонстрировали худшие результаты. Это приводило к тому, что девочки выбирали менее сложные старшие классы, тем самым ограничивая свои будущие возможности в карьере. Предвзятость учителей порождала у девочек неуверенность в себе, особенно у тех, чьи навыки в математике были ниже среднего, что, в итоге, приводило к потере талантов и возможностей из-за предвзятости, проявляющейся в столь раннем возрасте.

Предвзятость проявляется и на рабочем месте. Женщины, занимающие должности менеджеров в продуктовых магазинах, тратили непропорционально много времени на выполнение видимых задач, пытаясь опровергнуть стереотипы, из-за чего страдали их общие результаты, так как они не уделяли достаточного внимания важным офисным обязанностям. Женщины-хирурги, чтобы компенсировать недостаток уважения и авторитета, как правило, больше помогали медсестрам, чем их коллеги-мужчины, что также негативно сказывалось на их работе. Это явление известно как «управление вниз».

При этом, стоит отметить, что попытки изменить неосознанную предвзятость на индивидуальном уровне крайне сложны. Вмешательства могут временно повлиять на отношение или осознание проблемы, но не приводят к устойчивым изменениям в поведении. Мета-анализы, обобщающие результаты сотен исследований за последние два десятилетия, подтверждают, что «де-биасинг» людей невероятно сложен и, вероятно, невозможен.

Поэтому необходимо сосредоточиться на изменении предвзятых систем и политик, а не пытаться изменить сознание отдельных людей. Предвзятость может быть заложена в самых неожиданных областях, примерами могут быть программное обеспечение для распознавания лиц, которое гораздо точнее распознаёт белых мужчин (ошибка всего 1%), чем темнокожих женщин (ошибка до 35%), что является следствием того, что программы разрабатывались и тестировались в основном белыми мужчинами. Другим примером может служить разница в политике отпусков по уходу за ребенком: в Великобритании женщины получают в 26 раз больше отпуска, чем мужчины, тем самым закрепляя гендерные стереотипы. Практика найма также полна предубеждений: в Германии, женщина с турецким именем и в платке должна была разослать почти в 5 раз больше резюме, чем кандидат с немецким именем, чтобы получить приглашение на собеседование (оценка проводилась почти в 1500 компаниях).

Изменение систем приведет к изменению поведения, даже если индивидуальная предвзятость останется. Системные изменения гораздо эффективнее, чем попытки изменить сознание каждого человека в отдельности. Разработка «умных» систем помогает людям лучше работать и достигать своих целей. Мы можем создать менее предвзятые и более справедливые рабочие места, не пытаясь изменить внутренние установки каждого человека.

Таким образом, вместо того, чтобы тратить ресурсы на бесполезные попытки «де-биасинга» отдельных людей, следует направить усилия на устранение предвзятости в системах и процессах, которые влияют на жизнь людей.


Новое на сайте

19521Банковский троян VENON на Rust атакует Бразилию с помощью девяти техник обхода защиты 19520Бонобо агрессивны не меньше шимпанзе, но всё решают самки 19519Почему 600-килограммовый зонд NASA падает на Землю из-за солнечной активности? 19518«Липовый календарь»: как расписание превращает работников в расходный материал 19517Вредоносные Rust-пакеты и ИИ-бот крадут секреты разработчиков через CI/CD-пайплайны 19516Как хакеры за 72 часа превратили npm-пакет в ключ от целого облака AWS 19515Как WebDAV-диск и поддельная капча помогают обойти антивирус? 19514Могут ли простые числа скрываться внутри чёрных дыр? 19513Метеорит пробил крышу дома в Германии — откуда взялся огненный шар над Европой? 19512Уязвимости LeakyLooker в Google Looker Studio открывали доступ к чужим базам данных 19511Почему тысячи серверов оказываются открытой дверью для хакеров, хотя могли бы ею не быть? 19510Как исследователи за четыре минуты заставили ИИ-браузер Perplexity Comet попасться на... 19509Может ли женщина без влагалища и шейки матки зачать ребёнка естественным путём? 19508Зачем учёные из Вены создали QR-код, который невозможно увидеть без электронного... 19507Девять уязвимостей CrackArmor позволяют получить root-доступ через модуль безопасности...
Ссылка