Можем ли мы искоренить предвзятость, или лучше сосредоточиться на исправлении системы?

Уже к шести годам американские дети, как показывают исследования, склонны ассоциировать интеллект с мужчинами в большей степени, чем с женщинами. Девочки этого возраста зачастую не верят, что женщины могут быть «действительно, действительно умными», и это влияет на их выбор игр и интересы. Этот ранний гендерный стереотип формирует их поведение, уменьшая интерес к занятиям, предназначенным для «очень умных» детей, закладывая фундамент для дальнейшего развития предвзятости.
Можем ли мы искоренить предвзятость, или лучше сосредоточиться на исправлении системы?
Изображение носит иллюстративный характер

Исследования экономиста Микелы Карлана в итальянских школах показали, что девочки, которых обучали учителя с неосознанным предубеждением в пользу мальчиков в математике (оценка проводилась с помощью Теста на имплицитные ассоциации), демонстрировали худшие результаты. Это приводило к тому, что девочки выбирали менее сложные старшие классы, тем самым ограничивая свои будущие возможности в карьере. Предвзятость учителей порождала у девочек неуверенность в себе, особенно у тех, чьи навыки в математике были ниже среднего, что, в итоге, приводило к потере талантов и возможностей из-за предвзятости, проявляющейся в столь раннем возрасте.

Предвзятость проявляется и на рабочем месте. Женщины, занимающие должности менеджеров в продуктовых магазинах, тратили непропорционально много времени на выполнение видимых задач, пытаясь опровергнуть стереотипы, из-за чего страдали их общие результаты, так как они не уделяли достаточного внимания важным офисным обязанностям. Женщины-хирурги, чтобы компенсировать недостаток уважения и авторитета, как правило, больше помогали медсестрам, чем их коллеги-мужчины, что также негативно сказывалось на их работе. Это явление известно как «управление вниз».

При этом, стоит отметить, что попытки изменить неосознанную предвзятость на индивидуальном уровне крайне сложны. Вмешательства могут временно повлиять на отношение или осознание проблемы, но не приводят к устойчивым изменениям в поведении. Мета-анализы, обобщающие результаты сотен исследований за последние два десятилетия, подтверждают, что «де-биасинг» людей невероятно сложен и, вероятно, невозможен.

Поэтому необходимо сосредоточиться на изменении предвзятых систем и политик, а не пытаться изменить сознание отдельных людей. Предвзятость может быть заложена в самых неожиданных областях, примерами могут быть программное обеспечение для распознавания лиц, которое гораздо точнее распознаёт белых мужчин (ошибка всего 1%), чем темнокожих женщин (ошибка до 35%), что является следствием того, что программы разрабатывались и тестировались в основном белыми мужчинами. Другим примером может служить разница в политике отпусков по уходу за ребенком: в Великобритании женщины получают в 26 раз больше отпуска, чем мужчины, тем самым закрепляя гендерные стереотипы. Практика найма также полна предубеждений: в Германии, женщина с турецким именем и в платке должна была разослать почти в 5 раз больше резюме, чем кандидат с немецким именем, чтобы получить приглашение на собеседование (оценка проводилась почти в 1500 компаниях).

Изменение систем приведет к изменению поведения, даже если индивидуальная предвзятость останется. Системные изменения гораздо эффективнее, чем попытки изменить сознание каждого человека в отдельности. Разработка «умных» систем помогает людям лучше работать и достигать своих целей. Мы можем создать менее предвзятые и более справедливые рабочие места, не пытаясь изменить внутренние установки каждого человека.

Таким образом, вместо того, чтобы тратить ресурсы на бесполезные попытки «де-биасинга» отдельных людей, следует направить усилия на устранение предвзятости в системах и процессах, которые влияют на жизнь людей.


Новое на сайте

19164Уязвимые обучающие приложения открывают доступ к облакам Fortune 500 для криптомайнинга 19163Почему ботнет SSHStalker успешно атакует Linux уязвимостями десятилетней давности? 19162Microsoft устранила шесть уязвимостей нулевого дня и анонсировала радикальные изменения в... 19161Эскалация цифровой угрозы: как IT-специалисты КНДР используют реальные личности для... 19160Скрытые потребности клиентов и преимущество наблюдения над опросами 19159Академическое фиаско Дороти Паркер в Лос-Анджелесе 19158Китайский шпионский фреймворк DKnife захватывает роутеры с 2019 года 19157Каким образом корейские детские хоры 1950-х годов превратили геополитику в музыку и... 19156Научная революция цвета в женской моде викторианской эпохи 19155Как новый сканер Microsoft обнаруживает «спящих агентов» в открытых моделях ИИ? 19154Как новая кампания DEADVAX использует файлы VHD для скрытой доставки трояна AsyncRAT? 19153Как новые китайские киберкампании взламывают госструктуры Юго-Восточной Азии? 19152Культ священного манго и закат эпохи хунвейбинов в маоистском Китае 19151Готовы ли вы к эре коэффициента адаптивности, когда IQ и EQ больше не гарантируют успех? 19150Иранская группировка RedKitten применяет сгенерированный нейросетями код для кибершпионажа
Ссылка