Можем ли мы искоренить предвзятость, или лучше сосредоточиться на исправлении системы?

Уже к шести годам американские дети, как показывают исследования, склонны ассоциировать интеллект с мужчинами в большей степени, чем с женщинами. Девочки этого возраста зачастую не верят, что женщины могут быть «действительно, действительно умными», и это влияет на их выбор игр и интересы. Этот ранний гендерный стереотип формирует их поведение, уменьшая интерес к занятиям, предназначенным для «очень умных» детей, закладывая фундамент для дальнейшего развития предвзятости.
Можем ли мы искоренить предвзятость, или лучше сосредоточиться на исправлении системы?
Изображение носит иллюстративный характер

Исследования экономиста Микелы Карлана в итальянских школах показали, что девочки, которых обучали учителя с неосознанным предубеждением в пользу мальчиков в математике (оценка проводилась с помощью Теста на имплицитные ассоциации), демонстрировали худшие результаты. Это приводило к тому, что девочки выбирали менее сложные старшие классы, тем самым ограничивая свои будущие возможности в карьере. Предвзятость учителей порождала у девочек неуверенность в себе, особенно у тех, чьи навыки в математике были ниже среднего, что, в итоге, приводило к потере талантов и возможностей из-за предвзятости, проявляющейся в столь раннем возрасте.

Предвзятость проявляется и на рабочем месте. Женщины, занимающие должности менеджеров в продуктовых магазинах, тратили непропорционально много времени на выполнение видимых задач, пытаясь опровергнуть стереотипы, из-за чего страдали их общие результаты, так как они не уделяли достаточного внимания важным офисным обязанностям. Женщины-хирурги, чтобы компенсировать недостаток уважения и авторитета, как правило, больше помогали медсестрам, чем их коллеги-мужчины, что также негативно сказывалось на их работе. Это явление известно как «управление вниз».

При этом, стоит отметить, что попытки изменить неосознанную предвзятость на индивидуальном уровне крайне сложны. Вмешательства могут временно повлиять на отношение или осознание проблемы, но не приводят к устойчивым изменениям в поведении. Мета-анализы, обобщающие результаты сотен исследований за последние два десятилетия, подтверждают, что «де-биасинг» людей невероятно сложен и, вероятно, невозможен.

Поэтому необходимо сосредоточиться на изменении предвзятых систем и политик, а не пытаться изменить сознание отдельных людей. Предвзятость может быть заложена в самых неожиданных областях, примерами могут быть программное обеспечение для распознавания лиц, которое гораздо точнее распознаёт белых мужчин (ошибка всего 1%), чем темнокожих женщин (ошибка до 35%), что является следствием того, что программы разрабатывались и тестировались в основном белыми мужчинами. Другим примером может служить разница в политике отпусков по уходу за ребенком: в Великобритании женщины получают в 26 раз больше отпуска, чем мужчины, тем самым закрепляя гендерные стереотипы. Практика найма также полна предубеждений: в Германии, женщина с турецким именем и в платке должна была разослать почти в 5 раз больше резюме, чем кандидат с немецким именем, чтобы получить приглашение на собеседование (оценка проводилась почти в 1500 компаниях).

Изменение систем приведет к изменению поведения, даже если индивидуальная предвзятость останется. Системные изменения гораздо эффективнее, чем попытки изменить сознание каждого человека в отдельности. Разработка «умных» систем помогает людям лучше работать и достигать своих целей. Мы можем создать менее предвзятые и более справедливые рабочие места, не пытаясь изменить внутренние установки каждого человека.

Таким образом, вместо того, чтобы тратить ресурсы на бесполезные попытки «де-биасинга» отдельных людей, следует направить усилия на устранение предвзятости в системах и процессах, которые влияют на жизнь людей.


Новое на сайте

20854Как дешёвые Android-смартфоны превращаются в чужие прокси? 20853В Индии имя звонящего появится на экране вместе с номером 20852Как проверить готовность команды к звонку с клонированным голосом? 20851Уязвимости MarkLogic: делегированные права могли открыть путь к администраторскому... 20850Как GitHub закрыл лазейку, угрожавшую тысячам npm-пакетов? 20849Hirudo подменяет банковские приложения, чтобы обойти их защиту 20848Как Vghost превратил старую ошибку Linux в путь к root? 20847Уязвимости в PAN-OS и Cisco Secure Email Gateway уже используют атакующие 20846Как уязвимость GitLab могла открыть сервер для чужого кода? 20845Уязвимость SAP Cloud SDK могла отправить OAuth2-секреты злоумышленнику 20844Уязвимость в Nextcloud открыла путь к веб-оболочкам на серверах 20843Смогут ли малые ИИ-модели превратить бытовую технику в ботнет? 20842Пять уязвимостей NGINX: кому грозит риск и как закрыть его 20841Тайный диктофон в OpenAI: что утверждают следователи 20840Как проверять уязвимость входа, не заходя дальше дозволенного?
Ссылка