Исследования выявили парадоксальный эффект: искусственный интеллект (ИИ) способен генерировать изображения лиц, которые воспринимаются людьми как более «реальные», чем фотографии настоящих людей. Этот феномен, названный «гиперреализмом», вызывает обеспокоенность, особенно в контексте распространения дипфейков. Однако, как выяснилось, гиперреализм достигается только при создании ИИ белых лиц, в то время как изображения лиц других рас часто попадают в так называемую «зловещую долину».
Этот расовый дисбаланс в восприятии ИИ-лиц обусловлен тем, что алгоритмы искусственного интеллекта, такие как StyleGAN2, в основном обучаются на белых лицах. Это приводит к тому, что ИИ-модели создают белые лица, которые кажутся даже «более реальными», чем их живые аналоги. В то же время лица людей других рас, сгенерированные теми же алгоритмами, могут выглядеть неестественно и даже отталкивающе, демонстрируя предвзятость в обучении нейросетей.
Проблема усугубляется тем, что люди, которые чаще ошибаются в определении подлинности изображений, как правило, более уверены в своей правоте. Иными словами, те, кто наиболее подвержен обману ИИ, обычно не осознают этого. Это создает серьезные риски, особенно при широком использовании ИИ в маркетинге, рекламе и других сферах, где предвзятые алгоритмы могут усилить расовые стереотипы.
Необходимы прозрачные механизмы разработки и независимый контроль за развитием ИИ. Требуются значительные ресурсы для исследований в этой области, причем финансирование должно исходить как от правительств, так и от самих компаний, разрабатывающих ИИ. Это позволит нам гарантировать, что ИИ будет служить на благо общества, а не усугублять социальные неравенства.
Изображение носит иллюстративный характер
Этот расовый дисбаланс в восприятии ИИ-лиц обусловлен тем, что алгоритмы искусственного интеллекта, такие как StyleGAN2, в основном обучаются на белых лицах. Это приводит к тому, что ИИ-модели создают белые лица, которые кажутся даже «более реальными», чем их живые аналоги. В то же время лица людей других рас, сгенерированные теми же алгоритмами, могут выглядеть неестественно и даже отталкивающе, демонстрируя предвзятость в обучении нейросетей.
Проблема усугубляется тем, что люди, которые чаще ошибаются в определении подлинности изображений, как правило, более уверены в своей правоте. Иными словами, те, кто наиболее подвержен обману ИИ, обычно не осознают этого. Это создает серьезные риски, особенно при широком использовании ИИ в маркетинге, рекламе и других сферах, где предвзятые алгоритмы могут усилить расовые стереотипы.
Необходимы прозрачные механизмы разработки и независимый контроль за развитием ИИ. Требуются значительные ресурсы для исследований в этой области, причем финансирование должно исходить как от правительств, так и от самих компаний, разрабатывающих ИИ. Это позволит нам гарантировать, что ИИ будет служить на благо общества, а не усугублять социальные неравенства.
