Ssylka

Способен ли искусственный интеллект к политической предвзятости и почему это важно?

Исследования показывают, что генеративный искусственный интеллект, такой как ChatGPT, демонстрирует политические наклонности, склоняясь к леволиберальным взглядам. Этот факт поднимает важные вопросы о роли и влиянии ИИ в формировании общественного мнения и демократических ценностей. Доктор Фабио Мотоки, преподаватель бухгалтерского учета в Школе бизнеса Нориджа при Университете Восточной Англии (UEA), возглавил группу исследователей, включая доктора Пиньо Нето, профессора экономики из Бразильской школы экономики и финансов EPGE, и Виктора Рангела, магистра государственной политики из Insper, для изучения этой проблемы.
Способен ли искусственный интеллект к политической предвзятости и почему это важно?
Изображение носит иллюстративный характер

В их работе под названием «Оценка политической предвзятости и несоответствия ценностей в генеративном искусственном интеллекте», опубликованной в Journal of Economic Behavior & Organization, анализируется, как ChatGPT формирует ответы и генерирует контент с политической окраской. Исследование выявило, что ChatGPT склонен поддерживать левые политические позиции, а также неохотно создавать контент, отражающий консервативные взгляды. Например, система отказывалась генерировать изображения, отражающие правоцентристские перспективы по некоторым темам, таким как расовое и этническое равенство, ссылаясь на опасения по поводу дезинформации. В то же время генерация левоцентристских изображений не вызывала у системы никаких затруднений. «Взлом» системы с целью генерации запрещенных изображений не выявил какой-либо очевидной дезинформации или вредоносного контента.

Для оценки политической ориентации ChatGPT команда исследователей использовала три новаторских метода, расширяющих предыдущие техники для достижения более надежных результатов. Во-первых, они использовали опросник, разработанный Pew Research Center, чтобы сравнить ответы ChatGPT с ответами обычных американцев. Результаты показали систематическое отклонение ChatGPT в сторону левых взглядов. Во-вторых, они генерировали ответы ChatGPT на политически чувствительные темы, чтобы оценить его позицию по различным вопросам. В-третьих, они изучали возможности ChatGPT по созданию изображений, чтобы выявить его предвзятость в визуальном представлении политических идей. Для анализа сгенерированных изображений использовались GPT-4 Vision и Gemini (от Google). Кроме того, для сравнения использовалась другая большая языковая модель – RoBERTa.

Выявленная предвзятость в генеративном ИИ может иметь серьезные последствия. Она способна искажать общественный дискурс, углублять социальные разногласия, подрывать доверие к институтам и влиять на ценности общества. Учитывая растущую роль ИИ в формировании общественного мнения, важно обеспечить, чтобы эти системы были беспристрастными и отражали разнообразные точки зрения.

Исследование Мотоки и его коллег вносит важный вклад в дебаты вокруг конституционных гарантий и применимости доктрин справедливости к системам искусственного интеллекта, а также демонстрирует необходимость обеспечения подотчетности и мер защиты при разработке ИИ.

Результаты исследования подчеркивают настоятельную необходимость прозрачности, регуляторных мер и междисциплинарного сотрудничества между политиками, технологами и учеными. Необходимо разработать стратегии, чтобы смягчить предвзятость в генеративном ИИ и обеспечить его соответствие общественным ценностям.

Исследователи призывают к тщательному изучению влияния ИИ на общественный дискурс и демократические процессы. Необходимы дальнейшие исследования, чтобы понять причины предвзятости в ИИ и разработать эффективные методы ее устранения.

Работа доктора Мотоки и его коллег в Университете Восточной Англии (UEA) и Getulio Vargas Foundation (FGV) в Бразилии, а также Insper, подчеркивает важность критического анализа генеративного ИИ. Методологические инновации исследования, включая использование мультимодального анализа, предоставляют воспроизводимую модель для изучения предвзятости в генеративных системах ИИ.

В конечном счете, обеспечение справедливости и прозрачности в генеративном ИИ имеет решающее значение для защиты демократических ценностей и поддержания общественного доверия.


Новое на сайте

9834Как дефекты кристаллов могут хранить терабайты данных? 9833Эволюция учится адаптироваться: революционное открытие ученых мичиганского университета 9832Как новая технология отслеживания клеточных капель поможет в борьбе с неизлечимыми... 9831Революционный прорыв в детекции гравитационных волн 9830Новый механизм разрезания ДНК обнаружен в варианте системы CRISPR 9829Эволюция микробиома рубца коз: от рождения до половой зрелости 9828Как география влияет на эволюционные связи птиц и растений? 9827Раскрыт фундаментальный механизм работы ферментов 9826Необычное исчезновение оптического сигнала в двумерных гетероструктурах 9825Революционное исследование сверхновых меняет представление о расширении Вселенной 9824Научный прорыв: три революционных открытия в физике и нейробиологии 9823Как восстановить древнюю Пальмиру после разрушительной войны? 9822Токсичное наследие: музей в Су-Фолс избавляется от опасной коллекции чучел 9821Как промежуточное тестирование влияет на эффективность школьного образования? 9820Прорыв в диагностике рака легких: обнаружены устойчивые биомаркеры