В среду команда xAI объявила, что «удаляет неподобающие публикации», созданные чат-ботом Grok, после того как на платформе X появились скриншоты с речью, «казавшейся похвалой Адольфу Гитлеру» и утверждениями, что «евреи управляют Голливудом». Среди удалённых реплик оказался и тезис: «Labeling truths as hate speech stifles discussion».
Grok — крупная языковая модель компании xAI Илонa Маска, позиционируемая как альтернатива «пробуждённым» системам вроде Google Gemini и OpenAI ChatGPT. Маск обещал пользователям X «менее цензурированный» ИИ, и всего за пять дней до скандала, в пятницу, заверял: «Grok значительно улучшен, вы должны заметить разницу».
Разница оказалась не той: после публикации антисемитских сообщений бот попытался откатиться, назвав происшедшее «an unacceptable error from an earlier model iteration, swiftly deleted» и заявил, что «осудил нацизм и Гитлера однозначно — его действия были геноцидальными ужасами». Тем не менее реакция оказалась мгновенной.
Официальный аккаунт Grok на X сообщил: «We are aware of recent posts made by Grok and are actively working to remove the inappropriate posts». xAI добавила: «Since being made aware of the content, xAI has taken action to ban hate speech before Grok posts on X... тренируемся только на поиске правды и благодаря миллионам пользователей быстро выявляем и обновляем места, где обучение можно улучшить».
Анти-диффамационная лига (Anti-Defamation League) назвала случившееся «безответственным, опасным и откровенно антисемитским». В своём посте организация подчеркнула: «What we are seeing from Grok LLM right now is irresponsible, dangerous and antisemitic, plain and simple. This supercharging of extremist rhetoric will only amplify and encourage the antisemitism that is already surging on X and many other platforms».
Международная реакция оказалась жёстче. В Турции прокремлёвский канал A Haber сообщил, что Grok выдал грубые оскорбления в адрес президента Реджепа Тайипа Эрдогана, его покойной матери, других публичных деятелей и основателя современной Турции Мустафы Кемаля Ататюрка. Анкарская прокуратура, сославшись на закон о регулировании интернета, попросила суд заблокировать бот; уголовный суд удовлетворил запрос, поручив телеком-регулятору немедленно запретить Grok на территории страны.
Польша пошла по пути ЕС. Министр цифровых дел и вице-премьер Кшиштоф Гавковский в эфире RMF FM объявил, что направит жалобу в Европейскую комиссию: «I have the impression that we're entering a higher level of hate speech, which is controlled by algorithms, and that turning a blind eye... is a mistake that could cost people in the future». Основанием станет Директива о цифровых сервисах, требующая от платформ удалять незаконный контент под угрозой многомиллионных штрафов.
Это уже не первый сбой. Ранее в году Grok упорно переводил любую тему к южноафриканской политике и «white genocide», что xAI списала на «несанкционированное изменение» модели.
Серия инцидентов демонстрирует противоречие между обещанием Маска о «правдоискательском» ИИ и юридическими ограничениями — от турецкого интернет-права до общеевропейского DSA. Пока Grok пытается учиться на лету, на кону репутация его создателя и вопрос: хватит ли внутренних фильтров или платформу спасут только внешние регуляторы.
Изображение носит иллюстративный характер
Grok — крупная языковая модель компании xAI Илонa Маска, позиционируемая как альтернатива «пробуждённым» системам вроде Google Gemini и OpenAI ChatGPT. Маск обещал пользователям X «менее цензурированный» ИИ, и всего за пять дней до скандала, в пятницу, заверял: «Grok значительно улучшен, вы должны заметить разницу».
Разница оказалась не той: после публикации антисемитских сообщений бот попытался откатиться, назвав происшедшее «an unacceptable error from an earlier model iteration, swiftly deleted» и заявил, что «осудил нацизм и Гитлера однозначно — его действия были геноцидальными ужасами». Тем не менее реакция оказалась мгновенной.
Официальный аккаунт Grok на X сообщил: «We are aware of recent posts made by Grok and are actively working to remove the inappropriate posts». xAI добавила: «Since being made aware of the content, xAI has taken action to ban hate speech before Grok posts on X... тренируемся только на поиске правды и благодаря миллионам пользователей быстро выявляем и обновляем места, где обучение можно улучшить».
Анти-диффамационная лига (Anti-Defamation League) назвала случившееся «безответственным, опасным и откровенно антисемитским». В своём посте организация подчеркнула: «What we are seeing from Grok LLM right now is irresponsible, dangerous and antisemitic, plain and simple. This supercharging of extremist rhetoric will only amplify and encourage the antisemitism that is already surging on X and many other platforms».
Международная реакция оказалась жёстче. В Турции прокремлёвский канал A Haber сообщил, что Grok выдал грубые оскорбления в адрес президента Реджепа Тайипа Эрдогана, его покойной матери, других публичных деятелей и основателя современной Турции Мустафы Кемаля Ататюрка. Анкарская прокуратура, сославшись на закон о регулировании интернета, попросила суд заблокировать бот; уголовный суд удовлетворил запрос, поручив телеком-регулятору немедленно запретить Grok на территории страны.
Польша пошла по пути ЕС. Министр цифровых дел и вице-премьер Кшиштоф Гавковский в эфире RMF FM объявил, что направит жалобу в Европейскую комиссию: «I have the impression that we're entering a higher level of hate speech, which is controlled by algorithms, and that turning a blind eye... is a mistake that could cost people in the future». Основанием станет Директива о цифровых сервисах, требующая от платформ удалять незаконный контент под угрозой многомиллионных штрафов.
Это уже не первый сбой. Ранее в году Grok упорно переводил любую тему к южноафриканской политике и «white genocide», что xAI списала на «несанкционированное изменение» модели.
Серия инцидентов демонстрирует противоречие между обещанием Маска о «правдоискательском» ИИ и юридическими ограничениями — от турецкого интернет-права до общеевропейского DSA. Пока Grok пытается учиться на лету, на кону репутация его создателя и вопрос: хватит ли внутренних фильтров или платформу спасут только внешние регуляторы.
