Пока ураган «Мелисса» бушевал в Карибском бассейне, социальные сети X, TikTok и И⃰ наводнил поток реалистичных, но полностью сфабрикованных видеороликов. Эти дипфейки, набравшие миллионы просмотров, демонстрировали события, которых никогда не было. Среди самых вирусных примеров — видео с четырьмя акулами, якобы плавающими в затопленном бассейне ямайского отеля, и ролик, показывающий полностью разрушенный аэропорт Кингстона на Ямайке.
Новизна этой волны дезинформации заключается в технологии её создания. Если раньше мистификации основывались на использовании кадров старых катастроф, то теперь контент генерируется нейросетями с нуля. Эти видео появляются в лентах пользователей наряду с подлинными кадрами от очевидцев и новостных агентств, что создает опасную путаницу и усложняет оценку реального масштаба бедствия.
Министр образования Ямайки Дана Моррис Диксон заявила в понедельник, что видела множество поддельных видео в группах WhatsApp, и призвала общественность доверять только официальным каналам для получения точной информации. Проблема достигла такого уровня, что потребовала реакции со стороны правительства, пытающегося координировать действия в условиях чрезвычайной ситуации.
По словам Софии Рубинсон, старшего редактора в организации NewsGuard, ураган «Мелисса» стал первым крупным стихийным бедствием с тех пор, как в прошлом месяце компания OpenAI выпустила последнюю версию своего видеогенератора Sora. Рубинсон отмечает, что мощные инструменты, такие как Sora, значительно упрощают «злоумышленникам» создание убедительных синтетических видео. Традиционные признаки подделок, такие как неестественные движения или искаженный текст, исчезают по мере совершенствования технологий.
Эксперт по искусственному интеллекту Генри Айдер считает, что мотивация создателей таких фейков, скорее всего, не политическая, а финансовая. Это ближе к традиционному «контенту, ориентированному на клики», целью которого является максимальное вовлечение аудитории. Пользователи на платформе X могут получать оплату за вовлеченность, а авторы на YouTube — доход от рекламы. Видео с миллионами просмотров может принести своему создателю несколько тысяч долларов.
В ходе анализа фейкового видео с акулами удалось обнаружить его возможный источник. На одной из версий ролика в И⃰ был найден водяной знак, ведущий на TikTok-аккаунт Yulian_Studios. В профиле на испанском языке указано, что его владелец — «Создатель контента с визуальными эффектами ИИ из Доминиканской Республики». Хотя видео с акулами на странице отсутствовало, там был обнаружен другой сгенерированный клип, изображающий полного мужчину, цепляющегося за пальму во время урагана на Ямайке.
Существует несколько способов распознать контент, созданный искусственным интеллектом. В первую очередь следует искать водяные знаки в углах изображения, которые могут указывать на использованный инструмент, например, Sora от создателя ChatGPT, компании OpenAI. Однако их можно удалить, поэтому стоит обращать внимание на размытые или пикселизированные участки, где мог находиться логотип.
При более внимательном рассмотрении можно заметить странные детали. Например, в видео с акулами одна из них имела «странную форму». Другими признаками могут быть неестественное смешение объектов, нечитаемые надписи на вывесках и отсутствие логотипов реальных компаний. Журналистский портал Poynter советует скептически относиться к ситуациям, которые кажутся «преувеличенными, нереалистичными или нехарактерными».
Социальные платформы внедряют собственные инструменты для борьбы с дезинформацией. На платформе X под видео с акулами появилась «заметка сообщества» — фактчекинговая пометка от пользователей. В ней говорилось: «Это видео и использованный голос были созданы искусственным интеллектом, это не настоящая съёмка урагана,,Мелисса" на Ямайке». Самым надежным способом получения информации остаются официальные источники, такие как правительство Ямайки или Национальный ураганный центр США.
Изображение носит иллюстративный характер
Новизна этой волны дезинформации заключается в технологии её создания. Если раньше мистификации основывались на использовании кадров старых катастроф, то теперь контент генерируется нейросетями с нуля. Эти видео появляются в лентах пользователей наряду с подлинными кадрами от очевидцев и новостных агентств, что создает опасную путаницу и усложняет оценку реального масштаба бедствия.
Министр образования Ямайки Дана Моррис Диксон заявила в понедельник, что видела множество поддельных видео в группах WhatsApp, и призвала общественность доверять только официальным каналам для получения точной информации. Проблема достигла такого уровня, что потребовала реакции со стороны правительства, пытающегося координировать действия в условиях чрезвычайной ситуации.
По словам Софии Рубинсон, старшего редактора в организации NewsGuard, ураган «Мелисса» стал первым крупным стихийным бедствием с тех пор, как в прошлом месяце компания OpenAI выпустила последнюю версию своего видеогенератора Sora. Рубинсон отмечает, что мощные инструменты, такие как Sora, значительно упрощают «злоумышленникам» создание убедительных синтетических видео. Традиционные признаки подделок, такие как неестественные движения или искаженный текст, исчезают по мере совершенствования технологий.
Эксперт по искусственному интеллекту Генри Айдер считает, что мотивация создателей таких фейков, скорее всего, не политическая, а финансовая. Это ближе к традиционному «контенту, ориентированному на клики», целью которого является максимальное вовлечение аудитории. Пользователи на платформе X могут получать оплату за вовлеченность, а авторы на YouTube — доход от рекламы. Видео с миллионами просмотров может принести своему создателю несколько тысяч долларов.
В ходе анализа фейкового видео с акулами удалось обнаружить его возможный источник. На одной из версий ролика в И⃰ был найден водяной знак, ведущий на TikTok-аккаунт Yulian_Studios. В профиле на испанском языке указано, что его владелец — «Создатель контента с визуальными эффектами ИИ из Доминиканской Республики». Хотя видео с акулами на странице отсутствовало, там был обнаружен другой сгенерированный клип, изображающий полного мужчину, цепляющегося за пальму во время урагана на Ямайке.
Существует несколько способов распознать контент, созданный искусственным интеллектом. В первую очередь следует искать водяные знаки в углах изображения, которые могут указывать на использованный инструмент, например, Sora от создателя ChatGPT, компании OpenAI. Однако их можно удалить, поэтому стоит обращать внимание на размытые или пикселизированные участки, где мог находиться логотип.
При более внимательном рассмотрении можно заметить странные детали. Например, в видео с акулами одна из них имела «странную форму». Другими признаками могут быть неестественное смешение объектов, нечитаемые надписи на вывесках и отсутствие логотипов реальных компаний. Журналистский портал Poynter советует скептически относиться к ситуациям, которые кажутся «преувеличенными, нереалистичными или нехарактерными».
Социальные платформы внедряют собственные инструменты для борьбы с дезинформацией. На платформе X под видео с акулами появилась «заметка сообщества» — фактчекинговая пометка от пользователей. В ней говорилось: «Это видео и использованный голос были созданы искусственным интеллектом, это не настоящая съёмка урагана,,Мелисса" на Ямайке». Самым надежным способом получения информации остаются официальные источники, такие как правительство Ямайки или Национальный ураганный центр США.
