Загадочная "Babydoll Archi" взорвала И⃰ в 2023 году. За профилем с 4 миллионами подписчиков, созданным в 2020 году и начавшим постинг в мае 2021, скрывалась жестокая афера. Вирусные ролики, например, танцующая в красном сари под "Dame Un Grr", и фото со звездой для взрослых Кендрой Ласт сделали имя нарицательным.
Реальность оказалась мрачной. Лицо "Archi" принадлежало Санчи (псевдоним), домохозяйке из Дибрагарха, Ассам. Ее изображения использовали без согласия. Санчи не имела соцсетей и узнала о фейке лишь после вирусного распространения, когда семья, заблокированная аккаунтом, подала жалобу в полицию вечером 11 июля 2023 года.
Виновник – Пратим Бора, бывший парень Санчи. Инженер-механик и энтузиаст ИИ, Бора создал аккаунт, используя личные фото Санчи. Первые посты содержали отредактированные ее реальные снимки. Позже он применил ИИ-инструменты ChatGPT и Dzine для генерации дипфейков. Активность аккаунта резко возросла с апреля 2023 года.
Бора монетизировал обман. Через Linktree он собрал 3000 подписчиков, заработав около 1 миллиона рупий, из них 300,000 – за 5 дней до ареста. Полиция во главе с г-жой Агарвал оперативно установила связь Санчи с Борой, выследила его в округе Тинсухия и арестовала 12 июля 2023 года. Изъяты ноутбук, телефоны, жесткие диски, банковские документы. Ему предъявлены обвинения в сексуальных домогательствах, распространении непристойных материалов, клевете, подлоге, мошенничестве и киберпреступлениях. Максимальный срок – 10 лет.
Санчи, по словам полиции, «крайне расстроена». Она и ее семья получают психологическую помощь. Аккаунт Babydoll Archi (282 поста) удален из открытого доступа И⃰, но контент остался в сети.
Эксперт по ИИ и юрист Мегна Бал назвала инцидент «ужасным, но почти не предотвратимым». Она отмечает, что ИИ сделал месть с использованием интимных изображений «гораздо проще». Санчи может добиваться «права на забвение» для удаления публикаций с ее именем, но полная очистка интернета затруднена. Подобные случаи с ИИ могут быть редкими или недокументированными из-за стигмы или незнания жертв. Пользователи редко сообщают о таком контенте.
«Невозможно предотвратить нечто подобное, но если бы мы действовали раньше, то предотвратили бы такой масштаб распространения», – констатирует г-жа Агарвал. CBS ранее сообщал о снятии рекламы ИИ-инструментов для создания непристойных дипфейков. Общественный гнев требует ужесточения законов. Однако Бал подчеркивает: существующих законов достаточно для преследования виновных, вопрос – в необходимости регулирования компаний-разработчиков генеративного ИИ. «Дипфейки сами по себе не зло; законы должны быть тщательно продуманы, чтобы не подавить свободу слова и не быть использованными как оружие».
Изображение носит иллюстративный характер
Реальность оказалась мрачной. Лицо "Archi" принадлежало Санчи (псевдоним), домохозяйке из Дибрагарха, Ассам. Ее изображения использовали без согласия. Санчи не имела соцсетей и узнала о фейке лишь после вирусного распространения, когда семья, заблокированная аккаунтом, подала жалобу в полицию вечером 11 июля 2023 года.
Виновник – Пратим Бора, бывший парень Санчи. Инженер-механик и энтузиаст ИИ, Бора создал аккаунт, используя личные фото Санчи. Первые посты содержали отредактированные ее реальные снимки. Позже он применил ИИ-инструменты ChatGPT и Dzine для генерации дипфейков. Активность аккаунта резко возросла с апреля 2023 года.
Бора монетизировал обман. Через Linktree он собрал 3000 подписчиков, заработав около 1 миллиона рупий, из них 300,000 – за 5 дней до ареста. Полиция во главе с г-жой Агарвал оперативно установила связь Санчи с Борой, выследила его в округе Тинсухия и арестовала 12 июля 2023 года. Изъяты ноутбук, телефоны, жесткие диски, банковские документы. Ему предъявлены обвинения в сексуальных домогательствах, распространении непристойных материалов, клевете, подлоге, мошенничестве и киберпреступлениях. Максимальный срок – 10 лет.
Санчи, по словам полиции, «крайне расстроена». Она и ее семья получают психологическую помощь. Аккаунт Babydoll Archi (282 поста) удален из открытого доступа И⃰, но контент остался в сети.
Эксперт по ИИ и юрист Мегна Бал назвала инцидент «ужасным, но почти не предотвратимым». Она отмечает, что ИИ сделал месть с использованием интимных изображений «гораздо проще». Санчи может добиваться «права на забвение» для удаления публикаций с ее именем, но полная очистка интернета затруднена. Подобные случаи с ИИ могут быть редкими или недокументированными из-за стигмы или незнания жертв. Пользователи редко сообщают о таком контенте.
«Невозможно предотвратить нечто подобное, но если бы мы действовали раньше, то предотвратили бы такой масштаб распространения», – констатирует г-жа Агарвал. CBS ранее сообщал о снятии рекламы ИИ-инструментов для создания непристойных дипфейков. Общественный гнев требует ужесточения законов. Однако Бал подчеркивает: существующих законов достаточно для преследования виновных, вопрос – в необходимости регулирования компаний-разработчиков генеративного ИИ. «Дипфейки сами по себе не зло; законы должны быть тщательно продуманы, чтобы не подавить свободу слова и не быть использованными как оружие».
