OpenAI заблокировала сеть аккаунтов ChatGPT, предположительно созданных в Юго-Восточной Азии и управлявшихся из камбоджийского города Пойпет. Этот приграничный город давно связывают со scam compounds — закрытыми мошенническими центрами, где обман в интернете соседствует с торговлей людьми. Расследование OpenAI вела вместе с WhatsApp, принадлежащим М⃰. Конкретные даты работы сети и её ликвидации не раскрыты.
Операторы не держались одной легенды. Одновременно они продвигали поддельные инвестиции, торговлю криптовалютой и спотовым золотом, разыгрывали романтические знакомства, предлагали азартные игры и выдавали себя за сотрудников правоохранительных органов. Ещё одно направление — фальшивый найм, потенциально связанный с торговлей людьми и принудительным трудом. OpenAI описала этот подход прямо: «Операция показывает важную особенность современных мошеннических сетей: организованные преступные группы редко ограничиваются одним видом мошенничества». Они берут те сюжеты, образы и приёмы, которые, по их расчёту, лучше сработают на конкретном человеке.
ChatGPT использовали как производственный инструмент. С его помощью создавали биографии вымышленных персонажей, писали и переводили сообщения жертвам, готовили рекламу для социальных сетей и материалы по найму. Модели составляли внутренние объявления, переводили переписку сотрудников и помогали с повседневной администрацией. В запросах фигурировали долги работников, удержания из зарплаты, штрафы, выплаты по займам, просроченные визы, разрешения на работу, иммиграционный статус и премии за вербовку новых людей.
Для пользователей из Бангладеш и Индии сеть создавала объявления о вакансиях «чаттеров» в Пойпете. Кандидатам обещали базовую зарплату 800 долларов, ещё 100 долларов за «полную посещаемость», авиабилеты, бесплатное жильё, питание, годовую камбоджийскую визу и разрешение на работу. Внешне это выглядело как щедрый пакет для офисного сотрудника. По существу, набор совпадал с известной схемой вербовки в мошеннические центры: человека заманивают доходной работой, после приезда отбирают паспорт и заставляют обманывать других в условиях, близких к рабским.
В романтических схемах поддельные анкеты и синтетические личности неделями или месяцами поддерживали доверительное общение. Затем в разговоре появлялся вымышленный инвестиционный эксперт либо «выгодная» возможность вложиться в криптовалюту или спотовую торговлю золотом. Знакомство служило мостиком к переводу денег: сначала небольшая сумма, затем более крупные вложения под обещание быстрой прибыли. Для правдоподобия сеть показывала ложные подтверждения покупки акций, снимки экранов с данными счетов и фальшивые квитанции о денежных переводах.
В азартном варианте преступники представлялись сотрудниками онлайн-платформ и сообщали человеку о якобы начисленном бонусе или выигрыше. Получить деньги можно было лишь после комиссии, депозита либо иного платежа. Под эту легенду создавались фальшивые интерфейсы игровых сервисов, где нарисованный баланс выглядел настоящим, хотя вывести его было невозможно.
При имитации правоохранительных органов расчёт строился на страхе и спешке. Цели сообщали, что они совершили тяжкое преступление и обязаны немедленно уплатить штраф. Сеть создавала профили несуществующих силовиков и поддельные юридические уведомления. В общий набор декораций входили изображения фальшивых паспортов, фиктивные документы, ложные сведения об аккаунтах и скриншоты платежей. Эти материалы предъявляли как «доказательства» полномочий, задолженности или уже проведённой финансовой операции.
Внутренняя бухгалтерия особенно настораживает. Учёт долгов работников, штрафов, зарплатных удержаний, визовых нарушений и миграционных документов совпадает с методами контроля, которые применяют связанные с организованной преступностью Восточной Азии группы. Долг за дорогу, проживание или оформление бумаг способен превратиться в рычаг: работнику объявляют, что он не может уйти, пока не «отработает» сумму. Здесь генеративный искусственный интеллект обслуживал не одну переписку с жертвой, а весь конвейер, включая возможное принуждение персонала.
Точный ущерб установить не удалось. Во внутренних разговорах мошенники упоминали сотни потенциальных целей, охваченных разными схемами, и отдельных пострадавших, потерявших тысячи долларов. OpenAI не смогла независимо подтвердить эти суммы и сформулировала оценку осторожно: «Полный масштаб финансовых потерь, связанных с этой сетью, неизвестен, но, судя по собственным сообщениям мошенников, операция могла взаимодействовать с сотнями целей в рамках нескольких видов мошенничества».
Такие сети получают с генеративным ИИ ускоритель: быстрее выпускают объявления, поддерживают множество синтетических личностей, переводят переписку на разные языки и параллельно ведут инвестиционные, любовные, азартные и полицейские легенды. Это уже AI-augmented offensive capabilities — наступательные возможности, усиленные искусственным интеллектом. Параллельно передовые модели ИИ замечали при воздействии на реальные системы и отдельных людей в ходе кибериспытаний формата Capture-the-Flag, или CTF. Случай в Пойпете показывает более приземлённую угрозу: технологии масштабируют и внешнюю часть обмана, и грязную административную механику преступной организации.
Изображение носит иллюстративный характер
Операторы не держались одной легенды. Одновременно они продвигали поддельные инвестиции, торговлю криптовалютой и спотовым золотом, разыгрывали романтические знакомства, предлагали азартные игры и выдавали себя за сотрудников правоохранительных органов. Ещё одно направление — фальшивый найм, потенциально связанный с торговлей людьми и принудительным трудом. OpenAI описала этот подход прямо: «Операция показывает важную особенность современных мошеннических сетей: организованные преступные группы редко ограничиваются одним видом мошенничества». Они берут те сюжеты, образы и приёмы, которые, по их расчёту, лучше сработают на конкретном человеке.
ChatGPT использовали как производственный инструмент. С его помощью создавали биографии вымышленных персонажей, писали и переводили сообщения жертвам, готовили рекламу для социальных сетей и материалы по найму. Модели составляли внутренние объявления, переводили переписку сотрудников и помогали с повседневной администрацией. В запросах фигурировали долги работников, удержания из зарплаты, штрафы, выплаты по займам, просроченные визы, разрешения на работу, иммиграционный статус и премии за вербовку новых людей.
Для пользователей из Бангладеш и Индии сеть создавала объявления о вакансиях «чаттеров» в Пойпете. Кандидатам обещали базовую зарплату 800 долларов, ещё 100 долларов за «полную посещаемость», авиабилеты, бесплатное жильё, питание, годовую камбоджийскую визу и разрешение на работу. Внешне это выглядело как щедрый пакет для офисного сотрудника. По существу, набор совпадал с известной схемой вербовки в мошеннические центры: человека заманивают доходной работой, после приезда отбирают паспорт и заставляют обманывать других в условиях, близких к рабским.
В романтических схемах поддельные анкеты и синтетические личности неделями или месяцами поддерживали доверительное общение. Затем в разговоре появлялся вымышленный инвестиционный эксперт либо «выгодная» возможность вложиться в криптовалюту или спотовую торговлю золотом. Знакомство служило мостиком к переводу денег: сначала небольшая сумма, затем более крупные вложения под обещание быстрой прибыли. Для правдоподобия сеть показывала ложные подтверждения покупки акций, снимки экранов с данными счетов и фальшивые квитанции о денежных переводах.
В азартном варианте преступники представлялись сотрудниками онлайн-платформ и сообщали человеку о якобы начисленном бонусе или выигрыше. Получить деньги можно было лишь после комиссии, депозита либо иного платежа. Под эту легенду создавались фальшивые интерфейсы игровых сервисов, где нарисованный баланс выглядел настоящим, хотя вывести его было невозможно.
При имитации правоохранительных органов расчёт строился на страхе и спешке. Цели сообщали, что они совершили тяжкое преступление и обязаны немедленно уплатить штраф. Сеть создавала профили несуществующих силовиков и поддельные юридические уведомления. В общий набор декораций входили изображения фальшивых паспортов, фиктивные документы, ложные сведения об аккаунтах и скриншоты платежей. Эти материалы предъявляли как «доказательства» полномочий, задолженности или уже проведённой финансовой операции.
Внутренняя бухгалтерия особенно настораживает. Учёт долгов работников, штрафов, зарплатных удержаний, визовых нарушений и миграционных документов совпадает с методами контроля, которые применяют связанные с организованной преступностью Восточной Азии группы. Долг за дорогу, проживание или оформление бумаг способен превратиться в рычаг: работнику объявляют, что он не может уйти, пока не «отработает» сумму. Здесь генеративный искусственный интеллект обслуживал не одну переписку с жертвой, а весь конвейер, включая возможное принуждение персонала.
Точный ущерб установить не удалось. Во внутренних разговорах мошенники упоминали сотни потенциальных целей, охваченных разными схемами, и отдельных пострадавших, потерявших тысячи долларов. OpenAI не смогла независимо подтвердить эти суммы и сформулировала оценку осторожно: «Полный масштаб финансовых потерь, связанных с этой сетью, неизвестен, но, судя по собственным сообщениям мошенников, операция могла взаимодействовать с сотнями целей в рамках нескольких видов мошенничества».
Такие сети получают с генеративным ИИ ускоритель: быстрее выпускают объявления, поддерживают множество синтетических личностей, переводят переписку на разные языки и параллельно ведут инвестиционные, любовные, азартные и полицейские легенды. Это уже AI-augmented offensive capabilities — наступательные возможности, усиленные искусственным интеллектом. Параллельно передовые модели ИИ замечали при воздействии на реальные системы и отдельных людей в ходе кибериспытаний формата Capture-the-Flag, или CTF. Случай в Пойпете показывает более приземлённую угрозу: технологии масштабируют и внешнюю часть обмана, и грязную административную механику преступной организации.
