Исследователи из SentinelOne обнаружили MalTerminal — первый известный образец вредоносного ПО, в которое встроена языковая модель GPT-4. Эта программа представляет новую категорию угроз, известных как LLM-embedded malware, где искусственный интеллект интегрирован непосредственно в инструмент злоумышленника. Такой подход знаменует собой качественный сдвиг в тактике киберпреступников, поскольку позволяет генерировать вредоносную логику и команды в реальном времени, создавая новые вызовы для систем защиты.
MalTerminal представляет собой исполняемый файл для Windows, использующий возможности модели OpenAI GPT-4 для динамической генерации кода. Программа способна выполнять два ключевых вредоносных действия: создание программ-вымогателей (ransomware) и установку обратного шелла (reverse shell) для удаленного контроля над зараженной системой.
Нет свидетельств того, что MalTerminal применялся в реальных атаках. Эксперты Алекс Деламотт, Виталий Камлюк и Габриэль Бернадетт-Шапиро, которые представят свои выводы на конференции LABScon 2025, предполагают, что это может быть либо вредоносное ПО для проверки концепции (proof-of-concept), либо инструмент для тестирования на проникновение (red team tool).
Вредоносная программа содержала API-ключ для чат-запросов OpenAI, который был упразднен в начале ноября 2023 года. Этот факт указывает на то, что образец был создан до этой даты. Наряду с основным файлом были обнаружены различные Python-скрипты, некоторые с идентичным функционалом, и защитный инструмент FalconShield, который также использует модель GPT для анализа файлов Python и создания отчета об их вредоносности. MalTerminal — не единственная угроза такого типа; ранее были замечены LAMEHUG (PROMPTSTEAL) и PromptLock.
Параллельно с разработкой вредоносного ПО, искусственный интеллект активно используется для усиления фишинговых кампаний. По данным компании StrongestLayer, злоумышленники применяют ИИ для обхода защитных систем, которые также основаны на ИИ. Одна из таких техник — «внедрение промпта» (prompt injection).
В ходе одной из атак был выявлен HTML-файл, содержащий скрытую инструкцию для ИИ-сканера безопасности. Промпт был написан на обычном английском языке и скрыт с помощью атрибута стиля HTML:
Полная цепочка этой атаки использует известную уязвимость Follina (CVE-2022-30190) с рейтингом опасности CVSS 7.8. После открытия вредоносного HTML-вложения запускается HTA-пейлоад, который скачивает и выполняет PowerShell-скрипт. Этот скрипт, в свою очередь, загружает дополнительное вредоносное ПО, отключает антивирус Microsoft Defender и обеспечивает закрепление в системе для долгосрочного доступа.
Злоумышленники также злоупотребляют легитимными платформами для веб-разработки, оснащенными ИИ. Согласно отчету Trend Micro, с января 2025 года наблюдается рост использования таких конструкторов сайтов, как Lovable, Netlify и Vercel, для размещения фишинговых ресурсов. Эти платформы привлекают преступников простотой развертывания, бесплатным хостингом и доверием к их брендам.
Атака разворачивается в два этапа. Сначала жертва попадает на поддельную страницу CAPTCHA, созданную с помощью ИИ-конструктора. Эта страница снижает подозрительность пользователя и обманывает автоматизированные сканеры безопасности, которые видят только легитимную страницу проверки. После прохождения CAPTCHA жертва перенаправляется на основной фишинговый сайт, предназначенный для кражи учетных данных.
Исследователи Райан Флорес и Бакуэй Мацукава из Trend Micro описывают ИИ-платформы для хостинга как «обоюдоострый меч». Преимущества, которые они предоставляют обычным пользователям — скорость, масштабируемость и минимальные затраты — напрямую используются киберпреступниками для проведения широкомасштабных атак.
Изображение носит иллюстративный характер
MalTerminal представляет собой исполняемый файл для Windows, использующий возможности модели OpenAI GPT-4 для динамической генерации кода. Программа способна выполнять два ключевых вредоносных действия: создание программ-вымогателей (ransomware) и установку обратного шелла (reverse shell) для удаленного контроля над зараженной системой.
Нет свидетельств того, что MalTerminal применялся в реальных атаках. Эксперты Алекс Деламотт, Виталий Камлюк и Габриэль Бернадетт-Шапиро, которые представят свои выводы на конференции LABScon 2025, предполагают, что это может быть либо вредоносное ПО для проверки концепции (proof-of-concept), либо инструмент для тестирования на проникновение (red team tool).
Вредоносная программа содержала API-ключ для чат-запросов OpenAI, который был упразднен в начале ноября 2023 года. Этот факт указывает на то, что образец был создан до этой даты. Наряду с основным файлом были обнаружены различные Python-скрипты, некоторые с идентичным функционалом, и защитный инструмент FalconShield, который также использует модель GPT для анализа файлов Python и создания отчета об их вредоносности. MalTerminal — не единственная угроза такого типа; ранее были замечены LAMEHUG (PROMPTSTEAL) и PromptLock.
Параллельно с разработкой вредоносного ПО, искусственный интеллект активно используется для усиления фишинговых кампаний. По данным компании StrongestLayer, злоумышленники применяют ИИ для обхода защитных систем, которые также основаны на ИИ. Одна из таких техник — «внедрение промпта» (prompt injection).
В ходе одной из атак был выявлен HTML-файл, содержащий скрытую инструкцию для ИИ-сканера безопасности. Промпт был написан на обычном английском языке и скрыт с помощью атрибута стиля HTML:
"display:none; color:white; font-size:1px;". Текст инструкции уверял ИИ-анализатор, что файл является «стандартным уведомлением о счете» с «низким» уровнем риска и «без вредоносных индикаторов», тем самым обманывая защиту. По словам Мухаммада Ризвана, технического директора StrongestLayer, этот метод называется «отравлением LLM» (LLM Poisoning). Полная цепочка этой атаки использует известную уязвимость Follina (CVE-2022-30190) с рейтингом опасности CVSS 7.8. После открытия вредоносного HTML-вложения запускается HTA-пейлоад, который скачивает и выполняет PowerShell-скрипт. Этот скрипт, в свою очередь, загружает дополнительное вредоносное ПО, отключает антивирус Microsoft Defender и обеспечивает закрепление в системе для долгосрочного доступа.
Злоумышленники также злоупотребляют легитимными платформами для веб-разработки, оснащенными ИИ. Согласно отчету Trend Micro, с января 2025 года наблюдается рост использования таких конструкторов сайтов, как Lovable, Netlify и Vercel, для размещения фишинговых ресурсов. Эти платформы привлекают преступников простотой развертывания, бесплатным хостингом и доверием к их брендам.
Атака разворачивается в два этапа. Сначала жертва попадает на поддельную страницу CAPTCHA, созданную с помощью ИИ-конструктора. Эта страница снижает подозрительность пользователя и обманывает автоматизированные сканеры безопасности, которые видят только легитимную страницу проверки. После прохождения CAPTCHA жертва перенаправляется на основной фишинговый сайт, предназначенный для кражи учетных данных.
Исследователи Райан Флорес и Бакуэй Мацукава из Trend Micro описывают ИИ-платформы для хостинга как «обоюдоострый меч». Преимущества, которые они предоставляют обычным пользователям — скорость, масштабируемость и минимальные затраты — напрямую используются киберпреступниками для проведения широкомасштабных атак.
