Хакеры ускоряют создание эксплойтов с помощью ИИ

Google сообщил, что злоумышленники перешли от простых запросов к искусственному интеллекту к автономным многоагентным системам для кибератак. Фреймворки ARTEX, CAIRN, CyberStrikeAI и PentAGI способны связывать отдельные этапы вторжения, выполнять операции на машинной скорости и запускать атаки в большем масштабе. Часть действий, прежде требовавших постоянной работы специалиста, теперь передаётся программным агентам.
Хакеры ускоряют создание эксплойтов с помощью ИИ
Изображение носит иллюстративный характер

Один из наиболее опасных сценариев связан с автоматическим анализом программных исправлений. Большие языковые модели (LLM) и агентные фреймворки сравнивают разные версии кода методом дифференциального анализа. По изменениям между версиями система пытается определить, какую уязвимость устранил патч, а затем подготовить рабочий эксплойт. Такой переход от изучения исправления к созданию оружия для атаки называют weaponization.
Google наблюдал подобную активность в связи с уязвимостями в PaperCut NG/MF. В сообщении указано, что это происходило «ранее в сентябре», однако год не называется. Для злоумышленника опубликованный патч становится своеобразной подсказкой: он показывает, где разработчики нашли проблему и какие участки программного кода пришлось изменить.
Google Threat Intelligence Group (GTIG) описала злоупотребление открытыми агентными фреймворками для тестирования на проникновение. Группа поделилась своим отчётом с The Hacker News и отметила, что такие инструменты способны автоматизировать отдельные фазы вторжения, выполнять конкретные операционные задачи и помогать во время уже идущей атаки. В Google происходящее назвали «сменой парадигмы»: операции можно ускорять до машинной скорости, соединяя различные пути атаки и многократно используя одну и ту же механику.
Эксперименты с этими системами ведут разные категории преступников, включая финансово мотивированных злоумышленников и предполагаемых шпионских операторов, связанных с Китаем. Дополнительную инфраструктуру для таких задач представляют ZeroHollow и Agent Zero. ZeroHollow описывается как сервис инференса для разработки эксплойтов и маршрутизации запросов к LLM. Agent Zero представляет собой открытый агентный фреймворк с автономным выполнением кода и возможностью динамически создавать инструменты под конкретную задачу.
Автоматизируются и другие трудоёмкие операции: анализ уязвимостей, подготовка proof-of-concept (POC) и превращение демонстрационного кода в пригодный для атаки инструмент. LLM-конвейеры сокращают промежуток между публикацией сведений об уязвимости, разработкой эксплойта и началом эксплуатации в реальных атаках. Особый интерес для преступников представляют исправленные n-day-уязвимости: информация о них уже известна, патч выпущен, но часть систем всё ещё остаётся без обновления.
Для такого анализа злоумышленникам достаточно ограниченного набора материалов: нескольких версий исходного кода, предварительных или preview-channel-сборок, примечаний к релизу, публикаций исследователей, POC-кода и сведений о конкретной уязвимости. Раньше сопоставление этих данных требовало заметного объёма ручной работы. Теперь LLM может быстро перебрать варианты, найти различия и предложить последовательность дальнейших действий.
Одновременно под удар попала сама инфраструктура искусственного интеллекта. В атаках LLMjacking преступники крадут учётные данные для доступа к LLM и используют чужие облачные ресурсы, в том числе корпоративные среды. Полученный доступ перепродаётся через подпольные прокси-сервисы APIMart и JetNight по сниженным ценам. Такой рынок дешёвого доступа называют также LLM mixers. Для покупателя это способ пользоваться вычислительными мощностями и моделями, не оплачивая собственную инфраструктуру и не связывая операции со своими аккаунтами.
Открытые ИИ-инструменты снизили порог входа в сложные кибератаки. Менее опытные операторы могут подключать новые эксплойты, масштабировать операции автономно и создавать более убедительные фишинговые кампании. В результате сжимается вся цепочка атаки: от обнаружения подходящей уязвимости до её применения проходит меньше времени, а потребность в узкой технической подготовке уменьшается.
Показательный пример представляет китайскоязычная фишинговая платформа Jieyou. В неё встроен чат-бот на базе LLM, через который клиент может на естественном языке настраивать фишинговые панели и менять готовые шаблоны. Для этого не обязательно разбираться в коде или вручную редактировать содержимое атакующей страницы. Google назвал LLM «модульным усилителем» для операторов phishing-as-a-service (PhaaS): партнёры с невысокой квалификацией получают возможность на лету менять легенду сообщения, интерфейс фишинговой страницы и отдельные элементы атаки.


Новое на сайте

21025Что произошло с облачной защитой почты N-able в трёх регионах? 21024Хакеры ускоряют создание эксплойтов с помощью ИИ 21023Почему Apache Roller оказался под угрозой удалённого захвата? 21022Что изменится для PHP после критических уязвимостей 2026 года? 21021Apple меняет разрешения macOS из-за рисков ИИ-агентов 21020Разрешение отказано, микрофон пишет: как дыра в аудиосервисе Apple месяцами оставалась... 21019Почему N-central2026.4 HF3 требует срочного обновления? 21018Почему атаки на ScreenConnect продолжаются после расследования ConnectWise? 21017Почему SHA-пиннинг не гарантирует безопасность GitHub Actions? 21016Как уязвимость SGLang раскрыла данные 18 агентов и около 100 пользователей NEAR AI? 21015Ошибка в типах PostgreSQL открывает путь к выполнению кода на сервере 21014Майнер с root-доступом: атака на 21 сервер N-central 21013Почему уязвимость UnrealIRCd позволяет обычному пользователю получить права сервера? 21012Как утечка ключа Fireworks AI привела к заражённому расширению Claude Code? 21011Почему Meta оштрафовали в Италии на €805 млн?
Ссылка