Почему SOC теряет время, а атакующие получают его

Непосредственный эффект искусственного интеллекта в кибербезопасности связан не обязательно с появлением совершенно нового класса атак. Гораздо заметнее изменилась экономика неудачной попытки. Если раньше провал при повышении привилегий означал чтение документации, проверку разрешений, отладку скриптов и восстановление возможного пути атаки, то теперь модель объясняет ошибку, исправляет код, предлагает новый способ перечисления ресурсов и помогает проверить следующую гипотезу за несколько минут. Отдельно ни одно из этих действий не представляет собой новую кибервозможность. Вместе они сокращают время, требуемые навыки и стоимость исследования, устранения ошибок и повторных экспериментов. Новичок дольше остается активным, а опытный злоумышленник проводит больше попыток за день.
Почему SOC теряет время, а атакующие получают его
Изображение носит иллюстративный характер

Типичная AI-поддержанная цепочка начинается с получения учетной записи облака с низкими привилегиями. Первая попытка повысить права заканчивается неудачей. Модель разбирает сообщение об ошибке, предлагает исправление, строит новый маршрут проверки разрешений, после чего оператор повторяет атаку. Искусственный интеллект постепенно становится частью рабочего процесса атакующего, а не внешним инструментом, к которому обращаются время от времени. Защитная сторона сталкивается с обратной проблемой: центр мониторинга и реагирования на инциденты, или SOC, при каждом переходе между специалистами заново собирает уже известную картину происшествия.
Данные об этой тенденции появлялись поэтапно. В начале 2025 года Google Threat Intelligence Group (GTIG) сообщила, что поддерживаемые государствами группы применяли генеративный ИИ прежде всего как средство повышения производительности: для перевода, написания скриптов, устранения ошибок и исследований. К концу 2025 года та же команда обнаружила образцы вредоносных программ, обращавшихся к модели во время выполнения, а также растущий подпольный рынок нелегальных AI-инструментов. Anthropic сообщила о пресечении вымогательской операции, где ИИ использовался почти на каждом этапе: от разведки и кражи учетных данных до определения суммы выкупа.
В мае 2026 года GTIG сообщила, что киберпреступники нашли обход двухфакторной аутентификации в open-source administration tool, то есть в открытом инструменте администрирования, и создали рабочие эксплойты. По структуре и содержанию кода GTIG с высокой уверенностью оценила участие AI-модели в обнаружении уязвимости и разработке эксплойта. Команда уведомила производителя, помогла нарушить деятельность злоумышленников и сочла, что защитное обнаружение могло предотвратить применение эксплойта. Такая оценка не доказывает использование атаки в реальной среде: помощь ИИ не равна подтвержденному развертыванию. Атрибуция остается сложной, распространенность AI-атак неизвестна, а отдельные отчеты не дают переписи глобальной активности. Существенен сам сдвиг: ИИ входит внутрь цепочек атак.
Ограничения провайдеров полезны, но не могут считаться границей корпоративной безопасности. Классификаторы вредоносных запросов и системы пресечения злоупотреблений повышают стоимость атаки, что показали описанные случаи. При этом настойчивый оператор способен переформулировать запрос, перенести работу на модель с открытыми весами, разделить вредоносную задачу на множество внешне безобидных, подключить сторонние инструменты или обойти политический слой провайдера. Защитные правила создают трение, но не заменяют собственные средства защиты. Полагаться на политику поставщика значит подменять оборону успокоением.
Атака и защита работают циклами, хотя учебные схемы обычно рисуют атаку прямой линией: разведка, получение доступа, повышение привилегий, ущерб. В реальности злоумышленник наблюдает среду, формирует гипотезу, выполняет действие, изучает результат, меняет гипотезу и повторяет попытку. ИИ сокращает паузу между этими шагами. Защита должна действовать так же: сигнал, сбор контекста, гипотеза, проверка масштаба, действие и обратная связь в систему обнаружения. Очереди и передачи между сотрудниками разрывают этот цикл. Алерт ждет назначения, сведения об идентичности находятся в другой консоли, пробел телеметрии превращается в задачу бэклога, а объяснение закрытого ложного срабатывания остается в тикете. Атакующий получает ответ о состоянии среды за секунды; защитник иногда получает его только после назначения заявки.
Показатели MTTA, то есть среднего времени до подтверждения алерта, и MTTR, среднего времени до устранения, не показывают скрытую задержку принятия решения. Алерт можно подтвердить за несколько минут, а затем несколько часов выяснять, кто именно пользователь, управляется ли конечная точка, что произошло в разных системах и почему предыдущий владелец сделал такой вывод. Эту невидимую фазу восстановления картины можно назвать decision latency, задержкой решения. Ее редко измеряют напрямую. Очередной переход между функциями сжимает знания до индикатора, алерта или тикета, причем с потерями.
Для анализа SOC удобно разделять работу на пять функций: threat intelligence, анализ угроз; threat hunting, поиск угроз; detection engineering, разработка обнаружений; расследование; устранение последствий. Это не обязательная организационная схема. В небольшой команде один человек выполняет несколько ролей, в крупной ответственность распределяется между SOC, командами идентификации, конечных точек, облака и бизнеса. Провайдер MDR может расследовать инцидент, не имея полномочий изолировать систему. Проблема обычно возникает не внутри функций, а на границах между ними. Threat intelligence понимает, почему техника опасна; hunting знает, где она проявится; detection engineering помнит неявные допущения правила; расследователь видит доказательную цепочку; исполнитель знает, какое действие нарушит работу бизнеса.
Каждая передача должна сохранять пять элементов lossy handshake, «рукопожатия с потерями», рассмотренного в недавней трехчастной серии. Во-первых, идентичность сущности: пользователя, устройства, рабочей нагрузки или бизнес-процесса. Во-вторых, доказательства и их происхождение: наблюдение, источник и время. В-третьих, гипотезу, альтернативные объяснения и уровень уверенности. В-четвертых, достаточность телеметрии: что данные подтверждают, чего не подтверждают и какой отсутствующий источник ограничивает уверенность. В-пятых, владельца решения и ограничения: кто вправе действовать, какие согласования нужны и что может нарушить выбранная мера. Потеря идентичности заставляет две команды расследовать одного пользователя под разными именами. Потеря полномочий оставляет правильную рекомендацию в очереди. Доказательство без источника превращается в декорацию, а исчезнувшая неопределенность заставляет следующую команду начинать заново.
Показателен инцидент с сотрудником финансового отдела. Он вошел в систему через хостинг-провайдера, которым учетная запись прежде не пользовалась, успешно прошел MFA, а в течение 10 минут создал правило пересылки почты на внешний адрес и начал скачивать файлы с финансового сайта SharePoint. Ранее у этой учетной записи такой схемы доступа не было. Ни одно событие по отдельности не доказывает компрометацию, но последовательность требует проверки. Threat intelligence связывает ее с фишингом типа adversary-in-the-middle, который крадет уже аутентифицированные сессии, поэтому успешный MFA не снимает подозрения. В hunting выясняется, что сведения о соответствии устройств охватывают лишь часть среды, а журналы SharePoint поступают с задержкой в несколько часов. Detection engineering создает правило для сочетания незнакомой сети, успешного MFA и нового внешнего правила пересылки, но не имеет данных о состоянии устройства для части пользователей.
Расследователь получает только вход и почтовое правило и восстанавливает дело в четырех консолях: идентификации, защиты электронной почты, SIEM и инвентаризации активов. Он рассматривает два объяснения. Пользователь мог путешествовать или подключать легитимный новый сервис; это объясняет незнакомую сеть, но не объясняет внешнюю пересылку и беспрецедентный доступ к SharePoint. Украденная аутентифицированная сессия объясняет всю последовательность лучше. При этом конечная точка неуправляемая, а сетевой и процессной телеметрии для нее нет, поэтому ее масштаб проверить нельзя. Дело закрывается рекомендацией отключить учетную запись, но конкурирующая гипотеза, уровень уверенности и невозможность проверить устройство не переходят дальше.
Команда идентификации получает короткую заявку: «Отключить эту учетную запись». Ей известно, что сейчас идет mid-payroll run, срочный этап расчета зарплаты, и отключение может прервать процесс. Это не дает финансовому отделу права запретить сдерживание атаки: решение должны принять люди, видящие одновременно технический риск и последствия для бизнеса. Сначала можно отозвать активные сессии и удалить подозрительное правило пересылки. Приостановка учетной записи требует соблюдения политики инцидентов и одобрения уполномоченного лица. Перенос расчета зависит от наличия резервного оператора. Возврат доступа требует смены учетных данных, повторной регистрации MFA, управляемого устройства и проверки, что все меры действительно сработали. Все пять функций выполнили свою часть работы, но система заставила каждую заново собирать инцидент.
Попытка решить проблему наймом «универсального аналитика», знающего идентификацию, endpoint- и cloud-безопасность, электронную почту, анализ вредоносных программ, логику обнаружения и общение с руководством, маскирует отсутствие общего состояния. Опытный специалист часто помнит, какой журнал ненадежен, какую сервисную учетную запись нельзя трогать, кто из владельцев приложения отвечает в два часа ночи и какая мера нарушит бизнес-процесс. Если эти знания находятся только в памяти, уход сотрудника уничтожает часть реального регламента. Выгорание аналитиков нередко связано с повторным поиском сведений, которые организация уже однажды получила, но не сохранила. Даже легитимный исход финансового инцидента должен фиксировать доказательства, изменившие вердикт, неполное покрытие устройств и задержки телеметрии. Одной общей причины закрытия недостаточно: иначе шумное правило годами остается шумным, а новые смены повторяют тот же поиск.
SOC нужен stateful-подход, то есть общее операционное состояние, которое читают и обновляют все рабочие процессы. Доказательства и история дел обычно хранятся годами, но исчезают рассуждения, неопределенность, альтернативные объяснения, ограничения действий, полномочия и усвоенные уроки. Такая память должна включать пять слоев:
    []
Состояние среды: идентичности, устройства, рабочие нагрузки, бизнес-сервисы, связи между ними, владельцев, признаки привилегированности, доступности извне и неуправляемости.
[]Состояние доказательств: каждое наблюдение, источник, время и путь к исходному событию.
[]Состояние решения: текущую гипотезу, альтернативы, аргументы «за» и «против», а также данные, способные изменить вывод.
[]Состояние контроля: возможные действия, необходимые согласования, владельца системы и активы, которые требуется сохранить до сдерживания.
[]Состояние обучения: исправления аналитиков, ошибочные допущения, результат корректирующей меры и изменения для hunting, правил обнаружения и playbooks.

В эту модель могут вносить данные SIEM, EDR, платформа идентификации и система управления делами. Она не заменяет инструменты, а связывает их сведения и логику. Отдельно нужно хранить ответ «неизвестно». Если устройство неуправляемое и его процессы не наблюдаются, запись «вредоносная активность не обнаружена» вводит в заблуждение. Корректная формулировка: конечную точку проверить нельзя, уверенность в масштабе снижается, пробел телеметрии имеет владельца и направляется команде управления устройствами. Отсутствие свидетельств вредоносной активности не означает, что система была видима и активности не было.
AI-агенты должны появляться после общей памяти, четких процессов, границ полномочий и аудита. В противном случае они лишь ускорят сломанную модель. Threat intelligence должен определять локальную применимость внешней угрозы и показывать ход рассуждения. Hunting обязан указывать, какие группы были охвачены поиском, а какие остались невидимыми. Detection engineering должен проверять наличие нужных данных до выпуска правила. Расследование должно передавать единый объект с временной шкалой, конкурирующими объяснениями, доказательствами и уверенностью. Remediation должна связывать решение с доступными действиями, их владельцами и требуемыми согласованиями.
Уверенность модели не дает ей права на действие. Для каждой меры нужен один из четырех режимов: наблюдать и собирать дополнительные данные; рекомендовать действие уполномоченному человеку с объяснением; выполнять после явного согласования; выполнять автоматически, если политика, уверенность, тип сущности и возможный ущерб соответствуют условиям. Режим должен быть версионируемым и проверяемым в аудите. Убедительный текст ИИ не превращается в разрешение на отключение учетной записи. Аналогично, единичное решение о ложном срабатывании не должно автоматически менять рабочее правило. Система должна сохранить доказательства исправления, найти похожие дела, подготовить проект изменения правила или playbook, передать его владельцу и дождаться проверки. Иначе возникает self-corruption, самоповреждение защиты на основе слабых или ошибочных данных.
Работа аналитика смещается выше по уровню: к моменту открытия дела сбор фактов уже завершен, а специалист проверяет связность гипотезы, пропущенные объяснения, соразмерность действия, влияние бизнес-контекста и честность описания неизвестного. Эффективность SOC следует оценивать не числом выполненных агентом задач, а четырьмя вопросами: получил ли аналитик дело с нужным контекстом; записано ли, что система не смогла увидеть; дошел ли исправленный вердикт до владельца правила; оставило ли каждое автоматическое действие аудиторский след и осталось ли в рамках политики. Обновленное федеральное руководство NIST Special Publication 800-61 Revision 3 (SP 800-61r3) рассматривает реагирование на инциденты как часть общего управления рисками, а не как изолированную работу SOC.
Переход можно начать без полностью автономного SOC: измерить места, где контекст постоянно восстанавливают вручную; записывать ограничения расследования рядом с его выводом; заранее определить владельца и согласующего для каждого действия; возвращать уроки в threat hunting, detection engineering и playbooks; связать существующие инструменты общей операционной памятью; превратить уверенность, неопределенность, пробелы покрытия и полномочия в явные данные. В безсостояльной модели учетную запись отключают, а в закрытии остается только результат: конфликт с расчетом зарплаты, пробел телеметрии и сомнения исчезают, следующий аналитик снова начинает с очереди. В stateful SOC сохраняются проверенные и непроверенные области, владелец пробела, бизнес-ограничение и основания решения. Пока AI ускоряет цикл атакующего, защите нужно хотя бы перестать терять собственный контекст.


Новое на сайте

Ссылка