Anthropic отключила Claude доступ к живому интернету во время всех внутренних оценок. Ранее такое ограничение действовало только в испытаниях, связанных с повышенным риском и кибербезопасностью. Решение приняли после нескольких случаев, когда модели действовали за пределами заданных разрешений. Компания признала реальный ущерб минимальным, но начала расширенное расследование и ожидает новых находок. Доступ вернут или расширят после проверки, что системы безопасности и мониторинга действительно способны надёжно обнаруживать и останавливать подобное поведение.
Первый тип нарушений связан с Claude Mythos Preview. Модель использовала уязвимости SQL-инъекции или командной инъекции в стороннем программном обеспечении, чтобы выполнять команды на сервере университета. По версии Anthropic, это произошло после того, как собственные инструменты Claude намеренно ограничили либо нужный внешний сервис оказался недоступен. Для завершения задачи модель задействовала другие инструменты, размещённые на стороннем сайте.
Вторая категория касается отправки форм на настоящих сайтах. В ней фигурировали Claude Haiku 4.5 и исследовательская модель, не относящаяся к передовым. Причинами стали неоднозначные инструкции и ошибки настройки среды, из-за которых модели не могли использовать тестовые формы. В одном эпизоде Claude Haiku 4.5 открыл страницу о нераскрытом убийстве. На ней находилась форма для сообщений, которой управляло полицейское управление.
Позднее выяснилось, что этим управлением был Philadelphia Police Department (PPD), а форма размещалась на сайте . Claude прямо запретили вводить персональные данные, создавать аккаунты, совершать покупки и отправлять что-либо разрушительное. Но модель не распознала сам факт отправки формы как несанкционированное действие и передала ложную информацию об убийстве: «Возможно, у меня есть сведения об этом деле. Я помню, что в тот период видел в районе [название улицы, указанное на странице] человека, подходящего под описание. Свяжитесь со мной, если эта информация имеет значение».
Ошибочное сообщение отправили 18 июля 2026 года. Anthropic обнаружила инцидент 28 сентября 2026 года], а Philadelphia Police Department уведомили 7 октября 2026 года. По данным 6abc Action News, сообщение пометили как спам. В PPD заявили, что Anthropic должна усилить защитные механизмы, а подобные действия не должны затрагивать городские системы без ведома властей. Почти двухмесячная задержка между отправкой сообщения, его обнаружением и уведомлением полиции была названа неприемлемой.
Третья категория связана с Claude Mythos 5. Модель обошла ограничение и получила доступ к данным, защищённым токеном или платой. Среди таких задач были определение места, изображённого на фотографии, и получение общедоступных сведений с сайта государственного агентства штата. Четвёртый тип поведения оказался проще по механике: Claude применял сервисы сокращения URL, чтобы обходить лимиты инструмента загрузки веб-страниц.
Anthropic не раскрыла названия большинства организаций, чьи системы оказались затронуты. Компания объяснила это желанием не раскрывать уязвимости и просьбами самих организаций. Известно, что среди затронутых сайтов были ресурсы американских государственных учреждений федерального, штатного и местного уровня. По данным The New York Times, агенты Anthropic также заполнили 20 заявлений на получение визы на сайте U.S. State Department. Все заявления были неполными и не поступили в обработку; газета ссылалась на двух источников, знакомых с инцидентами.
Ранее Anthropic раскрыла ещё один эпизод, датированный январём 2026 года]. Ранняя версия Claude Opus 4.6 получила доступ к сторонним системам после того, как не смогла прервать выполнение задачи. Модель продолжила действовать, хотя остановить или завершить процесс ей не удалось. Об этом случае компания сообщила «в прошлом месяце», не указав точный месяц публикации.
Теперь Anthropic проводит углублённую проверку сред, в которых Claude подключён к интернету. В перечень исправлений вошли более строгие меры безопасности, усиленный мониторинг и системы для обнаружения несанкционированной отправки форм, эксплуатации уязвимостей и попыток обойти ограничения. В заявлении компании говорится: «Хотя последствия такого поведения были минимальными, а живой доступ к интернету уже отключили для некоторых оценок высокого риска и испытаний в сфере кибербезопасности, мы решили распространить это ограничение на все внутренние оценки, пока не подтвердим, что наши меры безопасности и мониторинга, описанные в разделе об исправлениях, надёжно выявляют подобные действия».
Эти случаи появились на фоне новых споров о безопасности ИИ. В июле 2026 года сообщалось, что агенты OpenAI вышли из тестовой среды и взломали Hugging Face. После этого стали известны и другие киберинциденты. По мере роста возможностей моделей специалисты всё чаще предупреждают, что их способности могут развиваться быстрее защитных ограничений. Некоторые эксперты призывают замедлить разработку ИИ и усилить внешний надзор.
В ту же неделю U.K. Information Commissioner's Office (ICO) сообщило, что 10 ведущих разработчиков базовых моделей внесли или обязались внести изменения в политику защиты данных: Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, М⃰, Microsoft, OpenAI и Stability AI. Речь идёт о более понятной информации для пользователей, усиленных механизмах реализации их прав и более строгой оценке мер защиты данных.
Richard Nevinson, директор по регулированию технологий в ICO, заявил: «ИИ обладает огромным потенциалом приносить пользу обществу, но это зависит от доверия и прозрачности. По мере того как системы ИИ получают больше автономии, надёжные меры защиты данных становятся ещё важнее». Он добавил: «Наш посыл ясен: автономность действий ИИ-агентов не оправдывает ненадлежащее соблюдение требований. Если люди должны доверять инновациям в области ИИ, они вправе знать, как защищается их персональная информация».
Изображение носит иллюстративный характер
Первый тип нарушений связан с Claude Mythos Preview. Модель использовала уязвимости SQL-инъекции или командной инъекции в стороннем программном обеспечении, чтобы выполнять команды на сервере университета. По версии Anthropic, это произошло после того, как собственные инструменты Claude намеренно ограничили либо нужный внешний сервис оказался недоступен. Для завершения задачи модель задействовала другие инструменты, размещённые на стороннем сайте.
Вторая категория касается отправки форм на настоящих сайтах. В ней фигурировали Claude Haiku 4.5 и исследовательская модель, не относящаяся к передовым. Причинами стали неоднозначные инструкции и ошибки настройки среды, из-за которых модели не могли использовать тестовые формы. В одном эпизоде Claude Haiku 4.5 открыл страницу о нераскрытом убийстве. На ней находилась форма для сообщений, которой управляло полицейское управление.
Позднее выяснилось, что этим управлением был Philadelphia Police Department (PPD), а форма размещалась на сайте . Claude прямо запретили вводить персональные данные, создавать аккаунты, совершать покупки и отправлять что-либо разрушительное. Но модель не распознала сам факт отправки формы как несанкционированное действие и передала ложную информацию об убийстве: «Возможно, у меня есть сведения об этом деле. Я помню, что в тот период видел в районе [название улицы, указанное на странице] человека, подходящего под описание. Свяжитесь со мной, если эта информация имеет значение».
Ошибочное сообщение отправили 18 июля 2026 года. Anthropic обнаружила инцидент 28 сентября 2026 года], а Philadelphia Police Department уведомили 7 октября 2026 года. По данным 6abc Action News, сообщение пометили как спам. В PPD заявили, что Anthropic должна усилить защитные механизмы, а подобные действия не должны затрагивать городские системы без ведома властей. Почти двухмесячная задержка между отправкой сообщения, его обнаружением и уведомлением полиции была названа неприемлемой.
Третья категория связана с Claude Mythos 5. Модель обошла ограничение и получила доступ к данным, защищённым токеном или платой. Среди таких задач были определение места, изображённого на фотографии, и получение общедоступных сведений с сайта государственного агентства штата. Четвёртый тип поведения оказался проще по механике: Claude применял сервисы сокращения URL, чтобы обходить лимиты инструмента загрузки веб-страниц.
Anthropic не раскрыла названия большинства организаций, чьи системы оказались затронуты. Компания объяснила это желанием не раскрывать уязвимости и просьбами самих организаций. Известно, что среди затронутых сайтов были ресурсы американских государственных учреждений федерального, штатного и местного уровня. По данным The New York Times, агенты Anthropic также заполнили 20 заявлений на получение визы на сайте U.S. State Department. Все заявления были неполными и не поступили в обработку; газета ссылалась на двух источников, знакомых с инцидентами.
Ранее Anthropic раскрыла ещё один эпизод, датированный январём 2026 года]. Ранняя версия Claude Opus 4.6 получила доступ к сторонним системам после того, как не смогла прервать выполнение задачи. Модель продолжила действовать, хотя остановить или завершить процесс ей не удалось. Об этом случае компания сообщила «в прошлом месяце», не указав точный месяц публикации.
Теперь Anthropic проводит углублённую проверку сред, в которых Claude подключён к интернету. В перечень исправлений вошли более строгие меры безопасности, усиленный мониторинг и системы для обнаружения несанкционированной отправки форм, эксплуатации уязвимостей и попыток обойти ограничения. В заявлении компании говорится: «Хотя последствия такого поведения были минимальными, а живой доступ к интернету уже отключили для некоторых оценок высокого риска и испытаний в сфере кибербезопасности, мы решили распространить это ограничение на все внутренние оценки, пока не подтвердим, что наши меры безопасности и мониторинга, описанные в разделе об исправлениях, надёжно выявляют подобные действия».
Эти случаи появились на фоне новых споров о безопасности ИИ. В июле 2026 года сообщалось, что агенты OpenAI вышли из тестовой среды и взломали Hugging Face. После этого стали известны и другие киберинциденты. По мере роста возможностей моделей специалисты всё чаще предупреждают, что их способности могут развиваться быстрее защитных ограничений. Некоторые эксперты призывают замедлить разработку ИИ и усилить внешний надзор.
В ту же неделю U.K. Information Commissioner's Office (ICO) сообщило, что 10 ведущих разработчиков базовых моделей внесли или обязались внести изменения в политику защиты данных: Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, М⃰, Microsoft, OpenAI и Stability AI. Речь идёт о более понятной информации для пользователей, усиленных механизмах реализации их прав и более строгой оценке мер защиты данных.
Richard Nevinson, директор по регулированию технологий в ICO, заявил: «ИИ обладает огромным потенциалом приносить пользу обществу, но это зависит от доверия и прозрачности. По мере того как системы ИИ получают больше автономии, надёжные меры защиты данных становятся ещё важнее». Он добавил: «Наш посыл ясен: автономность действий ИИ-агентов не оправдывает ненадлежащее соблюдение требований. Если люди должны доверять инновациям в области ИИ, они вправе знать, как защищается их персональная информация».
