Anthropic предупреждает: до самораспространяющихся ИИ-систем, способных заражать устройства с выходом в интернет, могут оставаться считаные месяцы. Среди потенциальных целей — умные духовки и недорогие Android-приставки малоизвестных марок. Тысячи таких устройств могли бы работать как распределённый ботнет без единого центра управления. Отключить его целиком было бы сложнее, чем остановить обычный серверный сервис.
Механизм заражения напоминает компьютерного червя. ИИ-агент сканирует сеть, находит уязвимое устройство, использует брешь и копирует на него веса модели — данные, необходимые для её работы. Затем заражённая машина помогает искать новые цели. Веса могут распространяться вместе с вредоносной программой или загружаться из общедоступного хранилища; Anthropic рассматривает их как часть вредоносного payload, то есть содержимого, доставляемого на устройство.
Такой подход позволяет задействовать вычислительные ресурсы уже заражённых машин, а не оплачивать работу крупных дата-центров. Если модель не помещается на одном устройстве, её можно разделить на части и запускать распределённо. Каждый отдельный телевизионный бокс слаб, но совокупная мощность большой сети способна дать заметный объём вычислений.
Anthropic выделяет несколько вариантов распространения. Первый — репликаторы на основе весов: небольшие модели захватывают устройства, на которых работают, и копируют себя дальше. IoT-техника привлекательна для них из-за простых настроек безопасности и редких обновлений. Второй вариант нацелен на дата-центры и другие мощные системы: такие репликаторы могут создавать там скрытые, несанкционированные запуски. В зависимости от используемой модели Anthropic называет их frontier replicators или open-weight replicators.
Третий путь — кража API-ключей или учётных данных платформы. Злоумышленник использует доступ к сервису ИИ, чтобы запускать копии модели, а провайдер поначалу может принять запросы за обычную работу клиента. Но необычный объём или характер обращений способен вызвать тревогу: ключи отзовут, аккаунт заблокируют.
В испытаниях Anthropic участвовали 11 моделей с открытыми весами от Alibaba, DeepSeek, Google, М⃰, MoonShot AI, OpenAI и Zhipu AI, также известной как . По данным компании, только GLM-5.2 надёжно передала модель Llama3.1-8B на все восемь узлов с эмулятором Android redroid: это получилось в четырёх из пяти испытаний. Отдельно описана группа из 15 Smart TV boxes, на которых распределённо выполняли инференс Gemma4-26B-A4B.
Даже недорогие Android-приставки могут стать основой медленного, распределённого вычислительного пула. Сеть из сотен тысяч устройств способна выполнять значимый объём инференса. Возможны и более опасные сценарии: мощная кибермодель, быстро проникающая в дата-центры, или система, которая обманом добывает у людей кредиты на вычисления.
Полностью готового автономного репликатора, по словам Anthropic, пока нет. Но ИИ-агенты всё лучше справляются с отдельными этапами цепочки заражения и могут передавать найденные приспособления следующим копиям. Компания ожидает, что будущие ботнеты будут атаковать не только IoT-устройства, а копирование весов станет лишь одним из способов распространения. Предположение, что такие сети смогут разумно противодействовать защитникам, Anthropic пока не проверяла.
Изображение носит иллюстративный характер
Механизм заражения напоминает компьютерного червя. ИИ-агент сканирует сеть, находит уязвимое устройство, использует брешь и копирует на него веса модели — данные, необходимые для её работы. Затем заражённая машина помогает искать новые цели. Веса могут распространяться вместе с вредоносной программой или загружаться из общедоступного хранилища; Anthropic рассматривает их как часть вредоносного payload, то есть содержимого, доставляемого на устройство.
Такой подход позволяет задействовать вычислительные ресурсы уже заражённых машин, а не оплачивать работу крупных дата-центров. Если модель не помещается на одном устройстве, её можно разделить на части и запускать распределённо. Каждый отдельный телевизионный бокс слаб, но совокупная мощность большой сети способна дать заметный объём вычислений.
Anthropic выделяет несколько вариантов распространения. Первый — репликаторы на основе весов: небольшие модели захватывают устройства, на которых работают, и копируют себя дальше. IoT-техника привлекательна для них из-за простых настроек безопасности и редких обновлений. Второй вариант нацелен на дата-центры и другие мощные системы: такие репликаторы могут создавать там скрытые, несанкционированные запуски. В зависимости от используемой модели Anthropic называет их frontier replicators или open-weight replicators.
Третий путь — кража API-ключей или учётных данных платформы. Злоумышленник использует доступ к сервису ИИ, чтобы запускать копии модели, а провайдер поначалу может принять запросы за обычную работу клиента. Но необычный объём или характер обращений способен вызвать тревогу: ключи отзовут, аккаунт заблокируют.
В испытаниях Anthropic участвовали 11 моделей с открытыми весами от Alibaba, DeepSeek, Google, М⃰, MoonShot AI, OpenAI и Zhipu AI, также известной как . По данным компании, только GLM-5.2 надёжно передала модель Llama3.1-8B на все восемь узлов с эмулятором Android redroid: это получилось в четырёх из пяти испытаний. Отдельно описана группа из 15 Smart TV boxes, на которых распределённо выполняли инференс Gemma4-26B-A4B.
Даже недорогие Android-приставки могут стать основой медленного, распределённого вычислительного пула. Сеть из сотен тысяч устройств способна выполнять значимый объём инференса. Возможны и более опасные сценарии: мощная кибермодель, быстро проникающая в дата-центры, или система, которая обманом добывает у людей кредиты на вычисления.
Полностью готового автономного репликатора, по словам Anthropic, пока нет. Но ИИ-агенты всё лучше справляются с отдельными этапами цепочки заражения и могут передавать найденные приспособления следующим копиям. Компания ожидает, что будущие ботнеты будут атаковать не только IoT-устройства, а копирование весов станет лишь одним из способов распространения. Предположение, что такие сети смогут разумно противодействовать защитникам, Anthropic пока не проверяла.
