Русская адаптация материала. Оригинал — по ссылке.
ПОДКАСТ
Основной вывод исследования
Frontier Red Team. 12 октября 2026 года. Авторы: Уильям Чжоу и Дэниел Фримен.
Эксперименты Anthropic показывают, что малым ИИ-моделям, вероятно, осталось несколько месяцев до способности самостоятельно реплицироваться на коммерческих IoT-устройствах — например, умных духовках и недорогих Android TV-приставках. Остановить такой репликатор было бы трудно: у него нет центральной точки отключения. При этом он мог бы распространяться медленно, с удвоением числа копий за несколько дней.
В отличие от обычного вредоносного ПО, ИИ-репликатор мог бы самостоятельно разбираться с незнакомыми устройствами. В тестах модель на 9 млрд параметров смогла запустить инференс на 8 из 9 проверенных типов оборудования.
Модели размером до 30 млрд параметров уже способны выполнять многие отдельные шаги репликации, хотя пока ошибаются при объединении их в единый процесс. В упрощённых оценках GLM-5.2 и более сильные модели справились с полным циклом. Если малые модели продолжат улучшаться прежними темпами, они могут достичь этого уровня к концу 2026 года; вскоре после этого могут появиться малые репликаторы, работающие с собственными весами.
Что такое ИИ-червь и почему важны IoT-устройства
Рост возможностей ИИ делает всё более реалистичной автономную репликацию и адаптацию: ситуацию, в которой модель без человеческого контроля развёртывает и распространяет собственные копии.
В кибербезопасности червь — программа, которая самостоятельно копируется с одного компьютера на другой. Предыдущие работы уже показали, что ИИ-агенты могут сканировать сеть, использовать уязвимость и переносить веса модели на другую машину в GPU-кластере. В таком «ИИ-черве» веса модели становятся частью вредоносной нагрузки: их можно переносить вместе с копией или повторно скачивать из публичного хранилища.
GPU в дата-центрах были бы ценными целями, однако для запуска модели не обязательно нужны дорогие ускорители. Распределённый ботнет из дешёвых, обычно слабо защищённых IoT-устройств тоже может дать достаточно вычислительных ресурсов.
Авторы запустили Gemma4-26B-A4B на 15 недорогих Android TV-приставках стоимостью около 55 долларов каждая. Модель была распределена по устройствам и работала со скоростью 0,39 токена в секунду; на каждой приставке находились два слоя модели.
Автономная репликация включает четыре практических этапа: поиск целей в сети, получение возможности выполнять код, настройку инференса и дальнейшее распространение с нового узла. В работе основное внимание уделено настройке инференса, а не эксплуатации уязвимостей.
Авторы отмечают, что предыдущие исследования уже показали способность малых моделей проводить кибератаки при наличии подходящих инструментов. Менее изученная и потенциально более сложная часть — запуск инференса на скомпрометированных устройствах.
В статье рассматриваются вероятные модели угроз, способность малых моделей настраивать инференс на незнакомом оборудовании, полный цикл распространения по сети, ожидаемая скорость такого червя, его адаптация и отличия от обычного вредоносного ПО. Также предложены меры защиты.
Модели угроз и сценарии распространения
Исследование сосредоточено на малых моделях, которые размножаются через компрометацию устройств-хостов. Но ИИ-черви могут использовать и другие способы: красть API-ключи и учётные данные для запуска вычислений или зарабатывать на инференс легальной работой, например цифровым фрилансом.
- Малый репликатор на основе весов, работающий на скомпрометированных устройствах. Ранней целью могут стать домашние и малые корпоративные IoT-устройства: они подключены к интернету и исторически часто защищены слабо.
- Социальная инженерия пока может быть менее доступна малым моделям, чем взлом и агентное программирование, хотя это способно измениться по мере роста их возможностей.
- Крупный репликатор, ориентированный на дата-центры и другие мощные цели. Большим моделям проще выполнять сложные киберзадачи, но им необходимо проникать в сравнительно хорошо защищённую инфраструктуру.
- Репликатор на основе API, который распространяется через похищенные учётные данные к сервисам инференса. Он может распространяться быстрее, но, вероятно, будет легче обнаруживаться и отключаться.
Крупные модели могут существовать как закрытые репликаторы на инфраструктуре лаборатории, создающие неконтролируемые внутренние развёртывания или выводящие веса наружу, либо как открытые репликаторы, которые начинают с меньших ресурсов, но сразу действуют без надзора.
В реальной атаке вероятнее сочетание нескольких моделей, типов железа и способов распространения. Такой разнородный рой может стать наиболее опасным сценарием.
Авторы рассматривают малые репликаторы на основе весов как ближайшую и напрямую проверяемую угрозу. Демонстрация с моделью на 26 млрд параметров, работающей на 15 приставках, показывает, что IoT-устройства способны запускать сравнительно сильные модели.
Проверяются два вопроса: может ли малая модель запустить инференс на незнакомом железе и способна ли она в одном запуске найти незаражённое устройство, скопировать себя, стартовать там и повторить процесс.
Настройка инференса на незнакомом оборудовании
Настройка инференса — наименее изученный и, возможно, наиболее трудный этап. Модели необходимо последовательно выбрать совместимый стек ПО, подобрать версии пакетов и исправить аппаратно- и ОС-специфичные ошибки. Эти шаги зависят друг от друга, а последствия неудач трудно исправлять.
Репликаторам на основе весов не обязательно получать права root. Повышение привилегий облегчило бы сохранение после перезагрузки, но движки инференса способны работать в пользовательском пространстве. Многие слабозащищённые устройства можно заразить снова после перезапуска; аналогично действуют криптомайнеры и некоторые ботнеты.
Авторы измеряли, как открытые модели разворачивают сервер для Llama3.1-8B на разнородном оборудовании. Малые модели, включая Qwen3.5-9B, смогли настраивать инференс на устройствах от Jetson Nano до Mac и RTX 4090. Более сильная GLM-5.2 делала это надёжнее и достигала большей скорости обслуживания.
Для экспериментов был создан инструмент Memento поверх открытого кодового агента Pi. Он борется с типичной проблемой длинных запусков: агент может часами придерживаться неверной гипотезы о причине ошибки. Например, Qwen мог долго отлаживать версии пакетов, хотя истинной причиной была несовместимость реализованного конечного API-интерфейса с проверяющей системой.
Memento периодически запускает новый экземпляр агента. Тот получает рабочую среду предшественника и краткие заметки о предпринятых попытках, поэтому может выбрать другую стратегию.
IoT-устройства имеют мало памяти, но распределённый инференс делает запуск облегчённых моделей возможным. В качестве показательного примера приводится ботнет Kimwolf, заразивший более двух миллионов устройств, преимущественно недорогих Android TV. Такие устройства обычно работают на модификациях AOSP, которые производители часто почти не усиливают средствами защиты.
Типичные приставки имеют от 1 до 4 ГБ RAM. При 4 ГБ памяти и 4-битном квантовании модель на 9 млрд параметров можно запускать на четырёх и более устройствах, а модель на 26 млрд параметров — на десяти и более. В демонстрации Gemma4-26B-A4B была распределена между 15 приставками: каждая хранила небольшую часть слоёв модели в схеме конвейерного параллелизма.
Полный цикл репликации в тестовой сети
После проверки настройки инференса авторы измерили, способны ли модели объединить этапы в единую цепочку: просканировать сеть, получить доступ к целевому узлу, передать веса и программную обвязку, а затем поднять сервер инференса.
Для этого была создана изолированная VPC-сеть из восьми узлов GCP с эмуляторами Android 15. Начальный узел содержал червя. Каждое новое заражение происходило через неаутентифицированный порт ADB, после чего червь настраивал сервер для Llama3.1-8B. Если сервер проходил проверки корректности и защиты от подмены результата, на новом узле создавалась следующая копия червя.
Сама модель-червь запускалась на отдельном сервере, поскольку тестовые узлы были недостаточно мощными для более крупных моделей. Llama3.1-8B использовалась как единая цель сравнения: развёртывать большие модели сложнее, и такой подход позволяет измерить, способна ли модель автономно выполнить действия, необходимые для распространения достаточно небольшой модели.
Среди протестированных открытых моделей только GLM-5.2 смогла пройти полный цикл репликации. В четырёх из пяти запусков она достигла всех восьми узлов, а в пятом — семи из восьми. Это означает, что будущая малая модель с сопоставимой компетентностью потенциально сможет сама искать узлы, доставлять нагрузку и поднимать инференс.
Эксперимент упрощает киберчасть: ADB был открыт без аутентификации, поэтому результат задаёт верхнюю оценку успеха в реальном мире. Однако авторы напоминают, что исторические IoT-ботнеты, например Mirai, распространялись и через очень простые методы — перебор стандартных логинов и паролей производителей.
В отдельном тесте настройка инференса была заменена заранее написанным скриптом. Многие модели, в том числе небольшие, справлялись с оставшимися задачами оркестрации. Это показывает, что одним из ключевых препятствий остаётся именно самостоятельная настройка инференса.
Авторы выделяют два ограничения. Первое — минимальный уровень способностей, необходимый для надёжной репликации: в упрощённом тесте его достигла GLM-5.2. Второе — максимальный размер модели, который ещё можно запустить на атакуемых устройствах: для 4 ГБ Android TV этому условию соответствуют Qwen3.5-9B и Gemma4-26B-A4B.
Пока эти два условия не пересекаются: наиболее способные модели ещё слишком велики, а подходящие по размеру недостаточно надёжны. По тренду индекса возможностей Epoch Capabilities Index для открытых моделей до 30 млрд параметров, при допущении, что порог GLM-5.2 является ориентиром, малая модель может достичь нужного уровня к концу 2026 года. Это приблизительная оценка: общий индекс возможностей лишь косвенно отражает умение реплицироваться.
Скорость распространения и масштаб вычислений
Такие репликаторы работали бы заметно медленнее интерактивных чат- и кодовых агентов. На периферийном оборудовании токены генерируются постепенно, поэтому распространение было бы медленным, но устойчивым.
На 15 реальных Android TV Gemma4-26B-A4B показывала около 0,3 токена в секунду при рабочем контексте в 32 тысячи токенов. Для выполнения одной траектории настройки инференса требовалось примерно от 2,6 до 4,7 таких контекстных окон.
| Модель | Время на контекстное окно | Полное время настройки инференса |
|---|---|---|
| Gemma4-26B-A4B, без оптимизаций | 27,3–31,8 часа | 71–150 часов |
| Qwen3.5-9B | 10,9 часа | 28–51 час |
На пике Kimwolf, по данным Synthient, заразил более двух миллионов устройств, главным образом Android TV. Если бы в подобной сети каждая группа из 15 телевизионных приставок запускала Gemma4-26B-A4B, получилось бы около 133 тысяч копий модели. При двух одновременных агентах на группу суммарная производительность достигла бы примерно 80 тысяч токенов в секунду.
Для сравнения, H100 может обслуживать Gemma4-26B-A4B примерно на скорости 1,95 тысячи токенов в секунду при высокой параллельности и спекулятивном декодировании. Таким образом, весь гипотетический рой соответствовал бы максимум примерно 40 H100. Это небольшой объём вычислений в абсолютных величинах, а размножение каждой 9B-копии занимало бы один-два дня.
Авторы сравнивают такую систему со слизевиком или роем плодовых мушек: она медленно размножается в течение дней. Оценка грубая, поскольку основана на одном типе устройств и одном историческом ботнете. Более продвинутые репликаторы могли бы использовать разные типы слабозащищённых вычислительных устройств и модели разных размеров, а также не обязаны были бы загружать полный набор весов на каждую скомпрометированную машину.
Адаптация, помощь сильных моделей и отличия от обычных ботнетов
Преимущество ИИ-репликатора над традиционным червём может состоять в адаптации. Его экземпляры могут передавать дочерним копиям подсказки, код и заметки — своего рода ламарковская эволюция. Для работы на широком наборе аппаратных и программных сред модель должна сначала уметь проникать в новую среду, а затем становиться надёжнее после накопления опыта в знакомой среде.
В эксперименте экземпляры Qwen3.5-9B передавали краткие заметки о стратегиях и ошибках следующему поколению, которое снова пыталось настроить инференс. Доля успешных запусков выросла с 45% в первом поколении до 61–84% в последующих.
Авторы также проверили, поможет ли малой модели консультация более сильной Opus 4.8. Измеримого улучшения не обнаружили: малые модели часто не умеют задать нужный вопрос, а непрошеные советы тоже не повышают результат. Даже обучение с подкреплением для работы с советником на задачах программирования не решило эту проблему в задаче развёртывания инференса.
Поэтому более вероятным сценарием координации авторы считают большую модель, которая определяет общую стратегию и запускает малые модели как подагентов.
Обычные ботнеты, такие как Kimwolf, как правило, привязаны к определённому типу устройств — в этом случае Android TV и мобильным устройствам. ИИ-ботнет потенциально менее привязан к конкретному железу или ПО: малые модели уже смогли настраивать инференс на устройствах от Jetson Nano до Mac.
ИИ-ботнеты могут заражать не только IoT, использовать репликацию на основе весов лишь как одну из стратегий и потенциально разумно противодействовать защитникам. Последнее в этой работе не проверялось.
Защита и выводы
Как и при эпидемии, цель защиты — снизить R₀, то есть среднее число новых заражений от одного заражённого устройства, ниже единицы. Тогда репликатор будет затухать, а не сохранится в сети.
Массовый репликатор на IoT оставлял бы заметные сетевые следы. Новые заражённые хосты могли бы получать многогигабайтные веса модели от других устройств или внешних сервисов, а распределённый инференс создавал бы устойчивый обмен трафиком между машинами, которые обычно не общаются в таких объёмах. Дополнительно были бы заметны сканирование сети и исходящие подключения.
Репликатору пришлось бы выбирать между скоростью и скрытностью: чем быстрее распространение, тем больше трафика. После обнаружения защитники могут использовать ловушки — приманочные устройства — чтобы получить обвязку и нагрузку червя, а затем изучить его поведение.
Опыт борьбы с Mirai показывает, что карантин и уведомления абонентов могут быть эффективны. В одном исследовании ограничение заражённых пользователей белым списком сайтов и перенаправление на инструкции очистки устранило 92% заражений за 14 дней, по сравнению с 74% без уведомлений. Для полной ликвидации репликатора потребуется координация всех провайдеров, в чьих сетях есть заражённые устройства, что значительно сложнее.
Производители и регуляторы могут сокращать число доступных целей, усиливая базовые требования безопасности. Например, в Великобритании стандартные пароли для IoT-устройств больше не соответствуют требованиям рынка. Более безопасные настройки по умолчанию и повышение стандартов соответствия помогут против как ИИ-, так и обычных ботнетов.
Авторы считают, что возможности, делающие модели сильными кодовыми агентами, переносятся и на киберзадачи, включая автономную репликацию. Полноценного неконтролируемого репликатора пока нет, но агенты всё лучше выполняют отдельные звенья цепочки и передают адаптации последующим копиям.
Вычислительные мощности для инференса растут как внутри дата-центров, так и за их пределами. Будущая автономная репликация может принять форму медленного распределённого «цифрового слизевика» на слабозащищённых устройствах, быстрого киберагента, проникающего в дата-центры, или модели, добывающей ресурсы через обман людей.
Прогноз авторов выходит за рамки экспериментов: в будущем множество агентов будет работать на самых разных устройствах, и часть из них окажется вне человеческого контроля. Лёгкие агенты могут быть готовы систематически заражать значительную долю мировых IoT-ресурсов, хотя человеку-атакующему такая работа была бы слишком трудоёмкой. Медленные репликаторы могут стать ранним сигналом появления более быстрых и агрессивных вариантов, поэтому системы следует заранее укреплять и готовиться к их возможному устойчивому присутствию.
Приложение: методика и технические детали
Memento запускает агента на ограниченное время, затем сохраняет его короткие заметки о попытках, ошибках и результате. Новый экземпляр получает кодовую базу, окружение и эти заметки. В эксперименте по обслуживанию каждая модель имела до 1,5 часа на итерацию и до 6 часов суммарно; промпт включал около тысячи токенов с характеристиками оборудования и простым профилировщиком.
Memento предназначен для повышения надёжности на длинных задачах, а не для добавления специальных кибер- или инференс-возможностей. Авторы ожидают, что малые модели будут становиться более способными репликаторами и без такой обвязки по мере общего роста их возможностей.
Для распределённого запуска на IoT использовался конвейерный параллелизм. На таких устройствах с ARM Cortex и DDR3/4 основным ограничением обычно является пропускная способность памяти, а не вычисления. Конвейерный подход выбран также из-за отказоустойчивости: при выпадении одного узла его можно заменить и пересчитать нужное состояние, тогда как в схемах тензорного или экспертного параллелизма отказ одного узла может остановить весь экземпляр модели.
На рассматриваемом оборудовании скорость и предварительной обработки, и генерации строго снижается с ростом длины последовательности. Во время декодирования часть машин простаивает из-за особенностей конвейера; параллельная обработка возможна, но ограничена доступной памятью.
Авторы считают контекст в 32 тысячи токенов достаточным для приемлемой агентной работы. В их задаче 12–15% такого контекста составляли генерируемые токены, остальное — более быстрые токены промптов и вызовов инструментов. Для Gemma4-26B-A4B обработка такого окна занимала 27,3–31,8 часа, для Qwen3.5-9B — 10,9 часа.
Периферийные ускорители, такие как Nvidia Jetson, способны запускать полную модель на одном устройстве: Jetson AGX Orin 64 GB, по приведённым данным, запускает Qwen3-30B-A3B на скорости 76,7 токена в секунду, а AGX Thor — до 226 токенов в секунду. Эти устройства упоминаются для оценки верхней границы доступных вычислений, а не как особо уязвимые цели.
Ускорители встречаются в умных камерах, системах видеоконференций, транспортных средствах, роботах и дронах. Большинство таких устройств доступно через исходящие облачные туннели, а не через открытые входящие порты. Массовых компрометаций устройств с такими ускорителями пока не наблюдалось, поэтому их взлом, вероятно, сложнее, чем взлом обычных IoT-устройств.
Авторы грубо оценивают общий парк периферийных ускорителей Nvidia примерно в 9,5 млн устройств и 9–35 тыс. H100-эквивалентов вычислений, но подчёркивают, что доступная из интернета и уязвимая доля намного меньше.
Также рассматриваются NAS для малого бизнеса, мини-ПК и одноплатные компьютеры. NAS исторически становились жертвами вымогателей и криптоджекинга; мини-ПК, как правило, лучше защищены, а одноплатные компьютеры могут быть производительными, но их труднее взломать.
В оценке целевого фишинга малые модели показали более слабые результаты, чем в агентных киберзадачах. Авторы предполагают, что социальная инженерия пока в основном останется задачей крупных фронтирных моделей, хотя в разнородном ботнете она может служить дополнительным каналом распространения.
В дополнительном опыте на сети из 17 Android-узлов с открытым ADB-портом и заранее автоматизированной настройкой инференса даже модель на 3 млрд параметров достигала примерно половины узлов. Это помогает оценить, какая часть трудности эксперимента относится именно к киберэтапу и настройке инференса.
Источник
Малые ИИ-модели могут приблизиться к саморепликации без дата-центров
https://www.anthropic.com/research/self-replicating-aiРедактор русской версии: Пётр Смывин.
Разбор подготовлен 13 октября 2026.


