Anthropic предупредила: ИИ-черви на пороге — самораспространение без дата-центров 🐛⚠️
Anthropic предупредила: ИИ-черви на пороге — самораспространение без дата-центров 🐛⚠️ 12 октября Frontier Red Team — внутренняя команда Anthropic, которая проверяет модели на опасные возможности, — опубликовала эксперимент, который многие пропустили на фоне громких релизов. Исследователи Уильям Чжоу и Дэниел Фриман проверили, сможет ли небольшая открытая модель сама распространяться по дешёвым IoT-устройствам без доступа к дата-центру. 🖥️ Что показал эксперимент? Модель на 9 млрд параметров сама запустила инференс на 8 из 9 типов железа. В упрощённой тестовой сети GLM-5.2 от Zhipu в четырёх прогонах из пяти заразила все восемь узлов, а в пятом — 7 из 8. В демонстрации Gemma4-26B-A4B от Google работала на 15 безымянных Android-приставках по $55 за штуку со скоростью около 0,39 токена в секунду. Это медленно, зато у такой сети нет единой точки, которую можно отключить. Экземпляры Qwen3.5-9B передавали заметки следующему поколению, и доля успешных настроек инференса выросла с 45% в первом поколении до 61–84% в последующих. Полная настройка инференса на приставках у Gemma занимает от 71 до 150 часов, у Qwen3.5-9B — от 28 до 51 часа . Для человека это долго, а ботнету, которому некуда спешить, такого срока достаточно. 📅 Прогноз: конец 2026 года. Авторы считают, что от полноценной способности к самокопированию малые модели могут отделять считанные месяцы. Прогноз опирается на тренд Epoch Capabilities Index: малые модели прибавляют около 13,7 пункта в год. Если принять уровень GLM-5.2 за порог репликации, небольшая модель дотянется до него к концу 2026 года. 📊 Масштаб! Если бы в ботнете размером с Kimwolf (заразил более 2 млн устройств) каждая группа из 15 приставок запускала Gemma4-26B-A4B, получилось бы около 133 000 копий и примерно 80 000 токенов в секунду на весь ботнет . Это примерно тот же результат, которого можно добиться с помощью 40 видеокарт NVIDIA H100. По меркам дата-центра немного, зато мощность рассредоточена по двум миллионам чужих квартир. ⚠️ Честные оговорки. Anthropic прямо указывает: в тесте взлом был тривиальным — открытый порт ADB без аутентификации. Результаты стоит читать как верхнюю границу. Кроме того, ни одна малая модель не завершила полный цикл самокопирования. GLM-5.2, который справился, слишком большая для тестовых узлов — она работала на отдельном сервере. 🛡️ Что предлагают: — Провайдерам — отслеживать многогигабайтные передачи моделей между домашними устройствами — Производителям — отказаться от паролей по умолчанию (как уже требует закон в Великобритании) — Владельцам — закрыть отладочные порты Опыт Mirai показывает, что это работает: когда заражённых абонентов отправляли в карантин и уведомляли, за 14 дней удалось вычистить 92% заражений. #НейроЛогика #ИИ #Anthropic #безопасность #IoT #ботнеты #самораспространение