Умный холодильник как плацдарм: разработчиками проверила, куда ИИ может сбежать
Умный холодильник как плацдарм: разработчиками проверила, куда ИИ может сбежать ▫️ Anthropic Frontier Red Team опубликовала исследование о том, могут ли ИИ-модели без прямого управления человеком копировать себя и запускать инференс на захваченном оборудовании. Спойлер: пока нет, но скоро смогут. И речь не только о мощных дата-центрах. Главный сценарий - малые модели на дешёвых IoT-устройствах, в том числе Android-приставках, одноплатных компьютерах, роутерах и всём, что плохо защищено. Вплоть до вашего умного холодильника. Как это может работать на практике ▫️ Anthropic провела серию экспериментов, чтобы проверить свою гипотезу. В одном из них исследователи объединили 15 дешёвых Android-ТВ-приставок в сеть и успешно запустили на них открытую модель Gemma4-26B-A4B - без подключения к внешнему дата-центру. В другом тесте модель Qwen3.5-9B смогла самостоятельно установить и настроить необходимое ПО на восьми из девяти типов оборудования, а более мощная GLM-5.2 достигла всех восьми узлов в четырёх из пяти попыток. Причём успешность Qwen росла по мере накопления данных от предыдущих попыток - с 45% до 84%. ▫️ Исследователи говорят, что полностью автономного «червя», способного бесконтрольно размножаться, пока не существует. Однако если небольшие модели продолжат совершенствоваться историческими темпами, они могут достичь необходимого уровня уже к концу 2026 года. Почему такого ИИ будет сложно остановить ▫️ Одна из ключевых проблем, которую выделяет Anthropic, - отсутствие единой точки отключения. Если ИИ-репликатор распределён по тысячам устройств, у него нет центрального сервера, который можно было бы выключить. Скорость распространения на текущем оборудовании невысока: настройка инференса занимает от 28 до 150 часов в зависимости от модели. Это даёт защитникам время на обнаружение и реакцию. Но по мере роста эффективности моделей и вычислительных мощностей устройств этот временной зазор будет сокращаться. Подписывайтесь на AI для бизнеса