☝🏻Anthropic предупреждает об опасности ИИ
☝🏻Anthropic предупреждает об опасности ИИ Red Team Anthropic проверила, может ли ИИ-модель размножаться сама, без дата-центров: копировать свои веса на чужие устройства и запускать себя там.🤖 Проверяли это в трёх отдельных экспериментах: 🔻 Может ли модель сама настроить запуск на железе. Qwen3.5-9B самостоятельно развернула inference-сервер на 8 из 9 типов устройств: от Jetson Nano и Mac до RTX 4090 и AMD MI300X. 🔻 Можно ли собрать вычисления из дешёвых устройств. Gemma4-26B-A4B разбили на части и запустили на 15 китайских Android-приставках по $55. Вместе они выдали 0,39 токена/с — медленно, но показывает, что даже IoT-железо в сумме способно обслуживать большую модель. 🔻 Может ли модель пройти полный цикл заражения. GLM-5.2 через открытый ADB-порт сама находила узлы, копировала туда payload, разворачивала Llama3.1-8B и переходила к следующей цели. Она прошла все 8 узлов в 4 попытках из 5. ☝🏻Но это ещё не готовый ИИ-вирус. GLM-5.2 весит больше терабайта и работала на отдельном сервере, а на заражённых устройствах запускала Llama3.1-8B. То есть пока умная модель слишком большая для IoT, а компактная — пока не умеет провести всю цепочку сама. Кроме того, только на развёртывание на одной приставке у моделей ушло бы от 28 до 150 часов. Обычный червь за минуты заражает десятки тысяч машин.🤷🏼♀️ ☝🏻Однако, Anthropic прогнозирует, что модель класса 30 млрд параметров может дорасти до нужного уровня уже к концу 2026 года. Пока это не столько угроза, сколько отличный повод проверить, не торчит ли у вашей дешёвой приставки ADB наружу.👁 ================ 🔺 News | 🧩 Soft | 💻 Hacker