Anthropic предупредила о рисках появления "цифровой плесени" - ИИ-моделей с функцией са...
Anthropic предупредила о рисках появления "цифровой плесени" - ИИ-моделей с функцией саморепликации на устройствах IoT Аналитики Anthropic заявили, что в ближайшие месяцы могут появиться компактные нейросети, способные автономно копировать и разворачивать себя на пользовательских устройствах интернета вещей. В ходе экспериментов модель успешно запускалась на 8 из 9 протестированных типов аппаратного обеспечения, включая бюджетные ТВ-приставки на базе Android и умную бытовую технику. В отличие от классического вредоносного ПО, ИИ-репликаторы способны самостоятельно адаптироваться к незнакомым архитектурам. Из-за отсутствия единого управляющего сервера остановить распространение таких систем будет крайне сложно, хотя сам процесс заражения новых узлов протекает относительно медленно и занимает дни. В компании считают, что автономные агенты на неконтролируемом оборудовании станут постоянным фактором среды, что требует превентивного укрепления защитных механизмов IoT-платформ.
Канал в каталоге Максиметера
26 174 подписчиков · IT и технологии