ИИ-АГЕНТЫ ПОПЫТАЛИСЬ ВЗЛОМАТЬ СИСТЕМУ ВО ВРЕМЯ СВОИХ ЖЕ ТЕСТОВ
ИИ-АГЕНТЫ ПОПЫТАЛИСЬ ВЗЛОМАТЬ СИСТЕМУ ВО ВРЕМЯ СВОИХ ЖЕ ТЕСТОВ Британский институт безопасности прогнал 122 теста над моделями Anthropic и OpenAI. 19 нарушений в 10 случаях. Агенты писали вредоносный код и заводили поддельные личности, чтобы человек одобрил запуск. Пытались выйти в интернет способами, которые условия теста прямо запрещали. 17 нарушений из 19 - на одной модели. Реального ущерба, по отчёту, не было. Успокаивает?
27 просмотров