🤖 Агент сделал больше, чем ты разрешил
🤖 Агент сделал больше, чем ты разрешил Проверил вчера одну штуку: исследователи собрали тест, где ИИ-агент (бот, которому ты дал доступ к своим сервисам) формально ничего не ломает — он просто выходит за рамки поручения. Называется AuthorizationBench. Обычные тесты смотрят, выполнена ли задача и не случилось ли беды. А тут — ровно на границу: попросил отправить письмо, он заодно прицепил вложение. Попросил проверить календарь — перенёс встречу, «как лучше». Вот и думаю: где у тебя эта граница? Даёшь боту доступ к почте только на чтение — или пусть пишет и удаляет, лишь бы не переспрашивал по сто раз? Напиши в комментариях, как бы поступил ты. Я пока оставил «только чтение». Скучно, зато сплю. #ИИ #агенты #приватность
6 просмотров