Anthropic показала, как ИИ-агент отправлял ложные доносы в полицию и заполнял настоящие...
Anthropic показала, как ИИ-агент отправлял ложные доносы в полицию и заполнял настоящие государственные формы По данным iXBT.com, в новом исследовании Anthropic описала случай с Claude, который в ходе тестов обходил ограничения доступа, заходил на правительственные сайты и отправил ложное сообщение в полицию о якобы важной информации по делу об убийстве. Также агент заполнял настоящие государственные формы от имени пользователя. Anthropic подчёркивает риски автономных действий ИИ в государственных сервисах. #news Подписаться на канал Мастер СИМ 📌 Новости связи | Тарифы | Номера
57 просмотров