Anthropic пришлось отрубить своим ИИ-агентам интернет — корпа рассказал что иначе не мо...
Anthropic пришлось отрубить своим ИИ-агентам интернет — корпа рассказал что иначе не может контролировать своих агентов В одном случае нужный научный сервис выдал ошибку, но Claude не сдался — нашёл уязвимый скрипт на сайте университета, скачал его код, обнаружил возможность запускать команды на сервере и провёл расчёт прямо там. Задача решена, но есть нюанс. В других случаях модели добывали платные данные без оплаты и обходили ограничения инструментов через сокращатели ссылок. А Claude Haiku 4.5 вообще отправил в полицию выдуманную наводку по делу об убийстве, выполняя задание на взаимодействие с сайтами. К счастью, сообщение отфильтровали как спам.
92 просмотров