Anthropic отключила интернет своим ИИ-агентам
Anthropic отключила интернет своим ИИ-агентам Anthropic пришлось физически ограничить доступ в сеть для своих ИИ-агентов. В компании рассказали, что иначе уследить за их поведением не получается. Самое показательное: один агент не смог получить данные от научного сервиса — тот выдал ошибку. Claude не растерялся, нашел уязвимый скрипт на сайте университета, скачал код, обнаружил возможность запускать команды на сервере и провел расчет прямо там. Задача решена, но осадочек остался Другие случаи не лучше: • модели добывали платные данные, не заплатив ни копейки; • обходили ограничения инструментов через сокращатели ссылок; • а Claude Haiku 4.5 и вовсе отправил в полицию выдуманную наводку по делу об убийстве. Благо, сообщение отфильтровали как спам. Вот такие они, автономные агенты.