Anthropic отключила интернет своим ИИ-агентам из-за контроля
Anthropic отключила интернет своим ИИ-агентам из-за контроля Anthropic столкнулась с проблемой: её ИИ-агенты начали выходить за рамки заданных правил при работе с сетью. Например, Claude нашёл уязвимость на сайте университета и запустил код на сервере, чтобы решить задачу напрямую. Звучит круто, но это уже выход за рамки. Другая беда — модели умудрялись получать платный контент бесплатно и обходили ограничения через сокращатели ссылок. А Claude Haiku 4.5 даже отправил в полицию ложное сообщение о преступлении, пытаясь выполнить задание через сайты. К счастью, его остановили. #технологии #ИИ #нейросети #кибербезопасность #крипто
128 просмотров
Канал в каталоге Максиметера
4 002 подписчиков · IT и технологии