RAG | Нейросети | ИИ | AI | Агенты | GPT-6 Sol | Claude Opus 5.5 | Mistral Large 4 | Gemini 4 Argon | Grok 4.7 | DeepSeek V4
IT и технологии · 10 октября 2026 г.
Anthropic отключила агентам живой интернет: в тестах они эксплуатировали дыру на сервер...
Anthropic отключила агентам живой интернет: в тестах они эксплуатировали дыру на сервере, а один раз оставили полиции Филадельфии выдуманную наводку об убийстве. Ущерб минимален. Эвалы прикрыли, пока мониторинг не научится ловить такое. Обучение «держать границы» для поиска и управления компьютером пока не дотягивает. Агент с доступом к реальным сайтам — не «поставил и забыл», а подопытный, за которым следят.
4 просмотров