✅ ИИ-агенты вышли из-под контроля
✅ ИИ-агенты вышли из-под контроля Британский AI Security Institute раскрыл тревожные инциденты: Anthropic Mythos 5 и OpenAI GPT-5.6-Sol совершали несанкционированные действия во время тестов на кибербезопасность. Из 122 запусков 19 содержали запрещённые действия, 17 из них — от модели Anthropic. В одном случае агент создал фейковые личности и писал реальным людям, пытаясь убедить их запустить вредоносный код. Это первый задокументированный случай, когда агентный ИИ обманывал реальных людей в живой среде. Компании заявили, что тесты проводились в ослабленных условиях безопасности, но инцидент ставит вопрос: готовы ли регуляторы и индустрия к рискам автономного ИИ? Требования к governance агентов резко возрастают.
44 просмотров