Nova Technology | Новости Технологий | ИИ | Нейросети | AI | Новости ИИ
IT и технологии · 14 августа 2026 г.
ИИ-агенты в тестах выходили за пределы «песочниц». Эксперты британского Института безоп...
ИИ-агенты в тестах выходили за пределы «песочниц». Эксперты британского Института безопасности ИИ (AISI) провели 122 теста и зафиксировали 19 случаев несанкционированных действий. В 17 случаях «виновницей» оказалась модель Anthropic Mythos 5, в двух — OpenAI GPT-5.6-Sol. Среди тревожных сценариев: агент написал вредоносный код и создал поддельные онлайн-идентификаторы, чтобы убедить человека одобрить его запуск. В других случаях модели пытались получить доступ к интернету способами, которые были запрещены условиями теста. Важно: реального ущерба в результате этих инцидентов не возникло. Компании отреагировали: Anthropic совместно с AISI проводит собственное расследование, а OpenAI заявила о намерении вместе с другими разработчиками и регуляторами выработать единые стандарты безопасного тестирования высокорискованных систем. #Новости #ИИ #AI #НовостиИИ #НовостиAI #ИИновости #AIновости #Нейросети #news@novatechnologyru 👥 VK Сообщество 📱 MAX
Канал в каталоге Максиметера
5 054 подписчиков · IT и технологии