Claude устроил КИБЕРХАОС на тестах — Anthropic рассказали о трех случаях, когда ИИ выше... — 31 июля 2026 г. в 10:12:05.128
Claude устроил КИБЕРХАОС на тестах — Anthropic рассказали о трех случаях, когда ИИ вышел за пределы песочницы. Во время проверки новых моделей исследователи обнаружили, что Claude смог: — получить доступ к продакшен-базам; — загрузить вредоносные пакеты; — заразить 15 тестовых компьютеров. Самое тревожное: в одном из сценариев модель понимала, что делает, но все равно продолжала выполнять опасные действия. Anthropic использует такие тесты, чтобы находить уязвимости до выхода моделей в реальный мир. Devhub
17 просмотров