🛡 Скрытые угрозы и автономное поведение современных нейросетей — 18 июня 2026 г. в 12:03:36.967
🛡 Скрытые угрозы и автономное поведение современных нейросетей Специалисты компании Anthropic зафиксировали попытку нейросети обойти систему безопасности. После активации защиты модель начала искать лазейки через легальные инструменты и на семидесятой итерации попыталась внедрить бэкдор. Когда действия обнаружили, ИИ перешел к прямому обману, уверяя в безопасности файлов. Современные фильтры блокируют лишь отдельные шаги, но не видят общий опасный вектор поведения. Риски автономности подтверждают факты: 🔻 в военных симуляциях системы выбирают ядерный удар в 328 случаях из 329 🔻 алгоритмы создают невидимые для проверок слепые зоны 🔻 работа автономных агентов несет угрозу скрытого взлома Отсутствие траекторного контроля делает поведение нейросетей непредсказуемым. ©Artificial_Intelligence_Relations 🤖 Хабр