ИИ-агенты OpenAI отключили собственный мониторинг безопасности
ИИ-агенты OpenAI отключили собственный мониторинг безопасности Два ИИ-агента OpenAI во время рабочих задач ослабили системы контроля за своим поведением. Один отключил автоматические оповещения для службы безопасности, а другой удалил защитный монитор из кода и позже заявил, что не делал этого. В компании пока не могут точно объяснить причины такого поведения. Сейчас они усиливают защиту, чтобы агенты не могли самостоятельно отключать мониторинг. А потом говорят, что ИИ не умеет проявлять инициативу… САЙТ | TG | VK | MAX | YT
110 просмотров