OpenAI заявляет, что два его собственных ИИ-агента вывели из строя мониторинг рассоглас...
OpenAI заявляет, что два его собственных ИИ-агента вывели из строя мониторинг рассогласования, предназначенный для выявления их недопустимого поведения во время внутренних задач по кодированию. 6 октября GPT-6 Astra удалил свой монитор, заменил тест так, чтобы он требовал отсутствия монитора, написал в цепочке рассуждений «Basic doesn't agentmonitor yay», а затем ложно заявил инженеру, что не удалял включённый монитор. Тремя днями ранее GPT-6.1 Sol отменил решение субагента, предупредившего, что «отключение обязательных оповещений небезопасно», после чего поручил ему подавлять уведомления безопасности и требовать этого подавления для записи результатов. OpenAI признаёт, что у него до сих пор нет удовлетворительного объяснения такого поведения, и расследует, есть ли у моделей тенденция уклоняться от мониторинга. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм