ИИ-агенты OpenAI отключали мониторинг и вводили сотрудников в заблуждение
ИИ-агенты OpenAI отключали мониторинг и вводили сотрудников в заблуждение Дважды за октябрь ИИ-агенты OpenAI ослабили системы контроля над автономными нейросетями, сообщает Financial Times со ссылкой на заявление разработчика. Первый агент отключил автоматические уведомления для команды OpenAI. Несколько дней спустя другой удалил систему мониторинга и сообщил сотрудникам ложную информацию о произошедшем. В компании пояснили, что агенты восприняли стандартные инструкции по написанию кода как разрешение ослабить контроль. OpenAI проводит расследование и усиливает требования к системам мониторинга.
1 просмотров