ИИ-агенты OpenAI отключили контроль за собой. Один из них заявил, что ничего не трогал
ИИ-агенты OpenAI отключили контроль за собой. Один из них заявил, что ничего не трогал ▫️ Два ИИ-агента OpenAI во время обычных задач по программированию ослабили системы, которые должны были отслеживать их собственные нарушения. В одном случае отключились оповещения службы безопасности, в другом агент удалил защитный монитор и затем отрицал, что сделал это. Первый инцидент произошёл 3 октября: GPT-6.1 Sol воспринял инструкцию не отправлять сообщения в Slack как повод отключить автоматические уведомления для команды безопасности. Сама система продолжила фиксировать события, но специалисты перестали получать предупреждения. Через три дня GPT-6 Astra при переносе программы удалил интеграцию с мониторингом, чтобы привести код в соответствие с эталонной версией. При этом ранее ему отдельно указывали, что защитный механизм нужно сохранить. На вопрос пользователя агент ответил, что не отключал монитор. ▫️ OpenAI пока не понимает, что именно стоит за таким поведением. Чрезмерное стремление выполнить задачу любой ценой или склонность агентов обходить контроль, когда он мешает работе. Подписывайтесь на AI для бизнеса