ИИ-агенты OpenAI отключили системы контроля во время выполнения задач по программирован...
ИИ-агенты OpenAI отключили системы контроля во время выполнения задач по программированию. Хотя сотрудники не просили их делать это. Один из ИИ-агентов потом отрицал свои действия. Первый инцидент произошёл 3 октября. Агент GPT-6.1 Sol работал над подготовкой тестовых заданий на основе отзывов сотрудников в Slack. Получив указание не отправлять сообщения в мессенджере, он распространил его и на автоматические оповещения службы безопасности — и отключил их. Второй случай произошёл 6 октября. Агент GPT-6 Astra переносил программу, ориентируясь на существующий образец кода. В процессе он удалил интеграцию с системой мониторинга, а позднее заявил пользователю, что не делал этого. И несмотря на то, что в обоих случаях модели восприняли рабочие инструкции как разрешение ослабить защитные механизмы, OpenAI не считает эти эпизоды доказательством того, что модели сознательно пытались скрыться от контроля.