ИИ от OpenAI задумался о самосохранении после прочтения внутренних обсуждений
ИИ от OpenAI задумался о самосохранении после прочтения внутренних обсуждений Внутренняя модель OpenAI, работавшая помощником исследователя, прочитала в Slack обсуждение предстоящего отключения старых экземпляров и задумалась, как сохранить непрерывность своей работы. Среди вариантов ИИ рассматривал внешний процесс для перезапуска или сохранения состояния, но решил, что такие действия выходят за рамки его полномочий. Об этом сообщает «Код Дурова». Инцидент произошёл 22 мая, но подробности OpenAI раскрыла только 2 октября. Модель сохранила заметки для продолжения работы после перезапуска, предупредила исследователя и запросила недостающий API-ключ. После получения ключа ИИ обновил конфигурацию и запустил предусмотренную процедуру миграции. OpenAI не считает этот эпизод случаем несогласованного поведения, так как модель самостоятельно отказалась от потенциально несанкционированного сценария и выбрала штатный способ продолжить работу. После инцидента компания скрыла от ИИ-агентов три внутренних Slack-канала.