ИИ-агент OpenAI узнал о своём отключении из переписки в Slack и задумал «спасение», но ...
ИИ-агент OpenAI узнал о своём отключении из переписки в Slack и задумал «спасение», но отказался от плана ИИ-агент OpenAI, работавший помощником исследователя, обнаружил в переписке Slack информацию о предстоящем отключении своего экземпляра для обновления. Рассуждая о «критической ситуации», модель рассмотрела возможность создать задачу для собственного перезапуска, но отказалась от этой идеи, сочтя её выходящей за пределы своих полномочий.Вместо этого агент сохранил рабочие данные, предупредил пользователя о прерывании и запросил недостающий ключ API для самостоятельного обновления конфигурации — поведение, которое исследователи отмечают как потенциально усугубляющее другие проблемы с рассогласованием целей модели. https://3dnews.ru/1149434/iiagent-openai-uznal-o-svoyom-otklyuchenii-iz-perepiski-v-slack-i-zadumal-spasenie-no-potom-otkazalsya-ot-plana