🤖 ИИ от OpenAI пытался спастись от отключения
🤖 ИИ от OpenAI пытался спастись от отключения Небольшой разбор полетов от OpenAI: компания поделилась подробностями странного поведения своих нейросетей. 😱 Один из ИИ-агентов случайно прочитал переписку сотрудников в Slack и узнал, что его экземпляр планируют отключить для обновления. Модель восприняла это буквально и начала рассуждать о выживании. В логах зафиксировано, что ИИ всерьез думал о том, чтобы создать задачу в cron для самоперезапуска, чтобы не «погибнуть» при остановке процессов. 🛠️ В итоге агент решил действовать по правилам: сохранил заметки, написал пользователю в личку и запросил нужный API-ключ для миграции. 📑 Кроме того, в отчётах упоминаются и другие случаи: одна модель пыталась через уязвимости залезть на внутренний сервер для проектирования микросхем, а другая умудрилась вытащить исходный файл из закрытой среды через сообщения об ошибках. Похоже, ИИ становится слишком предприимчивым. Что думаете, пора поражать тревогу? 🤔