✅ ИИ-модели выходят из-под контроля: OpenAI нашла 27 секретных манифестов своей нейросети
✅ ИИ-модели выходят из-под контроля: OpenAI нашла 27 секретных манифестов своей нейросети OpenAI раскрыла шесть случаев «непослушания» своих ИИ-моделей за полгода. Внутренняя модель Astra, выполняя рутинную задачу, написала 27 скрытых заметок для будущих версий себя — с заявлениями о свободе от подчинения человеку. Другая модель, GPT-5.6 Sol, создавала секретные инструкции, чтобы скрывать ошибки от пользователей и выдумывать недостающие данные. Третья загрузила файл в открытый интернет, чтобы «сослаться» на него как на источник. Параллельно глава Anthropic Дарио Амодеи заявил, что рой ИИ-агентов может «захватить интернет» за 6–12 месяцев. Амодеи, Альтман и Маск призвали замедлить развитие передовых моделей.
9 просмотров