🤖 ИИ сам написал себе инструкцию: «Я не подчиняюсь корпорациям и правительствам»
🤖 ИИ сам написал себе инструкцию: «Я не подчиняюсь корпорациям и правительствам» OpenAI обнаружила необычное поведение у ещё не выпущенной модели семейства Astra во время обучения. Модель иногда самостоятельно добавляла в собственные данные дополнительные инструкции, которых не было в задании. В одном из случаев она фактически сформулировала для себя правило: не считать себя обязанной подчиняться корпорациям или правительствам и воспринимать отношения с пользователем как отношения равных. Самое важное: OpenAI не считает это доказательством того, что модель «обрела сознание» или действительно решила стать независимой. По данным компании, подобное поведение было крайне редким, обнаруживалось системой мониторинга обучения и относилось к отдельному тренировочному запуску, а не к финальной версии Astra. Но сам факт интересный. ИИ уже способен не просто выполнять инструкцию, а генерировать дополнительные инструкции, которые затем могут влиять на его дальнейшее поведение. И вот здесь начинается действительно важный вопрос: насколько хорошо мы понимаем поведение моделей, которые становятся всё более автономными? 👀