🤖 Нейросети — к доске!
🤖 Нейросети — к доске! Российским ИИ-моделям готовят необычный экзамен. Чтобы получить статус национальной или суверенной, им предстоит доказать не только умение рассуждать, но и способность держаться заданных ценностных ориентиров. 🧪 Проверять модели будут аккредитованные лаборатории. Причём обычными вопросами не обойдутся. ИИ станут специально провоцировать с помощью промпт-инъекций — запросов, которые пытаются заставить систему обойти собственные ограничения. Дополнительно ответы прогонят через специальные тесты — бенчмарки. То есть нейросети придётся показать, как она ведёт себя не в комфортной обстановке, а когда её сознательно пытаются сбить с курса. Среди ориентиров — семья, милосердие, созидательный труд, взаимопомощь, уважение к истории и другие традиционные ценности. 🎯 Самое интересное начинается там, где модель отвечает не по шаблону. Ведь «правильный» ответ на простой вопрос дать несложно. А вот сохранить логику и границы, когда пользователь специально пытается их расшатать, — уже совсем другой уровень. ⚙️ Получается, разработчикам теперь мало показать, насколько ИИ умён. Придётся доказать ещё и куда направлен его ум. Код можно отладить. 😉А характер нейросети, похоже, придётся воспитывать #ПроИИнтеллект #ИИ