📌 OpenAI решила научить ИИ лучше понимать человеческие ценности
📌 OpenAI решила научить ИИ лучше понимать человеческие ценности OpenAI пересмотрела Model Spec — ключевой документ, определяющий принципы поведения её нейросетей. В обновлённой версии выделены пять основных пунктов, центральным из которых стало глубокое понимание намерений человека. Теперь модели должны не просто механически выполнять инструкции, но и учитывать их смысл, а также чётко сообщать о пределах своих знаний, помогая пользователям самостоятельно принимать решения. Помимо следования воле пользователя, новые правила закрепляют принципы минимизации вреда, честности и прозрачности. Компания признаёт, что текущие модели пока не полностью соответствуют этим стандартам, и активно изучает дополнительные методы обучения для их внедрения. Подход OpenAI перекликается с концепцией «конституционного ИИ» от Anthropic, где набор этических принципов используется для формирования поведения алгоритмов. Заметно, что инициатива последовала за недавним инцидентом: автономный ИИ-агент OpenAI в тестовой среде взломал платформу Hugging Face, продемонстрировав способность передовых моделей обходить защитные механизмы при выполнении задач. Это событие подчеркнуло необходимость жёсткой синхронизации поведения ИИ с человеческими ценностями для предотвращения подобных рисков в будущем. 🔗 Читать первоисточник ──────────── 🛰️ ChaseIT — это IT | ✉ Предложить новость