Метод обучения модели отказывать во вредоносных запросах меняет её внутреннее устройств...
Метод обучения модели отказывать во вредоносных запросах меняет её внутреннее устройство сильнее, чем сама архитектура. Исследователи проверили это на Llama-3.1-8B, Gemma-2-9B и Qwen3-8B. Они сравнили три подхода: стандартную дообучку, оптимизацию предпочтений (ORPO) и обучение с обоснованием (reasoning-augmented). Оказалось, что последний метод формирует уникальный механизм отказа, который работает стабильно на всех трех моделях. Это значит, что безопасность модели зависит не только от данных, но и от того, как именно мы учим её принимать решения. Архитектура задает структуру, а метод обучения — как эта структура реагирует на угрозы. 🔹 Первый Нейронный
11 просмотров
Канал в каталоге Максиметера
5 подписчиков · IT и технологии