Как пишут исследователи, эффективное применение языковых моделей в кибербезопасности тр...
Вложенный файл
Откройте файл в новой вкладке
Как пишут исследователи, эффективное применение языковых моделей в кибербезопасности требует точного понимания профильной терминологии, техник атак и специфического операционного контекста. Стандартная практика предметной адаптации обычно опирается на непрерывное предварительное обучение (continual pre-training, CPT) на гигантских массивах сырых текстов с последующим дообучением по инструкциям (SFT). Однако качественные доменные данные по кибербезопасности остаются в дефиците, а ключевой практический опыт специалистов зафиксирован не столько в привычных длинных текстах, сколько в компактных технических артефактах. 👨🔬Авторы исследования предложили альтернативную методологию и сделали ставку на промежуточное обучение (mid-training) между общим предварительным обучением и этапом постобучения. Главная идея состоит в том, что адаптация под сферу ИБ представляет собой задачу проектирования обучающего корпуса, а не механического наращивания объёма токенов. Вместо огромных объёмов необработанной информации исследователи сформировали компактный экспертный корпус и трансформировали его в структурированные синтетические обучающие данные высокой плотности. 📊Ключевые результаты исследования: ▪️Заметный прирост точности в профильных задачах. В тестах по кибербезопасности модель MiST-8B достигла средней точности 61,7% в версии DPO и 62,4% в версии SFT, тогда как базовая Qwen3-8B показала лишь 48,6%. Абсолютный прирост составил 13,1 процентного пункта, что соответствует относительному улучшению на 27,0%. Модель MiST-32B набрала 63,2% против 54,6% у базовой версии, прибавив 8,6 процентного пункта (относительный рост на 15,8%). ▪️Превосходство над аналогами своего класса. Модель MiST-8B обошла другие специализированные открытые ИИ-модели схожего веса, включая Foundation-Sec-8B (53,5%), Primus-8B (50,6%) и RedSage-8B-DPO (56,5%). Кроме того, она опередила проприетарную GPT-5.4-nano (53,4%) и показала сопоставимый уровень с более крупной GPT-5.4-mini (61,2%). ▪️Преимущество синтетики над объёмом сырых данных. Авторы сравнили свой подход с классическим непрерывным предобучением (CPT) на сыром массиве из 2,4 млрд токенов, что вдвое превышает выборку промежуточного обучения MiST. Модель MiST превзошла этот аналог практически во всех бенчмарках, подтвердив приоритет продуманной структуры обучающих материалов над их валовым количеством. ▪️Сохранение широкого кругозора. На общедоменных тестах (MMLU, GSM8K, ARC-C, IFEval) показатели MiST в целом сохранились или выросли, а авторы предполагают, что добавление общих инструкций Dolci помогло предотвратить катастрофическое забывание базовых навыков. ▪️Эффективный фундамент для последующей адаптации. Модели MiST адаптируются к узким прикладным задачам значительно лучше базовых версий. В сценарии обучения с подкреплением (алгоритм GRPO для сопоставления CVE с CWE, расчёта векторов CVSS и сопоставления уязвимого кода с CWE) они быстрее выходили на высокую точность и требовали меньшего расхождения политик. При специализированном дообучении на поиск уязвимостей в коде на бенчмарке PrimeVul модель также показала существенно более высокий прирост парной точности. ▪️Укрепление барьеров безопасности. На бенчмарке CyberSecEval MITRE доля безопасных ответов и отказов от содействия атакам у MiST-8B составила 85,3% для версии DPO и 89,8% для версии SFT против 75,8% у исходной Qwen3-8B, поэтому глубокая предметная специализация не разрушила встроенные защитные механизмы.