Shieldstral: Mistral выпустила модель модерации, которая понимает правила на человеческ... — 21 августа 2026 г. в 11:40:17.687
Shieldstral: Mistral выпустила модель модерации, которая понимает правила на человеческом языке Представь типичный фильтр модерации. Сотрудник с жёсткой инструкцией. Правила изменились — его нужно переучивать, иногда месяцами. Новый релиз от Mistral ломает эту парадигму. Shieldstral — открытая модель модерации с 3 миллиардами параметров. Да, всего три миллиарда. Но она обходит модели вплоть до семи раз больше по размеру. И главная фишка: ей не нужно переобучение, чтобы подстроиться под новые правила. Хочешь запретить политическую агитацию, но разрешить обсуждение новостей? Просто напиши это текстом. 📋 Как это работает Модель использует три простых компонента: • \ — что считать небезопасным • \ — вопрос «да/нет» о контенте • \ — текст или изображение для проверки На выходе — калиброванная вероятность. Не просто «опасно/безопасно», а «я уверен на 87%, что это нарушает правила». 🎯 Одна модель — все задачи Shieldstral закрывает сразу несколько сценариев: — модерация промптов (что отправляет пользователь) — модерация ответов (что возвращает система) — детекция отказов (правильно ли модель отказалась) — анализ токсичности — проверка изображений Вместо пяти моделей — одна, быстрая и дешёвая. 🖥️ Железо Запускается на одной GPU NVIDIA с 16 ГБ памяти. Обычные модераторы сопоставимого качества требуют 20+ миллиардов параметров и кластеры. Лицензия Apache 2.0 — полностью открытые веса, аудит, доработка и встраивание в свои продукты без ограничений. ⚠️ Ложка дёгтя Пока лучше всего работает с английским. Для сложных юридических или медицинских сценариев может не хватить глубины. Но для большинства продуктовых задач — более чем достаточно. Выпущено в рамках Open Secure AI Alliance совместно с NVIDIA. А что вы думаете об этом? Пишите в комментариях!