Нейро-Инсайдер: Слухи об ИИ, Новости про нейросети.
IT и технологии · 14 октября 2026 г.
Новый метод обхода фильтров безопасности RISE
Новый метод обхода фильтров безопасности RISE Исследователи представили систему RISE, принятую на конференцию NeurIPS 2026, которая автоматически генерирует стратегии для обхода фильтров безопасности нейросетей. Метод использует итеративный поиск уязвимостей с проверкой результатов по человеческой разметке. В тестах на генерацию контента с обнаженной натурой система показала успех в 13,33% случаев для DALL-E 3, 9,47% для Nano Banana 2 и 3,27% для GPT-Image-2 при стандартных настройках модерации. Авторы отмечают, что использование актуальных методов поиска уязвимостей эффективнее, чем повторное применение устаревших атак, против которых защиты моделей уже адаптированы. 📰 Подписаться на канал