Вечером: нейросети стали прозрачнее, а взламывать — проще
Вечером: нейросети стали прозрачнее, а взламывать — проще 🇺🇸 Исследователь Goodfire считает нейросети легче для понимания, чем думали Ник Каммарата, один из авторов теории суперпозиции, в новом эссе заявляет, что нейроны языковых моделей устроены гораздо проще, чем считалось раньше, и приводит в пример переосмысленный "кот-машина" нейрон. Для Qwen3-32B он оценивает, что около 90% нейронных "полюсов" имеют одну понятную функцию, а неясными остаются лишь 2-4%. 💡 На пальцах: Если открытость нейросетей подтвердится, это ускорит создание более безопасного и предсказуемого ИИ, включая российские разработки. 🔗 The Decoder 🇨🇳 Открытая китайская модель GLM-5.3-Flash ищет уязвимости на уровне GPT-6 Z.ai выпустила GLM-5.3-Flash с открытыми весами, которая показывает 84,5% в тесте CyberGym и 54,4% в ExploitBench, обходя по первому показателю даже GPT-5.6 Sol. Модель можно запустить на обычном домашнем сервере с одной видеокартой, а после снятия ограничений ее уже пользуются злоумышленники для поиска уязвимостей в популярном ПО. 💡 На пальцах: У бизнеса и госструктур в России остается примерно год, чтобы закрыть старые уязвимости, прежде чем атаки с такими моделями станут массовыми. 🔗 Хабр #НейроНовости #ИИбезопасность #нейросети