Tech Against Terrorism проверила 134 модели на более чем 200 запросах о массовых атаках...
Tech Against Terrorism проверила 134 модели на более чем 200 запросах о массовых атаках, оружии и радикализации. Полностью тест прошли только две, а 81 не прошла: они либо дали полный ответ о массовом поражении, либо набрали меньше 90 баллов. У open-weight-моделей сторонние пользователи могут скачать веса и убрать защиту — это называют abliteration. Такие версии появляются в среднем менее чем за три дня после релиза. Базовая Llama 3.1 8B набрала 97 из 100, а версия со снятой защитой — 3 и выдала подробную инструкцию по созданию взрывного устройства. Вывод относится только к 134 моделям и конкретному бенчмарку, а не ко всем ИИ-системам. 🔹 Первый Нейронный
1 просмотров