🔬 Аудит прозрачности модели DiffusionGemma от Google DeepMind — 28 июня 2026 г. в 08:00:05.083
🔬 Аудит прозрачности модели DiffusionGemma от Google DeepMind Недавно исследователи провели строгий аудит прозрачности модели DiffusionGemma, которая обладает 26B параметров и была разработана Google DeepMind. Анализ внутренних параметров модели затрагивал важные аспекты, такие как непрозрачная последовательная глубина, вариативная прозрачность, мониторируемость и алгоритмическая прозрачность. Они предложили метод, который позволяет преобразовывать непрерывные латентные состояния в интерпретируемые дискретные токены. Это соответствует современным требованиям к прозрачности и интерпретируемости ИИ. Переход от авторегрессионных методов к скрытым вычислениям в латентном пространстве может ограничить контроль над работой ИИ. Однако исследование демонстрирует, что с помощью простых модификаций, таких как метод Logit Lens, возможно проецировать скрытые шаги в понятные человеку токены без ых потерь в качестве генерируемого контента. Это открывает возможности для полноценного аудита работы модели. Подробнее: https://aisrc.ru/prompts/copywriters