Сбер открыл код языковой модели с диффузионной архитектурой
Сбер открыл код языковой модели с диффузионной архитектурой Как сообщает whackdoor, Сбер устроил эксперимент с диффузией текста. Эксперты банка открыли исходный код языковой модели GFusion, которая генерирует текст по принципу диффузионных нейросетей: сначала набрасывает ответ целиком, а затем постепенно его развивает. Вместо последовательного подбора слов модель создаёт черновик и улучшает его, что позволяет работать на 45% быстрее базовой архитектуры. Исходники уже выложены в открытый доступ.
91 просмотров