НС
Нейро-Инсайдер: Слухи об ИИ, Новости про нейросети.
IT и технологии · 8 октября 2026 г.
Релиз vLLM-Omni
Релиз vLLM-Omni Представлен vLLM-Omni — техническое решение для мультимодальной генерации, позволяющее объединять текст, аудио, изображения и видео. Система поддерживает потоковую передачу аудио в процессе генерации, что сокращает время до первого отклика (TTFT) до 47 мс при использовании модели Qwen3-TTS 0.6B-CustomVoice. Инструментарий предназначен для локального запуска голосовых ассистентов. Для работы требуется ОС Linux и минимум 10 ГБ свободной видеопамяти. Разработчикам доступны документация, демо-код и инструкции по установке. ⚙️ 📰 Подписаться на канал
3 просмотров