🧠 ИИ
🧠 ИИ AWS vLLM-Omni: стриминг речи в реальном времени на SageMaker AI AWS представила возможность стриминга речи в реальном времени на платформе SageMaker AI с использованием DLC vLLM-Omni. Это позволяет приложениям, таким как голосовые помощники и инструменты доступности, реагировать без заметных пауз. Для демонстрации используется модель Qwen3-TTS, которая генерирует аудио, пока текст еще формируется, передавая его через постоянное двунаправленное соединение. Для работы требуется учетная запись AWS и доступ к определенным типам инстансов, например ml.g6.xlarge. Вторая часть серии будет посвящена генерации изображений и видео. AWS · Machine Learning
10 просмотров