🤖 Новость · Habr
🤖 Новость · Habr OpenAI и Cerebras ускорили GPT-5.6 Sol до 750 токенов в секунду 🧭 Что произошло OpenAI и Cerebras представили новый режим Ultrafast для GPT-5.6 Sol, который позволяет генерировать до 750 токенов в секунду. Это ускоряет модель до 14 раз по сравнению с стандартной обработкой. Режим пока доступен лишь ограниченной группе клиентов. 🔢 Ключевые факты • Ultrafast ускоряет GPT-5.6 Sol до 750 выходных токенов в секунду. • Режим работает до 14 раз быстрее стандартной обработки. • Cerebras использует архитектуру Wafer-Scale Engine для реализации Ultrafast. • Каждый чип Cerebras имеет 44 ГБ памяти SRAM. • Ultrafast доступен только ограниченной группе клиентов. • Cerebras провела тест Ultrafast на 2500 вопросах Humanity’s Last Exam за 11 часов 11 минут. • Ultrafast запущен через Codex с уровнем рассуждений xhigh 10 июля. • OpenAI планирует расширять доступ к Ultrafast по мере появления свободных мощностей. ↗ Оригинал: https://habr.com/ru/news/1070326/