🤖 Новость · Habr
🤖 Новость · Habr Cerebras представила систему CS-4 с тремя чипами WSE-3 Turbo 🧭 Что произошло Компания Cerebras анонсировала новую систему CS-4, основанную на процессорах WSE-3 Turbo. Эта система использует концепцию wafer-scale engine, размещая вычислительные мощности на цельной кремниевой пластине. CS-4 предназначена для ускорения фазы декодирования LLM, обеспечивая низкое время отклика и высокую производительность при генерации текста. 🔢 Ключевые факты • Компания Cerebras представила систему CS-4, в основе которой лежит процессор WSE-3 Turbo. • Процессор WSE-3 Turbo использует цельную 300-миллиметровую кремниевую пластину вместо разрезанных кристаллов. • На одном кристалле WSE-3 Turbo размещено 4 триллиона транзисторов и 900 000 ядер. • Площадь процессора WSE-3 Turbo составляет 46 225 мм², производство осуществляется по 5-нм техпроцессу TSMC. • Для решения проблемы брака при производстве Cerebras применяет избыточное резервирование, программно-аппаратно изолируя дефектные участки. • В WSE-3 Turbo интегрировано 44 ГБ SRAM, обеспечивая агрегированную пропускную способность массива до 43,2 ПБ/с. • Система CS-4 выполнена в формате стойки Nexus Platform Architecture и содержит три процессора WSE-3 Turbo. • CS-4 обеспечивает низкое время отклика, до 4400 токенов в секунду на пользователя на моделях вроде GPT-OSS-120B. • Заявлено, что CS-4 за 1 секунду генерирует объем токенов, на который эквивалентный кластер GPU потребует около 30 секунд. • Технология Direct Wafer Links снижает задержку передачи данных между процессорами WSE-3 Turbo внутри стойки до 2 мкс. ⚖️ Почему это важно Архитектура CS-4 исключает задержки на внешнюю передачу промежуточных тензоров, обеспечивая постоянную загрузку вычислительных конвейеров. Это важно для работы автономных ИИ-агентов, требующих интерактивной скорости вывода. ↗ Оригинал: https://habr.com/ru/companies/selectel/news/1072844/