⚡️ OpenAI создала собственный чип - Jalapeño, разработанный для инференса.
⚡️ OpenAI создала собственный чип - Jalapeño, разработанный для инференса. На это ушло всего девять месяцев. Цитата из блога: «OpenAI спроектировала чип с нуля, опираясь на глубокое понимание фундаментальных принципов LLM и учитывая свою дорожную карту моделей, kernel-оптимизаций, serving-систем и продуктовых потребностей. В этом ей помогали партнёры Broadcom и Celestica, которые участвовали в индустриализации платформы: реализации чипа, проектировании плат, интеграции rack-систем, высокопроизводительных сетей и масштабируемых производственных процессов». Источник: https://openai.com/index/openai-broadcom-jalapeno-inference-chip/
6 просмотров