Память стала главной статьей расходов на ИИ: что показали в Шэньчжэне
Память стала главной статьей расходов на ИИ: что показали в Шэньчжэне Автор побывалал в конце сентября в Шэньчжэне на конференции GMIF 2026, которую пятый год проводят ассоциация производителей памяти и Школа интегральных схем Пекинского университета. Первый день был закрыт для инвесторов и бизнеса, во второй шли доклады и награждения, а стенды работали не как витрины опытных образцов, а как торговые площадки: продукцию, характеристики и цены можно было посмотреть и сразу заказать партию с конкретной датой поставки. Главной темой стала «Memory Wall» — так Morgan Stanley назвал разрыв между скоростью процессоров и скоростью памяти, которая за данными не успевает. Докладчик привёл пример: видеокарта Nvidia B200 считает в 20 тысяч раз быстрее, чем память типа HBM способна подавать ей данные. Отсюда и деньги: по прогнозу Morgan Stanley, расходы облачных провайдеров на инфраструктуру достигнут 1,2 трлн долларов в 2027 году, причём доля памяти в них уже около 48% и может вырасти до 53%. Спрос на DRAM превышает предложение на 15%, дефицит NAND — около 10%, а память уже составляет 73% стоимости сервера, 41% ноутбука и 39% смартфона. Плюс производственные ограничения: для выпуска быстрой памяти HBM нужна особая упаковка кристаллов CoWoS от TSMC, и её мощностей не хватает даже с учётом планов удвоения к 2028 году. Выходом докладчик назвал эволюцию техпроцессов, дизайна чипов и их упаковки — именно эти направления и составили ядро докладов. Samsung предложил распределять данные по типам памяти в зависимости от частоты доступа. Технология Z-NAND — быстрая флеш-память как промежуточное звено между оперативной памятью и SSD — по заявлениям компании подойдёт для хранения весов моделей (это «начинка» нейросети, которую в основном читают) и сократит стоимость хранения в четыре раза по сравнению с DRAM. Также Samsung развивает интерфейс расширения памяти CXL и графическую память GDDR7, а выпуск нового поколения модулей CXL 3.1/PCIe 6.0 заявлен на 2026 год. Пекинский университет представил концепцию High Bandwidth Flash — новый класс памяти между HBM и SSD: вместо дорогих DRAM-кристаллов используется плотная флеш-память 3D NAND в той же вертикальной упаковке. По заявлениям, это даст до 512 ГБ ёмкости с пропускной способностью от 0,4 до 3 ТБ/с. Solidigm и Sandisk рассказывали о сверхплотной записи QLNC как способе дешёвых хранилищ, а Infplane и Maxio показали прототип «AI SSD» с интеллектуальным управлением и предвыборкой данных — пока не промышленный образец, но хорошо отражающий общий вектор. Общий консенсус докладов автор называет Memory Offloading: данные для ИИ не должны постоянно занимать дорогую быструю память, их вытесняют вниз по иерархии хранения вплоть до SSD, освобождая место для критичных задач. Это не привычное кеширование — нужен новый дизайн памяти и осознанное распределение данных по частоте использования. По словам автора, память меняет роль в ИИ-устройствах: перенос весов моделей и KV Cache (промежуточных данных модели при генерации ответа) на разные уровни снимает нагрузку с GPU и снижает стоимость инференса — обработки запроса моделью. Докладчики честно показывали, что универсальных решений нет, всё это компромиссы с ограничениями, и что из заявленного сбудется — пока сказать трудно. Источник: https://habr.com/ru/articles/1087860/