Micron снова указывает на разрыв между вычислениями и памятью в ИИ-ускорителях
Micron снова указывает на разрыв между вычислениями и памятью в ИИ-ускорителях На Hot Chips 2026 Micron снова свела разговор к «стене памяти» в ИИ: вычислительная мощность ускорителей, по ее данным, растет примерно в 3 раза каждые два года, а пропускная способность HBM — заметно медленнее. Для ИИ-систем это означает, что узкое место все чаще смещается не в вычисления, а в подачу данных. В этом контексте Micron продвигает HBM как базовую технологию для ИИ-нагрузок. У HBM4 заявлена максимальная пропускная способность до 2800 GB/s, а типичная конфигурация GPU с HBM может давать до 5,3 TB/s; сама Micron также говорит о 15–17-кратном превосходстве HBM над DDR5 по пропускной способности. В HBM4 число банков выросло до 256 против 128 у HBM3E, а число каналов и I/O, по данным из доклада, тоже удвоены. Но у этой эволюции есть цена. Micron отдельно отмечает, что путь к 20 слоям HBM возможен, однако связан с серьезными тепловыми и механическими проблемами. В качестве ответов компания называет жидкостное охлаждение и hybrid bonding. Практический вывод здесь простой: если вы следите за инфраструктурой ИИ, смотреть нужно не только на FLOPS, но и на память, охлаждение и упаковку. Именно они все сильнее определяют стабильность обучения и масштабирование больших моделей.