HBM, DRAM и NAND: как искусственный интеллект меняет рынок памяти

Поскольку сектор полупроводников тесно связан с беспроводными технологиями, компания Technotrend Market Research решила более широко взглянуть на то, что происходит на рынке аппаратного обеспечения ИИ. Тенденции в области памяти, DRAM, памяти с высокой пропускной способностью (HBM) и NAND не только формируют системы ИИ, но и влияют на такие отрасли, как беспроводная связь, бытовая электроника и автомобилестроение.

В этой статье рассматриваются последние тенденции в области памяти и объясняется, почему архитектура памяти становится центральным фактором производительности, ценообразования и структуры рынка ИИ. По мере приближения к 2026 году становится ясно, что перспектива использования только вычислительных ресурсов уже недостаточна и что память становится основным узким местом для крупномасштабных систем ИИ.

Почему DRAM имеет значение

Когда модель ИИ генерирует ответ, она не просто извлекает статичную информацию. Она поддерживает живое рабочее состояние, включающее контекстные окна, кэши ключевых значений, промежуточные активации и решения по маршрутизации. Все это требует сверхмалого времени доступа к данным, которые должны оставаться доступными немедленно. Поэтому DRAM и, ближе к вычислительным ядрам, HBM играют ключевую роль в производительности ИИ.

В отличие от твердотельных накопителей, DRAM позволяет моделям держать рассуждения "горячими". Доступ к контексту и его обновление должны осуществляться непрерывно в течение всей последовательности маркеров. Даже небольшое увеличение задержки в памяти может снизить пропускную способность, замедлить отклик или заставить операторов развернуть дополнительное оборудование. Во многих реальных развертываниях системы ИИ больше не ограничены вычислениями, они ограничены памятью.

На системном уровне ИИ работает на многоуровневой иерархии памяти. HBM питает ускорители, DRAM хранит живое состояние и разговорную память, а твердотельные накопители на базе NAND обеспечивают хранение наборов данных, вкраплений, индексов поиска, журналов и контрольных точек. Платить за "лучший ИИ" все чаще означает перемещать больше данных из холодного хранилища в более быстрые уровни памяти с низким временем ожидания.

NAND и слой знаний

На первый взгляд, NAND менее важна, чем DRAM, в архитектурах больших языковых моделей. Твердотельные накопители намного медленнее DRAM и не участвуют в генерации маркеров в реальном времени. Однако крупномасштабные системы ИИ не могут работать без них. Наборы обучающих данных, контрольные точки моделей, векторные базы данных и системы поиска - все они полагаются на NAND, поскольку это единственная технология, способная обеспечить требуемую емкость хранения данных по приемлемой цене.

По мере того как генерация с расширенным поиском (RAG) становится основной технологией, кластеры ИИ спокойно накапливают большие пулы SSD. Долгосрочная память, ведение журнала соответствия и векторный поиск - все это находится в этом слое "холодных знаний". ИИ не снизил значимость NAND, а переопределил ее роль в более глубокой и структурированной иерархии памяти.

Спрос на корпоративные твердотельные накопители растет по мере того, как центры обработки данных ИИ расширяют масштабы векторных баз данных, контрольных точек и хранилищ журналов. Поставщики NAND реагируют на это, перераспределяя поставки с низкорентабельных клиентских SSD на более дорогостоящие продукты для центров обработки данных, сохраняя при этом строгую дисциплину в отношении емкости. В то же время основные производители памяти отдают приоритет капитальным затратам на HBM и усовершенствованную DRAM, что ограничивает скорость наращивания мощностей товарной DRAM и NAND.

Задержка как характеристика

Для сервисов на базе LLM память становится непосредственной характеристикой продукта. Более быстрые ответы, более длинные контекстные окна и постоянная история разговоров зависят от того, сколько памяти DRAM и HBM выделяется на пользователя или сессию. Это естественным образом приводит к появлению многоуровневых предложений: пользователи премиум-класса получают больший и более предсказуемый бюджет памяти, в то время как бесплатные пользователи работают в условиях жестких ограничений.

На основных платформах ИИ более дорогие уровни предлагают более длинный контекст, более высокие ограничения скорости и приоритетную производительность. Эти функции связаны с распределением памяти, а не с вычислениями. Со временем прирост эффективности, как правило, реинвестируется в увеличение контекста и персонализацию, а не в снижение цен. Задержка становится характеристикой, а память - основной переменной ценообразования.

Экономика рекламы и памяти

Экономика масштабной работы LLM остается сложной. Инфраструктурные расходы на вычисления, память и центры обработки данных продолжают расти, а доходы от подписки с трудом покрывают интенсивное использование. В результате реклама становится структурной необходимостью.

Вероятный результат - гибридная модель, в которой реклама субсидирует доступ бесплатных пользователей, а платные уровни финансируют премиальное размещение в иерархии памяти. Реклама обеспечивает широкую доступность услуг, а распределение памяти определяет производительность и качество обслуживания.

Рост цен и побочные эффекты

В последнее время рост цен на DRAM и NAND часто объясняют спросом со стороны ИИ, но ключевую роль играет и поведение предложения. Производители памяти осторожно наращивают мощности, отдавая предпочтение передовым DRAM и HBM и сохраняя жесткую дисциплину производства. Это способствует росту цен даже в отсутствие реального дефицита производства.

Хотя модули LLM оптимизированы для HBM, ограниченная доступность заставляет системы ИИ в значительной степени полагаться на обычную DRAM. DDR5, а в некоторых случаях и DDR4, широко используются в центральных процессорах, системной памяти и сетевых устройствах, что сужает предложение и приводит к росту цен.

Даже старые стандарты, такие как DDR3, могут быть затронуты. Хотя DDR3 не используется в системах искусственного интеллекта, его производство сокращается, поскольку производители ориентируются на более новые технологии. В то же время автомобильный и промышленный рынки продолжают полагаться на DDR3 из-за длительного жизненного цикла продукции, что создает давление на цены в длинном хвосте.

Грядущая консолидация

Стена памяти становится фильтром рынка. Выполнение LLM передового уровня с конкурентоспособной задержкой и длиной контекста требует огромных, повторяющихся инвестиций в DRAM и HBM. Только ограниченное число игроков может выдержать эти расходы. На следующем этапе развития ИИ конкуренция будет зависеть не столько от алгоритмов, сколько от памяти, физики и балансовых отчетов.

Об авторе

Джорджио Занелла - аналитик по исследованиям рынка и основатель Technotrend Market Research. Он специализируется на беспроводных технологиях позиционирования, включая сверхширокополосные (UWB), GNSS и Bluetooth Channel Sounding.

Для получения дополнительной информации об анализе рынка и новостей о беспроводных технологиях позиционирования посетите наш подсайт: https://technotrend.substack.com/

Для ознакомления с нашими публикациями и разборами посетите наш корпоративный сайт: https://www.technotrend.tech/publications