NVIDIA Kyber может получить 340,4 ТБ памяти — стойку оценили в $41,6 млн

Будущая серверная стойка NVIDIA Kyber на базе Vera Rubin Ultra может получить впечатляющие 340,4 ТБ совокупной памяти. По оценке Bank of America, конфигурация с 144 GPU может стоить около $41,6 млн. Это не официальный ценник NVIDIA, а расчёт аналитиков для будущей платформы.

Самое любопытное здесь даже не итоговая сумма, а структура расходов на память. В одной стойке Kyber ожидается 216 ТБ LPDDR5X стоимостью примерно $2,8 млн и ещё 124,4 ТБ HBM4E примерно за $2,5 млн. Таким образом, из-за значительно большего объёма совокупные расходы на LPDDR5X могут оказаться выше, чем на HBM4E. Всего только на эти два типа памяти приходится около $5,3 млн.

Bank of America оценивает HBM4E для этой конфигурации примерно в $19,76 за гигабайт. Эту цифру не стоит воспринимать как официальный прайс производителя памяти или NVIDIA — речь идёт об аналитической оценке стоимости компонентов будущей платформы.

Большой объём LPDDR5X связан с архитектурой процессоров Vera. NVIDIA использует с ними модульную память SOCAMM на базе LPDDR5X вместо традиционной серверной DDR5. Компания официально указывает до 1,5 ТБ LPDDR5X на один Vera CPU, а в расчёте, приведённом Wccftech, фигурирует конфигурация из восьми модулей SOCAMM2 по 192 ГБ. Подробнее о роли новых типов памяти в будущих системах NVIDIA мы рассказывали в материале о памяти для AI-инфраструктуры.

Базовый Rubin GPU может оснащаться до 288 ГБ HBM4 и обеспечивать пропускную способность памяти до 22 ТБ/с. Однако Kyber относится уже к Vera Rubin Ultra с HBM4E, и окончательная конфигурация будущей системы ещё может измениться. В частности, в отрасли обсуждается возможность сокращения объёма HBM4E на один GPU ради снижения себестоимости.

Дополнительные оценки UBS показывают, насколько сильно память влияет на стоимость новой платформы. Компонентная стоимость одного Rubin GPU вместе с HBM4, упаковкой, кремниевым интерпозером и другими элементами оценивается примерно в $9 247. Для Vera CPU вместе с SOCAMM2 LPDDR5X приводится оценка около $20 059, ещё примерно $350 приходится на другие компоненты платы. При этом стоимость самого процессора без памяти в этом расчёте оценивается примерно в $704.

Разница с поколением Blackwell получается огромной. Процессоры Grace в таких системах получили по 480 ГБ памяти, GPU GB200 — 192 ГБ HBM3E, а GB300 — до 288 ГБ. Для стойки Vera Rubin NVL72 совокупный объём HBM4 и LPDDR5X при максимальных конфигурациях оценивается примерно в 74,7 ТБ, тогда как у Kyber показатель может вырасти до 340,4 ТБ.

Память становится одной из наиболее значимых статей расходов современных AI-систем. В случае Kyber только HBM4E и LPDDR5X, согласно оценке Bank of America, могут обойтись примерно в $5,3 млн на одну стойку. При этом параметры Vera Rubin Ultra ещё могут измениться, поэтому цифры аналитиков стоит воспринимать как ориентир, а не как окончательные спецификации или официальную стоимость системы NVIDIA.

Источники: Wccftech, NVIDIA.