NVIDIA анонсировала свои новейшие платформы DGX и Superchip, оснащенные новыми графическими процессорами Blackwell 200 и процессором Grace.
Анонсированы суперчиповые платформы следующего поколения NVIDIA GB200: B100+Grace для GB200 в 2024 году
NVIDIA Superchip разработан как основная платформа для рабочих нагрузок искусственного интеллекта и высокопроизводительных вычислений. Как мы видели ранее, платформа поставляется в двух конфигурациях: только ЦП и вариант ЦП+ГП. Эти продукты Superchip были впервые анонсированы с графическими процессорами Hopper H100 в сочетании с процессором Grace первого поколения на базе Arm . Сегодня NVIDIA представляет следующую главу Superchip.
Компания анонсировала два новых решения: GB200, которое представляет собой комбинацию процессора Grace и графического процессора Blackwell B100. Это решение планируется запустить в 2024 году и будет иметь тот же объем памяти HBM3e объемом 192 ГБ и мощностью до 2700 Вт. Итак, давайте углубимся в технические характеристики. Вы также получаете поддержку новейшего протокола PCIe 6.0 (2x 256 ГБ/с). Графические процессоры Blackwell B200 будут совместимы как с существующими платформами Hopper, так и с новейшими решениями производителей центров обработки данных.
Каждый суперчип GB200 Grace Blackwell будет оснащен двумя графическими процессорами B200 AI и одним процессором Grace с 72 одинаковыми ядрами ARM Neoverse V2. Платформа будет обеспечивать вычислительную производительность 40 петафлопс (INT8) и огромный пул памяти объемом 864 ГБ, при этом только HBM будет иметь пропускную способность памяти 16 ТБ/с. Чипы будут соединены между собой с использованием быстрой полосы пропускания NVLINK 3,6 ТБ/с.
Две из этих платформ GB200 Grace Blackwell Superchip будут включены в вычислительный узел Blackwell, обеспечивающий производительность искусственного интеллекта до 80 петафлопс, 1,7 ТБ памяти HBM3e, пропускную способность памяти 32 ТБ/с, и все это в корпусе MGX с жидкостным охлаждением.
Эти чипы будут размещены в совершенно новых вычислительных платформах GB200 NVL72, каждая из которых оснащена 18 вычислительными лотками в стойке, вмещающими до 36 процессоров Grace и 72 графических процессоров Blackwell. В каждой стойке будет установлен ConnectX-800G Infiniband SuperNIC и DPU Bluefield-3 (пропускная способность памяти 80 ГБ/с) для внутрисетевых вычислений. Компания также предлагает свои новейшие коммутаторы NVLINK с восемью портами со скоростью 1,8 ТБ/с и совокупной пропускной способностью до 14,4 ТБ/с.
Нам нужно поговорить немного больше о самом коммутаторе NVLink, поскольку это мощная машина с 50 миллиардами транзисторов, которая также изготовлена на том же узле TSMC 4NP, имеет 72 порта с двумя SerDes 200 ГБ/с, 4 порта NVLINK со скоростью 1,8 ТБ/с. , пропускная способность полнодуплексного режима 7,2 ТБ/с и возможности внутрисетевых вычислений SHARP 3,6 терафлопс.
Что касается производительности, платформа GB200 Grace Blackwell Superchip обеспечит 30-кратный прирост производительности искусственного интеллекта по сравнению с платформой H200 Grace Hopper. NVIDIA Blackwell GB200 будет доступен в облаке DGX позднее в этом году от ведущих OEM-производителей, таких как Dell, Cisco, HPE, Lenovo, Supermicro, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, Gigabyte, Inventec, Pegatron, QCT, Wistron, Wiwynn. & ZT Systems также предложит свои соответствующие решения в будущем.