Платформа NVIDIA Blackwell нового поколения, которая включает в себя графические процессоры B-серии и интегрирует собственный процессор NVIDIA Grace Arm в такие модели, как GB200, представляет собой значительное достижение. TrendForce отмечает, что и GB200, и его предшественник, GH200, представляют собой комбинированное решение CPU+GPU, в основном оснащенное процессором NVIDIA Grace и графическим процессором H200. Однако на долю GH200 приходилось лишь около 5% поставок высокопроизводительных графических процессоров NVIDIA. Цепочка поставок возлагает большие надежды на GB200: по прогнозам, к 2025 году ее поставки могут превысить миллионы единиц, что потенциально составит от 40 до 50% рынка высокопроизводительных графических процессоров NVIDIA.

Хотя NVIDIA планирует выпустить такие продукты, как GB200 и B100, во второй половине этого года, для упаковки исходных пластин потребуется использовать более сложную и высокоточную технологию CoWoS-L, что делает процесс проверки и тестирования трудоемким. Кроме того, потребуется больше времени для оптимизации серии B для серверных систем искусственного интеллекта в таких аспектах, как сетевая связь и производительность охлаждения. Ожидается, что значительные объемы производства продуктов GB200 и B100 начнутся не раньше 4К24 или 1К25.

Включение GB200, B100 и B200 в B-серию NVIDIA повысит спрос на емкость CoWoS, что приведет к тому, что TSMC увеличит общие потребности в емкости CoWoS на 2024 год. Предполагаемая ежемесячная емкость к концу года, как ожидается, достигнет почти 40 тыс. — ошеломляющий рост на 150% по сравнению с прошлым годом. К 2025 году запланированная общая мощность может почти удвоиться, при этом ожидается, что спрос NVIDIA составит более половины этой мощности. Другие поставщики, такие как Amkor и Intel, в настоящее время сосредоточены на технологии CoWoS-S и в первую очередь нацелены на NVIDIA H-серии. Поскольку технологические прорывы, как ожидается, будут сложными в краткосрочной перспективе, планы расширения остаются консервативными, если эти поставщики не смогут получить дополнительные заказы помимо NVIDIA, такие как микросхемы ASIC собственной разработки от CSP, что может привести к более агрессивной стратегии расширения.

Разработка искусственного интеллекта NVIDIA и AMD призвана обеспечить доминирование HBM3e на массовом рынке ко второй половине года.
TrendForce определила три основные тенденции HBM для основных продуктов NVIDIA и AMD для графических процессоров и их запланированных спецификаций после 2024 года. Во-первых, переход от HBM3 к HBM3e ожидаемо. Ожидается, что NVIDIA начнет наращивать поставки H200, оснащенного HBM3e, во второй половине 2024 года, заменив H100 в качестве основного продукта. После этого другие модели, такие как GB200 и B100, также будут использовать HBM3e. Между тем, AMD планирует выпустить новый MI350 к концу года и тем временем может представить промежуточные модели, такие как MI32x, чтобы составить конкуренцию H200, обе из которых используют HBM3e.

Во-вторых, будет продолжаться расширение возможностей HBM для повышения общей вычислительной эффективности и пропускной способности системы серверов искусственного интеллекта. В настоящее время на рынке преимущественно используется NVIDIA H100 с 80 ГБ HBM, который, как ожидается, увеличится до 192–288 ГБ к концу 2024 года. Новые графические процессоры AMD, начиная со 128 ГБ MI300A, также будут иметь увеличение, достигая до 288 ГБ.

В-третьих, линейка графических процессоров, оснащенных HBM3e, будет развиваться от конфигураций 8Hi до конфигураций 12Hi. NVIDIA B100 и GB200 в настоящее время оснащены 8Hi HBM3e емкостью 192 ГБ, а к 2025 году модель B200 планируется оснастить 12Hi HBM3e с объемом 288 ГБ. Предстоящий MI350 от AMD, который будет выпущен к концу этого года, и серия MI375, ожидаемая в 2025 году, как ожидается, будут оснащены 12Hi HBM3e, а также объемом 288 ГБ.