На этой неделе компания Micron продемонстрировала свои массивные модули памяти MCR DIMM емкостью 256 ГБ на конференции по технологиям графических процессоров (GTC), организованной Nvidia. Эти модули предназначены для серверов следующего поколения, в том числе на процессорах Intel Xeon Scalable Granite Rapids. Ранее на этой неделе компания Micron объявила, что ее клиенты в настоящее время тестируют новые модули MCRDIMM емкостью 256 ГБ. 

Micron продемонстрировала один «высокий» модуль MCRDIMM DDR5-8800 емкостью 256 ГБ на выставке GTC (на фото), но также планирует предложить модули MCRDIMM стандартной высоты для таких приложений, как серверы 1U. Оба модуля MCRDIMM емкостью 256 ГБ основаны на монолитных микросхемах DDR5 емкостью 32 ГБ, но в высоком размещено по 80 микросхем DRAM с обеих сторон модуля, тогда как в стандартном используются пакеты 2Hi, расположенные в стопке, что означает, что они немного нагреваются из-за меньшего пространства для тепловых сетей. рассеивание. В любом случае высокий модуль потребляет около 20 Вт, что неплохо, поскольку 128-гигабайтный модуль Micron DDR5-8000 RDIMM потребляет  10 Вт при DDR5-4800 .

Модули DIMM с мультиплексором комбинированного ранга (MCR) представляют собой тип двухрангового модуля памяти, который позволяет обоим рангам работать одновременно с использованием специализированного буфера. Буфер позволяет двум физическим рангам действовать так, как если бы они были двумя отдельными модулями, работающими параллельно, тем самым удваивая производительность за счет одновременного извлечения 128 байтов данных из обоих рангов за такт, что эффективно удваивает производительность одного модуля. При этом буфер работает со своим хост-контроллером памяти по протоколу DDR5, правда, на скоростях, превышающих предусмотренные стандартом, в данном случае 8800 МТ/с. 

Обычно модули с двумя физическими рангами функционируют как один модуль, а это означает, что когда главный процессор (или контроллер памяти) извлекает данные из такого модуля, он ограничен возможностью выборки 64 байтов данных за раз. MCRDIMM удваивают это значение, тем самым существенно увеличивая емкость и производительность каждого модуля. 

Учитывая тот факт, что Micron продемонстрировала свои модули MCRDIMM емкостью 256 ГБ на выставке GTC, размещенной на Nvidia, вполне вероятно, что компания позиционирует эти продукты для серверов искусственного интеллекта на базе процессоров Intel Xeon Scalable Granite Rapid. Поскольку такие машины, как правило, требуют огромного объема памяти для обучения, новые модули большой емкости пригодятся. Масштабируемые процессоры Intel Xeon Granite Rapid имеют 12-канальную подсистему памяти, поддерживающую два модуля на канал. Используя модули MCRDIMM Micron емкостью 256 ГБ, машина на базе Granite Rapid может разместить 3 ТБ памяти DDR5, используя 12 слотов, и 6 ТБ DRAM, используя 24 слота.