Генеральный директор AMD Лиза Су посетила конференцию imec ITF World 2024, чтобы принять престижную премию imec Innovation Award за инновации и лидерство в отрасли, пополнив ряды других предыдущих лауреатов, таких как Гордон Мур, Моррис Чанг и Билл Гейтс. Приняв награду, Су начала свою презентацию, в которой рассказала о шагах, которые AMD предприняла для достижения цели компании 30×25, которая направлена на 30-кратное увеличение энергоэффективности вычислительных узлов к 2025 году. Су объявила, что AMD не только находится на пути к достижению этой цели. цель, но теперь она также видит путь к более чем 100-кратному улучшению к 2026–2027 годам.
Хотя растущая обеспокоенность по поводу энергопотребления ИИ сейчас оказалась в центре внимания из-за стремительного распространения генеративных программ LLM ИИ, таких как ChatGPT, в мейнстрим, у AMD было видение, чтобы предвидеть проблемы с ненасытным энергопотреблением ИИ еще в 2021 году. Тогда AMD начала работу над своей целью 30×25 по повышению энергоэффективности вычислительных узлов центров обработки данных, в частности, назвав энергопотребление ИИ и HPC надвигающейся проблемой. (AMD поставила свою первую амбициозную цель в области энергетики еще в 2014 году, поставив первую цель 25×20 по повышению энергоэффективности потребительских процессоров в 25 раз к 2020 году, и она превысила эту цифру, улучшив ее в 31,7 раза .)
Сейчас эта проблема вышла на первый план. Генеративный ИИ способствует быстрому расширению центров обработки данных, поскольку крупнейшие мировые компании соперничают за превосходство ИИ, но государственные электросети не готовы к внезапному увеличению количества энергоемких центров обработки данных, что делает электроэнергию новым ограничивающим фактором. Существуют жесткие ограничения на количество электроэнергии, доступной центрам обработки данных, поскольку мощность сети, инфраструктура и экологические проблемы ограничивают мощность, которая может быть выделена как для новых, так и для расширяющихся центров обработки данных. Фактически, рядом с электростанциями строится множество новых центров обработки данных, чтобы обеспечить электроснабжение, а огромный спрос даже возродил стремление к использованию ядерных реакторов малого модуля (SMR) для снабжения отдельных центров обработки данных.
Проблема только усугубляется по мере увеличения вычислительных ресурсов, необходимых для обучения моделей. Су отметил, что размер первых моделей искусственного интеллекта для распознавания изображений и речи удваивался каждые два года, что во многом соответствует темпам развития вычислительной мощности за последнее десятилетие. Однако размер генеративных моделей ИИ сейчас растет в 20 раз в год, опережая темпы развития вычислений и памяти. Су сказал, что, хотя сегодня самые большие модели обучаются на десятках тысяч графических процессоров, потребляющих до десятков тысяч мегаватт-часов, быстро увеличивающиеся размеры моделей могут вскоре потребовать для обучения до сотен тысяч графических процессоров, возможно, потребовав несколько гигаватт мощности для обучать одну модель. Это явно несостоятельно.
У AMD есть многосторонняя стратегия повышения энергоэффективности, состоящая из широкого подхода, который выходит за рамки полупроводниковых архитектур и передовых стратегий упаковки до архитектур, ориентированных на искусственный интеллект, настройки на уровне системы и центра обработки данных, а также инициатив по совместному проектированию программного и аппаратного обеспечения.
Естественно, кремний является основой. Су указал на 3-нм транзисторы Gate Allaround (GAA) как на следующий шаг AMD на пути к повышению энергоэффективности и производительности, а также на постоянное внимание к усовершенствованным упаковкам и межсоединениям, которые позволяют создавать более энергоэффективные и экономичные модульные конструкции. Усовершенствованная упаковка играет ключевую роль в масштабировании проектов для производства большей мощности в рамках ограничений одного чипа, и AMD использует сочетание 2,5D и 3D-корпусов, чтобы максимизировать количество вычислений на ватт, которые она может получить с каждого квадрата. миллиметр кремния центра обработки данных.
Передача данных между серверными узлами и серверными стойками требует дополнительной энергии из-за больших расстояний, поэтому оптимизация локальности данных может привести к огромной экономии энергии. AMD MI300X является отличным примером эффективности, достигнутой за счет создания все более крупных корпусов микросхем: чип содержит 153 миллиарда транзисторов, распределенных по 12 чиплетам в сочетании с 24 чипами HBM3, которые обеспечивают 192 ГБ памяти, каждая из которых доступна графическому процессору как локальная. Память. В сочетании с оптимизированными по мощности и производительности межкомпонентными соединениями Infinity Fabric между встроенными модулями исключительная плотность вычислений и памяти удерживает больше данных ближе к процессорным ядрам, тем самым уменьшая количество энергии, необходимое для передачи данных.