Intel проследила за заявлениями AMD о производительности искусственного интеллекта для центров обработки данных для своих процессоров EPYC Turin 5-го поколения, заявив, что Xeon 5-го поколения работает быстрее при правильной оптимизации.
AMD продемонстрировала свои процессоры EPYC Turin 5-го поколения с ядрами Zen 5, опередив чипы Xeon 5-го поколения в тестах искусственного интеллекта, но Intel заявляет, что 5-е поколение опережает EPYC при использовании правильных оптимизаций
На выставке Computex 2024 компания AMD официально анонсировала семейство процессоров EPYC 5-го поколения под кодовым названием Turin, в котором используется новейшая архитектура ядра Zen 5. Компания представила некоторые большие цифры по семейству Intel Xeon 5-го поколения под кодовым названием Emerald Rapids, в частности, по рабочим нагрузкам искусственного интеллекта, но теперь Intel пояснила, что эти тесты проводились без надлежащей оптимизации для ее семейства Xeon, а с учетом реализованных даже 5-го поколения Xeons должен легко превзойти EPYC Turin 5-го поколения по производительности искусственного интеллекта.
Тестовый тест, который был особо отмечен Intel, — это чат-бот Llama2-7B, который основан на пропускной способности вывода INT4 и проводился с задержкой 50 мс. AMD показала, что ее процессоры EPYC 5-го поколения в конфигурации 2S (двухпроцессорные) со 128 ядрами каждый обеспечивают производительность до 671 токена/с, в то время как чипы Intel Xeon Platinum 8592+ 5-го поколения с 64 ядрами каждый работают в одном и том же двухпроцессорном процессоре. Конфигурация предлагала выход всего 125 токенов/с. Это огромный прирост в 5,4 раза для процессоров AMD EPYC Turin.
Intel заявляет, что тесты проводились без подходящего пакета программного обеспечения для моделей Xeon 5-го поколения, а AMD не предоставила никаких подробностей относительно конфигурации Intel в своих сносках.
Синяя команда провела тесты производительности в тех же рабочих нагрузках ИИ, и похоже, что результаты радикально отличаются.
Используя расширение Intel для PyTorch (задержка P99), процессоры Emerald Rapids Xeon 5-го поколения могут обеспечить производительность в 5,4 раза выше, чем продемонстрированная AMD. Скорость вывода 686 токенов/с превышает производительность процессоров AMD EPYC Zen 5 5-го поколения. Это произошло не только благодаря оптимизации программного обеспечения Intel для Llama2, но и добавлению аппаратных ускорителей искусственного интеллекта в семействе Emerald Rapids 5-го поколения, которые обеспечивают хороший прирост.
Intel не останавливается на достигнутом: компания также заявляет, что в двух других рабочих нагрузках, трансляции и суммировании, компания добилась прироста производительности от 1,2 до 2,3 раза по сравнению с результатами, которые AMD использовала в своей презентации Computex 2024.
Более того, более важным аспектом является то, что эти тесты сильно зависят от памяти, а семейство EPYC Turin следующего поколения будет иметь 12-канальный интерфейс DDR5. В то время как процессоры Intel текущего поколения Xeon «Emerald Rapids» максимально поддерживают 8 каналов памяти DDR5, процессоры Granite Rapids следующего поколения «Xeon 6700P/6900P» будут не только оснащены тем же 12-канальным интерфейсом памяти «Up To», но и имеют то же количество ядер 128 с P-ядрами и до 288 ядер E с семейством Xeon 6900E, которое появится в начале 2025 года. Процессоры Granite Rapids Xeon 6700P будут доступны с числом ядер P до 86 в третьем квартале 2024 года.
Похоже, что все крупные фирмы, которые в настоящее время занимаются бизнесом в области искусственного интеллекта, очень серьезно относятся не только к своим заявлениям о производительности, но и к тому, что хвастаются другие. NVIDIA и AMD участвовали в аналогичной битве несколько месяцев назад, когда красная команда объявила свои показатели MI300X по сравнению с линейкой Hopper, и с этого момента все продолжалось .
Аналогичным образом, что касается AI-ПК, компании AMD, Intel, Qualcomm и NVIDIA ведут очень ожесточенную борьбу, в которой все говорят о AI TOP. В условиях растущего спроса на ИИ в технологическом секторе все эти технологические компании пытаются привлечь больше клиентов, чтобы они использовали их продукты и поставляли как можно больше устройств, чтобы удовлетворить постоянно растущую потребность в функциональном оборудовании.
0 Комментариев