Intel заявляет, что теперь не сможет достичь своей цели в $500 млн. на продажах Gaudi 3 из-за проблем с программным обеспечением. Между тем, AMD планирует выручить $3 млрд. от своих AI GPU, и хотя Nvidia конкретно не называет сумму, которую она получает от AI GPU для центра обработки данных, ожидается, что она будет намного выше $80–90 млрд.  

Intel утверждает, что ее  ускоритель Gaudi 3 для ИИ  обеспечивает ощутимые улучшения производительности по сравнению с его предшественниками, и, учитывая его заявленные преимущества на фоне относительно низких цен, Intel ожидала, что продажи этих продуктов превысят  полмиллиарда долларов в этом году . Однако новый блок был официально запущен в конце сентября, и теперь Intel заявляет, что программное обеспечение еще не полностью готово. Тем не менее, некоторые ускорители Gaudi 3 будут доступны в IBM Cloud.

«Хотя результаты тестов Gaudi3 были впечатляющими, и мы рады нашему недавнему сотрудничеству с IBM по развертыванию Gaudi 3 в качестве сервиса в IBM Cloud, общее внедрение Gaudi было медленнее, чем мы ожидали, поскольку на темпы внедрения повлиял переход продукта с Gaudi 2 на Gaudi 3 и простота использования программного обеспечения», — сказал Пэт Гелсингер, генеральный директор Intel, на телефонном разговоре с аналитиками и инвесторами о доходах компании. «В результате мы не достигнем нашей цели в 500 миллионов долларов дохода для Gaudi в 2024 году».

Gaudi 3 от Intel опирается на два взаимосвязанных чиплета, вмещающих 64 ядра тензорной обработки, разработанных с матричной структурой 256×256, которая использует аккумуляторы FP32 и восемь матричных движков, использующих 256-битные векторные возможности. Он также включает 96 МБ внутреннего кэша SRAM, предлагая скорость передачи данных до 19,2 ТБ/с. 

Кроме того, Gaudi 3 имеет 24 сетевых интерфейса, работающих на скорости 200 GbE, и 14 медиапроцессоров, способных обрабатывать видео и форматы изображений, такие как H.265, H.264, JPEG и VP9 для обработки визуальных данных. Чип имеет 128 ГБ памяти HBM2E в восьми стеках, обеспечивая высокую пропускную способность 3,67 ТБ/с. По сравнению со своим предшественником, Gaudi 3 знаменует собой существенный скачок вперед, поскольку Gaudi 2 содержал только 24 тензорных ядра, два матричных движка и 96 ГБ памяти HBM2E.

Intel утверждает, что новый ускоритель Gaudi 3 обеспечивает ощутимые преимущества в производительности по сравнению с Gaudi 2 и в некоторых случаях может даже составить конкуренцию H100 от Nvidia (по крайней мере, когда этот графический процессор не использует разреженность). Не менее важно и то, что Gaudi 3 значительно дешевле H100. Ранее в этом году Intel раскрыла, что комплект с восемью чипами Gaudi 3 на базовой плате будет стоить $125 000, примерно $15 625 за чип. Для сравнения, одна карта Nvidia H100 в настоящее время стоит  $30 678 , что примерно в два раза дороже.

Однако, несмотря на все преимущества Gaudi 3, похоже, что программное обеспечение Intel не было готово к прайм-тайму, что замедлило закупки оборудования. Теперь Intel ожидает, что продажи Gaudi 3 вырастут в 2025 году.