Сегодня Intel объявила, что создала крупнейшую в мире нейроморфную систему. Эта крупномасштабная нейроморфная система под кодовым названием Hala Point, первоначально развернутая в Национальных лабораториях Сандии, использует процессор Intel Loihi 2, направлена на поддержку исследований будущего искусственного интеллекта (ИИ), основанного на мозге, и решает проблемы, связанные с эффективностью и устойчивостью. сегодняшнего ИИ. Hala Point совершенствует крупномасштабную исследовательскую систему Intel первого поколения Pohoiki Springs с архитектурными улучшениями, позволяющими добиться более чем 10-кратного увеличения емкости нейронов и до 12-кратного повышения производительности.
«Вычислительная стоимость современных моделей искусственного интеллекта растет неустойчивыми темпами. Отрасли нужны фундаментально новые подходы, способные к масштабированию. По этой причине мы разработали Hala Point, которая сочетает в себе эффективность глубокого обучения с новыми возможностями обучения и оптимизации, основанными на мозге. Мы надеемся что исследования с помощью Hala Point повысят эффективность и адаптируемость крупномасштабных технологий искусственного интеллекта». -Майк Дэвис, директор лаборатории нейроморфных вычислений в Intel Labs
Что она делает: Hala Point — первая крупномасштабная нейроморфная система, демонстрирующая современную вычислительную эффективность при выполнении основных рабочих нагрузок ИИ. Характеристики показывают, что он может поддерживать до 20 квадриллионов операций в секунду, или 20 петаопс, с эффективностью, превышающей 15 триллионов 8-битных операций в секунду на ватт (TOPS/Вт) при выполнении обычных глубоких нейронных сетей. Это конкурирует и превосходит уровни, достигнутые архитектурами, построенными на графических процессорах (GPU) и центральных процессорах (CPU). Уникальные возможности Hala Point могут обеспечить в будущем непрерывное обучение в режиме реального времени для приложений ИИ, таких как решение научных и инженерных задач, логистика, управление инфраструктурой умного города, большие языковые модели (LLM) и агенты ИИ.
Как это будет использоваться: Исследователи из Sandia National Laboratories планируют использовать Hala Point для передовых компьютерных исследований в масштабе мозга. Организация сосредоточится на решении научных вычислительных задач в области физики устройств, компьютерной архитектуры, информатики и информатики.
«Работа с Hala Point расширяет возможности нашей команды в Сандиа решать задачи вычислительного и научного моделирования. Проведение исследований с помощью системы такого размера позволит нам идти в ногу с развитием искусственного интеллекта в самых разных областях — от коммерческой до оборонной и фундаментальной науки», — сказал Крейг Виньярд. , руководитель группы Hala Point в Национальных лабораториях Сандии.
В настоящее время Hala Point представляет собой исследовательский прототип, который расширит возможности будущих коммерческих систем. Intel ожидает, что такие уроки приведут к практическому прогрессу, например, к возможности для студентов-магистров непрерывно учиться на новых данных. Такие достижения обещают значительно сократить непосильную нагрузку на обучение при широкомасштабном развертывании ИИ.
Почему это важно: недавние тенденции масштабирования моделей глубокого обучения до триллионов параметров выявили серьезные проблемы устойчивости в искусственном интеллекте и подчеркнули необходимость инноваций на самых низких уровнях аппаратной архитектуры. Нейроморфные вычисления — это принципиально новый подход, основанный на знаниях нейробиологии, который объединяет память и вычисления с высокодетализированным параллелизмом для минимизации перемещения данных. В опубликованных в этом месяце результатах Международной конференции по акустике, речи и обработке сигналов (ICASSP) Loihi 2 продемонстрировал на порядки прирост в эффективности, скорости и адаптируемости новых небольших периферийных рабочих нагрузок.
Развивая своего предшественника, Pohoiki Springs, с многочисленными улучшениями, Hala Point теперь обеспечивает нейроморфный прирост производительности и эффективности для обычных традиционных моделей глубокого обучения, особенно для тех, которые обрабатывают рабочие нагрузки в реальном времени, такие как видео, речь и беспроводная связь. Например, компания Ericsson Research применяет Loihi 2 для оптимизации эффективности телекоммуникационной инфраструктуры, как было подчеркнуто на Всемирном мобильном конгрессе в этом году.
О Hala Point: Нейроморфные процессоры Loihi 2, составляющие основу Hala Point, применяют принципы вычислений, вдохновленные мозгом, такие как асинхронные, основанные на событиях импульсные нейронные сети (SNN), интегрированная память и вычисления, а также редкие и постоянно меняющиеся соединения с добиться прироста энергопотребления и производительности на порядки величины. Нейроны общаются друг с другом напрямую, а не через память, что снижает общее энергопотребление.
Hala Point размещает 1152 процессора Loihi 2, произведенных на технологическом узле Intel 4, в шестистоечном корпусе центра обработки данных размером с микроволновую печь. Система поддерживает до 1,15 миллиарда нейронов и 128 миллиардов синапсов, распределенных по 140 544 ядрам нейроморфной обработки, потребляя максимум 2600 Вт мощности. Он также включает более 2300 встроенных процессоров x86 для вспомогательных вычислений.
Hala Point объединяет каналы обработки, памяти и связи в массивно-параллельную структуру, обеспечивая в общей сложности 16 петабайт в секунду (ПБ/с) пропускной способности памяти, 3,5 ПБ/с пропускной способности межъядерной связи и 5 терабайт в секунду ( ТБ/с) пропускной способности межчиповой связи. Система может обрабатывать более 380 триллионов 8-битных синапсов и более 240 триллионов нейронных операций в секунду.
Применительно к биологическим моделям импульсных нейронных сетей система может работать на полную мощность, состоящую из 1,15 миллиарда нейронов, в 20 раз быстрее, чем человеческий мозг, и до 200 раз быстрее при более низкой мощности. Хотя Hala Point не предназначен для нейробиологического моделирования, его нейронная емкость примерно эквивалентна мозгу совы или коре головного мозга обезьяны-капуцина.
Системы на базе Loihi могут выполнять логические выводы искусственного интеллекта и решать задачи оптимизации, используя в 100 раз меньше энергии и со скоростью в 50 раз быстрее, чем традиционные архитектуры ЦП и ГП. Используя разреженное соединение до 10:1 и активность, управляемую событиями, первые результаты Hala Point показывают, что система может достичь эффективности глубоких нейронных сетей до 15 TOPS/W2 без необходимости сбора входных данных в пакеты, что является обычной оптимизацией для Графические процессоры, что значительно задерживает обработку данных, поступающих в режиме реального времени, например видео с камер. Пока еще проводятся исследования, будущие нейроморфные LLM, способные к непрерывному обучению, могут привести к экономии энергии в гигаватт-часах за счет устранения необходимости периодического переобучения с постоянно растущими наборами данных.
Что дальше: Поставка Hala Point в Национальную лабораторию Сандия знаменует собой первое развертывание нового семейства крупномасштабных нейроморфных исследовательских систем, которыми Intel планирует поделиться со своими исследовательскими партнерами. Дальнейшее развитие позволит нейроморфным вычислительным приложениям преодолеть ограничения по мощности и задержке, которые ограничивают развертывание возможностей ИИ в реальном времени.
Совместно с экосистемой, состоящей из более чем 200 членов Intel Neuromorphic Research Community (INRC), в том числе ведущих академических групп, правительственных лабораторий, исследовательских институтов и компаний по всему миру, Intel работает над расширением границ искусственного интеллекта, основанного на мозге, и развитием этой технологии на основе исследовательских прототипов. к ведущим в отрасли коммерческим продуктам в ближайшие годы.