Samsung расширяет возможности применения для обработки данных в памяти – Samsung Newsroom

Интеграция HBM-PIM с системой ускорителя Xilinx Alveo AI повысит общую производительность системы в 2,5 раза при одновременном уменьшении потребления энергии более чем на 60%

Архитектура PIM распространится за пределы HBM и будет охватывать основные модули DRAM и мобильную память

Компания Samsung Electronics, мировой лидер в области передовых технологий памяти, продемонстрировала свои последние достижения для обработки данных в памяти (processing-in-memory, PIM) на Hot Chips 33 – ведущей конференции по полупроводникам, где ежегодно представляются самые выдающиеся инновации в области микропроцессоров и микросхем. Новые решения Samsung охватывают первую успешную интеграцию памяти с высокой пропускной способностью на основе PIM (HBM-PIM) в коммерческую ускорительную систему, а также распространение применения PIM на модуле DRAM и мобильную память.

Первая интеграция HBM–PIM в AI-ускоритель

В феврале компания представила первое в области решения HBM-PIM (Aquabolt-XL), что добавило функцию обработки данных на основе AI к HBM2 Aquabolt от Samsung с целью улучшить скоростную обработку данных в суперкомпьютерах и AI-приложениях. С тех пор HBM-PIM был испытан на ускорителе Xilinx Virtex Ultrascale+ (Alveo) AI, достигнув 2,5-кратного увеличения производительности системы и более 60% меньшего энергопотребления.

«HBM-PIM – это первое в области решения памяти с поддержкой AI, которое во время тестирования в клиентских системах AI-ускорителей продемонстрировало огромный коммерческий потенциал, – сказал Ким Намсон, старший вице-президент отдела продуктов и технологий DRAM в Samsung Electronics. – Стандартизация технологии увеличит количество возможных приложений, включая HBM3 для суперкомпьютеров следующего поколения и AI-приложения, даже мобильную память для устройств на основе AI и модули памяти в центрах обработки данных (ЦОД)».

«Xilinx сотрудничает с Samsung Electronics, чтобы создавать высокопроизводительные решения для ЦОД, сетей и приложений для обработки сигналов в режиме реального времени, начиная с семейства Virtex UltraScale+ HBM и нашей недавно представленной серии потрясающих продуктов Versal HBM», – отметил Арун Варадараджан Раджаго отдела планирования продуктов Xilinx, Inc.

Модули DRAM на основе PIM

Acceleration DIMM (AXDIMM) обеспечивает проработку данных непосредственно в модуле DRAM, минимизируя перемещение больших объемов информации между процессором и DRAM, что улучшает энергоэффективность систем AI-ускорителя. Благодаря механизму на основе AI, встроенному в буферный чип, AXDIMM параллельно прорабатывает несколько рангов памяти (наборов чипов DRAM) вместо одного, существенно повышая производительность и эффективность системы. Поскольку модуль сохраняет традиционный для DIMM формфактор, замена AXDIMM не требует модификации системы. AXDIMM тестируется на серверах клиентов и может предложить примерно вдвое большую производительность для рекомендованных приложений на основе AI и уменьшает общее энергопотребление энергии в системе на 40%.

«SAP и Samsung постоянно работают вместе над новыми технологиями памяти, обеспечивая оптимальную производительность для SAP HANA и более быструю работу баз данных. Учитывая прогнозы производительности и сценарии потенциальной интеграции, мы ожидаем увидеть значительное улучшение эффективности системы управления базами данных в памяти (IMDBMS) и более высокую энергоэффективность благодаря обособленным вычислениям на AXDIMM. SAP планирует продолжать сотрудничество с Samsung в этой сфере», – прокомментировал Оливер Ребгольц, руководитель отдела исследований и инноваций ядра HANA в SAP.

Мобильная переносимая память AI с ЦОД на устройство

Технология мобильной памяти LPDDR5-PIM от Samsung предлагает независимые возможности искусственного интеллекта без подключения к центру обработки данных. Имитационные тесты продемонстрировали способность LPDDR5-PIM увеличить производительность более чем вдвое при одновременном уменьшении энергии более чем на 60% при использовании в таких приложениях, как распознавание голоса, перевод и чатбот.

Усиливая экосистему

Samsung планирует расширять свое портфолио устройств памяти на основе AI, сотрудничая с другими лидерами отрасли по завершению стандартизации платформы PIM в первой половине 2022 года. Компания также продолжит развивать экосистему PIM, обеспечивая ее обширное применение на рынке памяти.