Marvel разрабатывает индивидуальное решение памяти HBM: сокращение интерфейса, совместимое с XPU
Dec 13,2024
На день аналитика 2024 года Marvel объявил о запуске индивидуального решения для памяти с высокой пропускной способностью (CHBM) для пользовательских XPU, нацеленных на приложения AI.Это решение разработано в сотрудничестве с ведущими производителями памяти, и CHBM обещает оптимизировать производительность, энергопотребление, емкость памяти, размер чипа и стоимость для конкретных конструкций XPU.CHBM будет совместим с пользовательским XPU от Marvel и не будет частью стандарта HBM, определяемого JEDEC, по крайней мере, изначально.
Индивидуальное решение HBM от Marvel позволяет создавать индивидуальные интерфейсы и стеки для конкретных приложений, хотя компания еще не раскрыла никаких подробностей.Одна из целей Marvel - сократить пространство, занятое отраслевыми стандартными интерфейсами HBM, в процессах, тем самым освобождая области, доступные для вычислений и функциональности.Компания утверждает, что с помощью своего запатентованного межпипного ввода/вывода она может не только упаковать на 25% больше логики в своем индивидуальном XPU, но также может установить на 33% больше пакетов памяти CHBM, прилегающих к вычислительной чипу, тем самым увеличивая количество доступных DRAM DRAMк процессору.Кроме того, компания ожидает сокращения до 70% в энергопотреблении интерфейса памяти.
Из -за того, что CHBM Marvel не полагается на указанные стандарты JEDEC, для этого потребуется новый контроллер и настраиваемые физические интерфейсы, новые интерфейсы между чипсами и полностью обновленную базовую чип HBM с точки зрения аппаратного обеспечения.Пропускная способность интерфейса HBM между новыми чипами Marvel составляет 20 Тбит/с/мм (2,5 ТБ/с на миллиметр), что значительно выше, чем текущие 5 ТБ/мм (625 ГБ/с на миллиметр), обеспечиваемые HBM.Со временем Marvel представляет собой полосу пропускания 50 Тбит/с/мм (6,25 ТБ/с на миллиметр) без буферной памяти.
Marvel не указала ширину своего интерфейса CHBM.Помимо утверждения, что он усиливает XPU за счет сериализации и ускорения интерфейса ввода/вывода между его внутренним вычислительным акселератором и базовым чипом HBM, Marvel не раскрыл много деталей своего настроенного решения HBM, что в некоторой степени подразумевает более узкую ширину интерфейса интерфейса.по сравнению с отраслевыми стандартными решениями HBM3E или HBM4.Тем не менее, кажется, что решение CHBM будет настраиваемо.
Настройка HBM для конкретной производительности, энергопотребления и общей стоимости владения для улучшения XPU является последним шагом в новой парадигме проектирования и доставки ускорителя искусственного интеллекта », - сказал Уилл Чу, старший вице -президент и генеральный менеджер по настройке, вычислителям иГруппа хранения в Marvel.
Сотрудничество с Micron, Samsung и SK Hynix имеет решающее значение для успешной реализации Marvel CHBM, поскольку он закладывает основу для относительно распространенного использования индивидуального HBM.
Индивидуальное решение HBM от Marvel позволяет создавать индивидуальные интерфейсы и стеки для конкретных приложений, хотя компания еще не раскрыла никаких подробностей.Одна из целей Marvel - сократить пространство, занятое отраслевыми стандартными интерфейсами HBM, в процессах, тем самым освобождая области, доступные для вычислений и функциональности.Компания утверждает, что с помощью своего запатентованного межпипного ввода/вывода она может не только упаковать на 25% больше логики в своем индивидуальном XPU, но также может установить на 33% больше пакетов памяти CHBM, прилегающих к вычислительной чипу, тем самым увеличивая количество доступных DRAM DRAMк процессору.Кроме того, компания ожидает сокращения до 70% в энергопотреблении интерфейса памяти.
Из -за того, что CHBM Marvel не полагается на указанные стандарты JEDEC, для этого потребуется новый контроллер и настраиваемые физические интерфейсы, новые интерфейсы между чипсами и полностью обновленную базовую чип HBM с точки зрения аппаратного обеспечения.Пропускная способность интерфейса HBM между новыми чипами Marvel составляет 20 Тбит/с/мм (2,5 ТБ/с на миллиметр), что значительно выше, чем текущие 5 ТБ/мм (625 ГБ/с на миллиметр), обеспечиваемые HBM.Со временем Marvel представляет собой полосу пропускания 50 Тбит/с/мм (6,25 ТБ/с на миллиметр) без буферной памяти.
Marvel не указала ширину своего интерфейса CHBM.Помимо утверждения, что он усиливает XPU за счет сериализации и ускорения интерфейса ввода/вывода между его внутренним вычислительным акселератором и базовым чипом HBM, Marvel не раскрыл много деталей своего настроенного решения HBM, что в некоторой степени подразумевает более узкую ширину интерфейса интерфейса.по сравнению с отраслевыми стандартными решениями HBM3E или HBM4.Тем не менее, кажется, что решение CHBM будет настраиваемо.
Настройка HBM для конкретной производительности, энергопотребления и общей стоимости владения для улучшения XPU является последним шагом в новой парадигме проектирования и доставки ускорителя искусственного интеллекта », - сказал Уилл Чу, старший вице -президент и генеральный менеджер по настройке, вычислителям иГруппа хранения в Marvel.
Сотрудничество с Micron, Samsung и SK Hynix имеет решающее значение для успешной реализации Marvel CHBM, поскольку он закладывает основу для относительно распространенного использования индивидуального HBM.