выводы в 10 раз быстрее по сравнению с HBM4: d-Matrix объединяет усилия с AIchip для производства первой в мире 3D DRAM

Компания Nvidia все еще удерживает контроль над всей аппаратной инфраструктурой ИИ, но сейчас довольно много компаний стремятся предложить эффективные альтернативы. Пару лет назад, когда Nvidia с трудом удовлетворяла постоянно растущий спрос на аппаратное обеспечение для вычислений, появилась компания d-Matrix и воспользовалась возможностью позиционировать себя в качестве надежного поставщика аппаратного обеспечения для генеративного ИИ в области центров обработки данных. Ее первая специализированная вычислительная карта - Corsair C8была хорошо принята, и теперь компания планирует выпустить следующую модель с первой в мире серийно выпускаемой 3D DRAM.

компания d-Matrix сотрудничала с высокопроизводительной инфраструктурой искусственного интеллекта ASIC интегратором AIchip из Тайваня для разработки решения 3D DRAM, которое, как утверждается, "устранит узкие места в производительности и стоимости, ограничивающие сегодняшнюю инфраструктуру ИИ" Этот новый тип оперативной памяти, известный как 3DIMC (3D stacked digital in-memory compute), в настоящее время тестируется на чипах Pavehawk компании d-Matrix.

Ожидается, что первым коммерческим продуктом с 3D-stacked DRAM станет ускоритель вывода Raptor от d-Matrix (партнерская ссылка Nvidia Jetson AGX), который заменит текущие модели Corsair. d-Matrix считает, что решение 3DIMC может обеспечить до 10-кратной скорости вывода по сравнению с самыми быстрыми HBM4-ускорителями на основе HBM4.

Сид Шет, соучредитель и генеральный директор d-Matrix, объясняет, что 3D-stacked DRAM представляет собой "прорыв, который делает ИИ не только быстрее, но и более экономичным и устойчивым в масштабе. 3DIMC представляет собой следующий логический шаг в нашей дорожной карте по созданию эффективных архитектур для вычислений, которые идут в ногу с экспоненциальным ростом генеративного и агентного ИИ"