Hexagon NPU 6 в Snapdragon X2 Elite Extreme: производительность 80 TOPS, которая на 95% выше, чем у Apple M4, и на 122% выше, чем у Intel Lunar Lake
Qualcomm недавно представила свое новое поколение Snapdragon X2 Elite Extreme и X2 Elite SoC для ноутбуков. Новые чипы X2 Elite отличаются не только общими улучшениями CPU, GPU и памяти, но и значительными усовершенствованиями в Hexagon NPU.
Компания утверждает, что новейший Hexagon NPU является самым быстрым NPU на ноутбуках с вычислительной мощностью ИИ до 80 TOPS. Это почти на 78% больше, чем 45 TOPS, которые мы видели у Snapdragon X линейка.
X2 Elite Extreme создан для агентских рабочих процессов
Компания Qualcomm рассказала о том, что для одного агента LLM с длиной контекста 1024 и 14 миллиардами параметров (14B) потребуется до 143 TOPS вычислительной мощности ИИ, в то время как для агентских сценариев с двумя (3B) или четырьмя агентами (7B), каждый из которых работает одновременно с LLM и LVM, может потребоваться до 72 TOPS.
При этом также возникает проблема оптимизации производительности на Ватт и низкой задержки.
Qualcomm утверждает, что Snapdragon AI inferencing работает с программным стеком Windows AI, обеспечивая агентурные рабочие нагрузки нового поколения. Поддерживаемые открытые ML-фреймворки включают PyTorch и TensorFlow.
Вместе с ONNX Runtime, предлагаемым Windows ML, Snapdragon AI inferencing может задействовать CPU, GPU и NPU для ускорения обработки AI на устройстве.
Процессоры для ноутбуков Snapdragon X серии SoCs в настоящее время поддерживают более 1000 моделей и более 300+ опытов, охватывающих аудио, видео, фото, генеративный ИИ, агентный ИИ и рассуждения.
Опыт, основанный на NPU, можно использовать в популярных приложениях, таких как Adobe Premiere, Blender, VS Code, Affinity Photo и других.
Два десятилетия эволюции Hexagon: увеличение пропускной способности скалярных и векторных систем на 143%
Компания Qualcomm подробно рассказала о том, как Hexagon изначально начинал как цифровой сигнальный процессор, который в основном занимался скалярной обработкой, а затем превратился в нынешнюю форму NPU 6, которая также выполняет векторное ускорение, ускорение целочисленных и FP16 матриц.
Скалярная обработка теперь охватывает 12 потоков с 4-мя длинными инструкциями (VLIW) на поток, что приводит к 143%-ному увеличению пропускной способности при уменьшении задержки.
NPU 6 также оснащен 127% более быстрой шиной и восемью параллельными потоками для 143% более быстрой векторной обработки с поддержкой FP8 и BF16.
Матричный блок имеет независимую шину питания и теперь работает на 78% быстрее с 2-битным весом и поддержкой FP8+BF16.
Hexagon NPU 6: до 4-кратного увеличения производительности при изоэнергии
По данным Qualcomm, процессор Hexagon NPU в X2 Elite Extreme может обеспечить производительность до 1,6 раз выше, чем в X Elite, при мощности 5 Вт в режиме изотопа во время работы с улучшенным глубоким сверхразрешением (EDSR).
Hexagon NPU 6: самый быстрый в мире NPU для ноутбуков
Qualcomm называет Hexagon NPU 6 в Snapdragon X2 Elite Extreme самым быстрым в мире, с 5,7-кратным увеличением производительности и 3,8-кратным увеличением эффективности по сравнению с Core Ultra 9 285HnPU в Procyon AI Computer Vision.
По данным Geekbench AI, NPU Hexagon 6 почти на 70% быстрее, чем NPU в Apple M4 и опережает Core Ultra 9 288V на 82,4%.
Конечно, это цифры производителя, поэтому мы не будем делать окончательных выводов, пока не протестируем ноутбуки на базе SoC X2 Elite Extreme в начале следующего года.
Купить Microsoft Surface Laptop с Snapdragon X Elite (12 ядер) на Amazon)
Источник(и)
Краткий обзор прессы Qualcomm
