Показатели производительности Intel Arc Pro B70: значительно быстрее, чем RTX 4000 Pro от Nvidia, при вдвое меньшей цене и на 33% большем объеме VRAM
Вчера компания Intel представила Высокопроизводительные графические процессоры для рабочих станций Arc Pro B65 и B70 предназначенных для обучения/выводов ИИ LLM, не предоставив в первоначальном пресс-релизе конкретной информации о производительности. Несколько часов спустя компания опубликовала графики производительности, сравнивающие модель B70 с графическими процессорами Nvidia RTX 4000 Pro, которым уже несколько лет. Intel утверждает, что сравнение остается корректным, учитывая цену карты B70 ниже 1 000 долларов, а Team Blue подкрепляет свои слова впечатляющими заявлениями об общей производительности.
Даже если не смотреть на графики производительности, которые могут быть, а могут и не быть точными в истинной манере Intel, графический процессор Arc B70 сразу же возвышается над конкурентами Nvidia благодаря увеличенному объему VRAM (32 ГБ против 24 ГБ) и стартовой цене, которая начинается с $949 (против $1 800). Конечно, объем VRAM составляет всего 19 Гбит GDDR6 с 256-битной шиной и пропускной способностью 608 ГБ/с, но, по крайней мере, увеличенный объем помогает тренироваться и делать выводы на более крупных моделях.
Благодаря большему объему VRAM, B70 может похвастаться в 2,2 раза большим контекстным окном по сравнению с картой RTX 4000 Pro. На слайде Intel показано, что B70 поддерживает контекст длиной до 93K токенов, в отличие от RTX 4000 Pro, у которой память заканчивается на 42K токенах при использовании с Llama 3.1 8b Модель BF16.
Параллельные мультиагентные потоки, выполняемые на Ministral Instruct 2410 8B (BF16), обеспечивают на 85% более высокую пропускную способность для нескольких пользователей или запросов с помощью B70 в среде Linux OS. Кроме того, B70 способен быстрее выдавать ответы для нескольких пользователей или запросов: время до первого маркера увеличилось в 6,2 раза. Intel отмечает, что такие высокие скорости стали возможны благодаря улучшенному OneAPI и собственному программному стеку компании. Прирост производительности по сравнению с конкурентами Nvidia также увеличивается при использовании нескольких GPU, поскольку Intel заявляет о 2-кратном увеличении количества жетонов на доллар в конфигурациях с одним, двумя и четырьмя GPU.
К сожалению, слайды не показывают никаких показателей производительности или информации о цене для B65 GPU. Будет интересно посмотреть, разрешит ли Intel партнерам по AIB выпускать ориентированные на геймеров версии графических процессоров B65 и B70 с чуть меньшим объемом VRAM. Это также будет означать, что Intel должна будет предоставить улучшенные графические драйверы.
