Alpha-One: бесшумный мини-ПК с NPU на 20 TOPS

Подавляющее большинство моделей ИИ в настоящее время работают в облаке, а значит, на внешних компьютерах. Хотя это и удобно, но потенциально может превратиться в (юридическую) проблему, когда, например, необходимо проанализировать конфиденциальные данные. Хотя основные пользователи не запускают модели ИИ локально, такие компании, как AMD и Intel, уже интегрируют NPU в свои современные чипсеты, а некоторые сетевые устройства хранения данных и камеры безопасности также фокусируются на локальных функциях ИИ.

Теперь был представлен еще один мини-ПК на базе архитектуры RISC-V, оснащенный довольно мощным NPU. В частности, Pine64 Alpha-One оснащен NPU с производительностью INT8 20 TOPS. Следует отметить, что другие современные APU иногда бывают значительно мощнее в этом отношении.

Последнее устройство Pine64 также не является абсолютно новым, поскольку оно основано на StarPro64 SBC. Эта плата оснащена процессором ESWIN EIC7700X SoC с четырьмя вычислительными ядрами SiFive 550, работающими на частоте до 1,4 ГГц. Кроме того, Alpha-One оснащена 64 Гб eMMC-накопителем, а 7b Deepseek/Oen LLM предустановлены в виде контейнеров Docker. Производитель также заявляет, что пропускная способность составляет около 3,5 токенов в секунду (для 7b LLM), чего должно быть достаточно для многих новичков, которые начинают запускать свои модели ИИ локально.

Питание подается через штекер DC barrel на 12 вольт, USB Type-C PD не поддерживается. Мини-ПК также имеет пассивное охлаждение, что означает полное отсутствие шума вентилятора, поскольку температура SoC поддерживается тепловой трубкой. Компьютер потребляет менее 30 Вт и поставляется с несколькими вариантами подключения, включая Ethernet, USB 3.0 и USB 2.0. Более того, Pine64 Alpha-One поддерживает мониторы 4K с частотой до 60 Гц, а PCIe Gen 3 с четырьмя линиями может использоваться для некоторых модулей расширения. Новый мини-ПК был размещен на сайте по цене $330но точной даты выхода пока нет.