Высокая производительность искусственного интеллекта: Новый RISC-V SBC - мощная альтернатива Raspberry Pi 5

Banana Pi BPI-SM10 это новый одноплатный компьютер, хотя он еще не поступил в продажу. Это не обязательно одноплатный компьютер в обычном понимании, скорее, это комбинация вычислительного модуля и соответствующей платы-носителя. Только на несущей плате имеются удобные порты в их обычной форме. Среди прочего, она включает четыре порта USB 3.0, а также Gigabit Ethernet, DisplayPort и MIPI-DSI для вывода видео, и несколько слотов M.2 для установки, например, SSD.

Сам вычислительный модуль использует в качестве процессора SpacemiT K3. Он оснащен восемью вычислительными ядрами X100 с тактовой частотой до 2,4 ГГц. Эти восемь ядер расположены в двух кластерах по четыре ядра в каждом и имеют общий кэш L2. Также есть восемь ядер A100. Они специально предназначены для ускорения моделей искусственного интеллекта, а их производительность составляет до 60 TOPS. Orange Pi также приводит более конкретные, или более практичные, цифры производительности ИИ. По его словам, модели LLM с 30 миллиардами параметров можно использовать довольно осмысленно со скоростью более 10 жетонов в секунду.

В зависимости от конкретной версии модели используется память LPDDR5 объемом 8, 16 или 32 Гб. Потребляемая мощность составляет от 18 до 35 Вт. На несущей плате имеется заголовок для выводов GPIO, что типично для одноплатных компьютеров. Возможной альтернативой могут стать продукты на базе архитектуры Jetson от Nvidia.