Asus представляет "первый в мире ИИ-ускоритель с интерфейсом USB для классического и генеративного ИИ"

Платы расширения для систем ПК - это не новость, а выделенные видеокарты - обязательное условие для требовательных геймеров. Ранее мы уже сообщали о платах расширения для ускорения моделей искусственного интеллекта, хотя, вероятно, они уже не являются строго необходимыми для многих современных ПК благодаря NPU, интегрированным в APU. Тем не менее, такие карты расширения все еще могут быть полезны для повышения производительности ИИ в существующих системах. Компания Asus анонсировала одну из таких карт - UGen300.

Это USB-карта расширения, которая взаимодействует через USB 3.1 Gen 2 и поэтому не требует ни установки в PCI-слот, ни вскрытия корпуса ПК. Устройство оснащено NPU Hailo 10H, который, как утверждается, достигает производительности 40 TOPS (INT4), а его типичное энергопотребление указано на уровне 2,5 Вт, что делает его очень низким и практически ничтожным. на борту установлено 8 ГБ оперативной памяти LPDDR4, чего вряд ли будет достаточно для хардкорных энтузиастов ИИ, поскольку специализированные сборки ИИ обычно имеют более 100 ГБ оперативной памяти.

Как сообщается, он совместим с платформами x86 и ARM, устройствами Windows, Linux и Android, а также с различными фреймворками, такими как TensorFlow, PyTorch и ONNX. По словам представителей Asus, для использования доступно более 100 предварительно обученных моделей. Типичным применением может быть расширенное распознавание и интерпретация изображений или моделей. На данный момент нет информации о цене или доступности