Les GPU externes, vous connaissez sûrement (même si les Mac Apple Silicon sont incompatibles) : ces boîtiers reliés en Thunderbolt permettent d’augmenter la puissance graphique d’un ordinateur. Asus décline maintenant ce principe pour l’intelligence artificielle.
Le fabricant a annoncé le UGen300, qui est présenté comme le premier accélérateur d’IA à connectique USB (10 Gbit/s). Basé sur un module Hailo-10H et doté de 8 Go de RAM LPDDR4, cet accélérateur promet jusqu’à 40 TOPS (INT4) de puissance de calcul pour une petite consommation de 2,5 W. De quoi faire tourner localement différentes technologies d’IA, comme des grands modèles de langage ou des moteurs de transcription. Il est compatible avec les principaux frameworks (TensorFlow, TensorFlow Lite, Keras, PyTorch et ONNX) et Asus met à disposition des modèles pré-entraînés via une bibliothèque en ligne.
Le UGen300 fonctionne avec les ordinateurs sous Windows et Linux, et même avec les terminaux Android. Aucun utilisateur lambda n’aura l’idée de le brancher à un smartphone, mais il peut intéresser les développeurs. Sur un PC, il peut venir épauler un NPU (le processeur dédié aux traitements d’IA) peu performant, voire inexistant.
En revanche, il n’est pas compatible avec les Mac faute de pilotes. Dommage ? Pas nécessairement : le Neural Engine de la puce M4 est annoncé à 38 TOPS, soit à peu de choses près la puissance de l’UGen300. Et avec la puce M5, Apple est allé encore plus loin en intégrant des accélérateurs neuronaux dans le GPU. La date de disponibilité et le prix du boîtier d’Asus sont encore inconnus.
Test du MacBook Pro M5 : ennuyeux mais terriblement efficace
macOS Tahoe 26.2 va doper le machine learning sur les Mac M5
