Ouvrir le menu principal

MacGeneration

Recherche

Apple Silicon : quand un développeur fait sauter les verrous du Neural Engine pour entraîner une IA


Si Apple traverse quelques zones de turbulences sur le front de l’intelligence artificielle grand public, ses machines restent des terrains de jeu extrêmement prisés par ceux qui aiment mettre les mains dans le cambouis. Une popularité qui doit beaucoup à la présence du Neural Engine, intégré depuis les débuts de l'architecture Apple Silicon. Autour de ce composant, une communauté bouillonnante s’est formée et de nouveaux projets voient le jour presque quotidiennement. Parmi eux, ANE Training sort incontestablement du lot et s'avère incroyablement prometteur sur le papier.

L

L'Apple M4 débarque dans les iPad Pro : une nouvelle puce qui souffle le chaud et le froid

Faire sauter les verrous du Neural Engine

Jusqu'à présent, le Neural Engine embarqué dans des puces comme le M4 était cantonné à l'inférence. En clair, les développeurs peuvent l'utiliser pour faire tourner des modèles d'IA pré-entraînés, mais pas pour en entraîner de nouveaux. C’est précisément cette limitation qu' ANE Training vient balayer et ainsi débloquer le véritable potentiel de la puce M4.

Puisqu'Apple ne fournit aucun accès de bas niveau pour dialoguer avec ces composants, le développeur a dû se passer des outils officiels. Oubliez CoreML, Metal ou l'exploitation classique du GPU. Pour arriver à ses fins, il a entièrement conçu un langage intermédiaire sur mesure (un MIL, pour Model Intermediate Language). Par un habile travail de rétro-ingénierie, il est parvenu à outrepasser les limitations logicielles, permettant au SoC de fonctionner de manière incroyablement fluide et rapide.

Une gymnastique technique en mémoire vive

Le matériel étant jalousement verrouillé, il a fallu ruser. L'une des trouvailles les plus astucieuses du projet concerne la gestion des plantages inhérents à ce genre d'expérimentations. Lorsque le processus s'enlise et nécessite une réinitialisation, le MIL personnalisé fait appel à la commande « exec() ». Cette pirouette technique permet au programme de relancer instantanément son état actuel et de reprendre l'entraînement du modèle sans s'effondrer.

Mais la véritable prouesse réside dans la gestion de la mémoire. Pour garantir une vitesse d'exécution optimale, le débridage du M4 s'est opéré sans la moindre écriture sur le stockage flash NAND, une opération qui aurait inévitablement ralenti le processus. Tout est maintenu dans la mémoire vive, rendant l'exécution foudroyante. Le résultat est là : en faisant sauter ces barrières logicielles, le M4 d'un iPad Pro ou d'un Mac peut développer jusqu'à 15,8 TFLOPS de performances en traitement IA. Une puissance de calcul largement suffisante pour entraîner un modèle sans avoir à investir dans une machine hors de prix ou une carte graphique NVIDIA aux tarifs stratosphériques

Et quand on voit ce que l'on peut tirer du M4 avec ces méthodes, cela laisse songeur quant aux capacités de la future génération de puces M5. À un détail près, qui a toute son importance : comme toujours dans cet exercice, le corollaire d'un processus fuyant le stockage flash est l'impérieuse nécessité de disposer d'une très généreuse quantité de mémoire unifiée pour ne pas étouffer la machine.

Le matériel suit, le logiciel freine

L'horizon semble dégagé, mais le concepteur du projet tient à remettre les points sur les i : il s'agit d'une expérimentation de recherche, et en aucun cas d'un framework destiné à la production.

Son objectif premier était de démontrer que l'entraînement sur le Neural Engine d'Apple et potentiellement sur d'autres NPU du marché est techniquement viable. La véritable barrière a toujours été le support logiciel, et non les capacités matérielles intrinsèques de la puce. Le Neural Engine est un morceau de silicium redoutablement efficace, qu'Apple bride sciemment à de la simple inférence par le biais de CoreML. En exploitant des API privées grâce à la rétro-ingénierie, ce projet met en lumière une vérité un brin frustrante : nos machines en ont énormément sous le capot, pour peu qu'on donne enfin au matériel la chance de s'exprimer.

Source :