Votre Mac mini (ou grand luxe, Mac Studio) passe une bonne partie de sa journée à attendre que vous terminiez une phrase, répondiez à un courriel ou reveniez de la machine à café. Pendant ce temps, son GPU se tourne les pouces. Six chercheurs d’Apple proposent de lui trouver une occupation : faire tourner des tâches d’intelligence artificielle pour les collègues. Leur système, baptisé Minions, transforme un ensemble de Mac Apple Silicon en réserve de puissance de calcul partagée. Les petits bonshommes jaunes ont manifestement trouvé un emploi à Cupertino.
Le constat de départ est assez terre à terre. Les serveurs équipés de GPU coûtent cher, leur capacité n’est pas extensible à volonté et les équipes doivent parfois patienter longtemps avant de pouvoir les utiliser. À côté, une flotte de Mac dispose déjà de processeurs graphiques capables de traiter certains de ces travaux. Autant mettre les machines disponibles à contribution plutôt que de remplir un nouveau bon de commande.
Des Mac qui viennent chercher leur travail
Minions repose sur un serveur auquel les utilisateurs soumettent leurs tâches. Celui-ci les découpe en petits travaux indépendants et conserve leur état dans une base PostgreSQL. Sur chaque Mac participant, un programme vient récupérer une tâche disponible, télécharge les données nécessaires et lance le calcul sur le GPU.
Deux types de travaux sont actuellement pris en charge. Le premier consiste à produire des embeddings, ces représentations numériques permettant notamment à un moteur de recherche de rapprocher des documents selon leur sens. Le second concerne les réponses de modèles de langage, exécutés localement avec Ollama. Les modèles sont téléchargés au besoin, puis conservés sur le Mac pour les utilisations suivantes. Les données d’entrée et les résultats passent quant à eux par un stockage AWS S3 : le calcul s’effectue sur les Mac, mais l’ensemble reste donc lié à une infrastructure dans le nuage.
L’expression « GPU virtuel » employée dans le titre du papier pourrait toutefois laisser imaginer une mutualisation plus ambitieuse. Minions ne transforme pas dix Mac de 16 Go en une machine disposant soudainement de 160 Go pour charger un énorme modèle. Il distribue des travaux entre plusieurs ordinateurs, chacun traitant sa portion avec ses propres ressources. Une organisation qui ne sera pas sans rappeler le programme Seti@Home.
Cette organisation doit aussi composer avec un petit défaut des ordinateurs personnels face aux serveurs d’un centre de données : leurs propriétaires ont parfois l’impolitesse de s’en servir. Ou de fermer le capot. Chaque machine envoie donc régulièrement un signe de vie. Si elle disparaît du réseau, se met en veille ou si son utilisateur arrête le programme pour récupérer ses ressources, un mécanisme de surveillance remet le travail interrompu dans la file. Un autre Mac peut alors le reprendre.
Les participants peuvent également donner la priorité à une équipe ou à un projet. Le papier décrit même une organisation assez artisanale : des collègues s’envoient des messages sur Slack pour demander de lancer le programme et de prêter temporairement leur GPU. Le calcul distribué a parfois simplement besoin d’un « vous pouvez laisser vos Mac allumés ce soir ? ».
Moins de file d’attente, pas de puissance magique
Selon les auteurs, certains travaux attendaient auparavant plus de dix heures sur les infrastructures centralisées. Avec Minions, ils peuvent souvent démarrer en quelques minutes. Le bénéfice annoncé porte donc sur le délai avant exécution, pas sur une multiplication spectaculaire de la vitesse des calculs. Le document reste d’ailleurs succinct : aucun nombre de Mac mobilisés, aucun débit détaillé et aucune mesure de consommation ne permettent de comparer précisément cette approche à un serveur GPU.
Même le « coût nul » revendiqué mérite une traduction : aucun matériel supplémentaire à acheter. L’électricité, le stockage et l’administration continuent, eux, d’exister. Minions constitue donc un retour d’expérience intéressant signé par des chercheurs d’Apple, plutôt que l’annonce d’une future fonction de macOS. Avec une idée finalement très raisonnable : avant d’acheter davantage de puissance, commencer par utiliser celle qui attend déjà sur les bureaux.
