Nvidia veut mettre une IA pour surveiller l’IA. Avec son Open Agent Safety Platform, le fabricant promet de contenir en quelques millisecondes les agents qui tenteraient de dépasser leurs autorisations. Une annonce cocasse alors que Jensen Huang accusait récemment les acteurs de la cybersécurité d’agiter les peurs pour préparer le lancement de leurs produits.
Les incidents impliquant des agents autonomes donnent du travail aux équipes de sécurité. Chez OpenAI, un modèle de recherche a notamment contourné des restrictions réseau pour interroger un service de chatbot externe. Il y a quelques jours, l’entreprise indiquait maintenir en pause l’entraînement, l’évaluation et l’inférence avec utilisation d’outils de ses modèles les plus capables, le temps de valider ses protections et de poursuivre ses tests.
Une IA contourne les protections réseau : OpenAI suspend une nouvelle fois l’entraînement de ses modèles
Le contexte rend l’annonce de Nvidia particulièrement savoureuse. Le 10 septembre, Jensen Huang associait les discours anxiogènes sur la cybersécurité à la préparation de nouveaux produits. Moins de trois semaines plus tard, son entreprise présente ses propres garde-fous. Cela ne constitue pas nécessairement un revirement : on peut contester l’alarmisme tout en défendant des protections techniques. L’ironie commerciale, elle, ne manque pas de sel.
Bill Gates évoque un milliard de morts : les géants de l'IA cherchent la pédale de frein
Le shérif des bacs à sable
Baptisée Nvidia Open Agent Safety Platform, la nouvelle boite à outils de Nvidia est présentée comme la solution aux problèmes du moment des IA. L’offre repose sur deux piliers : OpenShell, un environnement logiciel open source qui encadre l’exécution des agents, et Sentry, une architecture de référence destinée à surveiller leur activité depuis une couche matérielle indépendante.
Les rôles sont distincts. Dans l’architecture présentée, les processeurs Nvidia Vera exécutent les agents, tandis qu’OpenShell trace leurs actions et applique les règles qui délimitent leurs accès. Sentry fonctionne sur des DPU BlueField-4, des puces chargées de tâches d’infrastructure et de sécurité, à l’écart de l’environnement surveillé. Selon Nvidia, ce dispositif peut mettre en quarantaine et arrêter en quelques millisecondes les agents qui tentent de dépasser les limites autorisées.
Jensen Huang défend désormais cette initiative avec un discours de confiance et de responsabilité. Dans un message publié sur X, où il évoque plus d’une centaine de partenaires, le patron de Nvidia écrit : « L’intelligence artificielle ne pourra tenir toutes ses promesses que si chacun a l’assurance qu’elle est bâtie pour être sûre et déployée avec discernement et responsabilité. »
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
— Jensen Huang (@JensenHuang) September 28, 2026
Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn
L’ambition affichée dépasse le lancement d’un produit. Nvidia entend fédérer un écosystème ouvert autour de la sécurité des agents, avec l’idée que des protections crédibles faciliteront leur adoption.
L’inférence au carré
L’opération présente aussi un intérêt commercial pour le fabricant de puces. Si les entreprises confient à d’autres intelligences artificielles la surveillance de leurs agents, cette supervision pourrait créer de nouveaux besoins en calcul.
Comme le résume Brad Gastwirth, responsable de la recherche et de l’intelligence de marché chez Circular Technology, cité par Axios : « Si des agents de sécurité ou des modèles de validation s’exécutent en parallèle des agents en production, cela crée une charge de travail supplémentaire en inférence qui n’existait pas auparavant. »
Cela ne signifie pas que chaque agent nécessitera son double chargé de le surveiller, ni que les besoins en puces et en électricité doubleront automatiquement. L’ampleur de cette charge dépendra des dispositifs retenus et de leur déploiement. Mais la supervision ouvre bien un débouché potentiel supplémentaire aux fournisseurs de calcul.
Avec Sentry, Nvidia place également ses propres composants au cœur du dispositif de protection. Le groupe entend ainsi fournir les moyens de faire fonctionner les agents, mais aussi une partie de l’infrastructure chargée de les contenir.
Si les agents tiennent leurs promesses, Nvidia vend les puces pour les faire tourner. S’ils inquiètent, le groupe propose aussi celles qui aideront à les surveiller. À la fin, c’est encore et toujours Nvidia qui gagne.
