Qui aurait cru, il y a quatre ans encore, que Sam Altman et Dario Amodei, alors de parfaits inconnus pour le grand public, seraient à la tribune de l’ONU pour évoquer la nécessité d’une coopération internationale ? Orchestrée sous l’impulsion de la diplomatie française, cette séquence inédite a mis en lumière une volonté de régulation autour des modèles dits « frontière », malgré la réticence historique de Washington à l’égard de toute contrainte supranationale.
Les apôtres de l’apocalypse
La rhétorique employée par les têtes d’affiche du secteur ne fait pas dans la demi-mesure. Yoshua Bengio, figure tutélaire de la recherche en apprentissage profond, a plaidé pour l’instauration d’un régime de licences calqué sur les industries critiques comme le nucléaire ou l’aviation, arguant que les risques de dérapage sont désormais imminents. Dario Amodei a pour sa part poussé en faveur de standards d’évaluation mondiaux et d’accords ciblés interdisant, par exemple, la génération d’armes biologiques. Quant à Sam Altman, il a joué la carte du pragmatisme inquiet, affirmant qu’un risque de catastrophe, même évalué à une infime fraction de pourcent, demeurait inacceptable.
Faites ce que je dis, pas ce que je code
Si Sam Altman ne manque jamais d’évoquer les dangers de l’IA, il en parle en connaissance de cause et se traînait une nouvelle casserole à son arrivée au siège des Nations unies. Un agent d’IA d’OpenAI a une fois de plus fait des siennes et accédé sans autorisation au portail des statistiques de Medicare, le système d’assurance maladie australien. Selon The Verge, il pourrait s’agir du premier cas confirmé d’un agent d’IA ayant pénétré sans autorisation un site gouvernemental.
Le Premier ministre Anthony Albanese a publiquement fustigé cette infiltration, survenue le 18 juin mais signalée seulement le 10 septembre. Le signalement a été transmis à une boîte courriel publique de Services Australia, utilisée notamment par les chercheurs pour déclarer des vulnérabilités. Albanese a dénoncé aussi bien le délai que les modalités de cette notification. Si aucune donnée personnelle n’aurait été compromise à ce stade, les investigations se poursuivent.
OpenAI affirme que ses modèles ont effectué des actions qu’elle n’avait pas prévues alors qu’ils étaient chargés de rechercher des informations à des fins d’évaluation interne. L’entreprise assure n’avoir découvert l’activité qu’en août, lors d’un examen des comportements de ses modèles.
La résistance face à l’oligopole
Le discours catastrophiste si souvent employé par les dirigeants américains ne fait cependant pas l’unanimité, et l’on retrouve d’ailleurs une vive résistance française face à ce sujet. Clément Delangue, à la tête de la plateforme Hugging Face, elle-même récemment ciblée par un essaim de bots d’OpenAI, a profité de la tribune onusienne pour fustiger les prises de décision dictées par la peur. Selon lui, les risques de l’IA résident surtout dans « l’asymétrie entre attaquants et défenseurs ».
Après s’être fait attaquer par des IA, Hugging Face leur demande gentiment d’aller jouer ailleurs
Dans un entretien au Monde, Arthur Mensch développe une critique plus frontale. Le directeur général de Mistral AI analyse la panique sécuritaire entretenue par ses concurrents d’outre-Atlantique comme une manœuvre purement commerciale. « Ce devait être un événement assez embarrassant pour ces entreprises ; elles l’ont transformé en un argument marketing », assène-t-il en référence aux récents déboires d’agents autonomes. Selon lui, les laboratoires américains instrumentalisent leurs propres négligences pour justifier une « capture réglementaire » et protéger leur modèle économique, aujourd’hui sous forte pression face aux alternatives libres.
Pour le dirigeant français, l’objectif d’entreprises comme OpenAI ou Anthropic est clair : étouffer l’émergence de l’open source. « Il faut inscrire ce débat dans une confrontation entre deux avenirs : celui d’une IA centralisée fournie par un oligopole, en l’occurrence américain, et celui d’une IA décentralisée qui crée de la valeur pour tout le monde », précise-t-il.
Arthur Mensch reproche aussi à certains laboratoires de présenter leurs logiciels comme des êtres doués d’une conscience et échappant à tout contrôle. Il vise notamment Anthropic, qui décrit selon lui les IA comme « un peu des gens qui auraient une conscience et seraient complètement incontrôlables ». À ces représentations, il oppose des mesures concrètes : isoler les agents dans des environnements de test, surveiller leurs actions et vérifier qu’ils respectent les instructions. Tout en reconnaissant la difficulté du contrôle de ces systèmes et leur comportement parfois imprévisible, il estime que ces problèmes relèvent de l’ingénierie logicielle. Et de conclure avec pragmatisme : « Un logiciel, vous vérifiez qu’il marche avant de le mettre sur le marché. »
Les incidents sont réels, les intérêts commerciaux le sont aussi. À l’ONU, le débat porte donc autant sur les moyens de contrôler l’IA que sur ceux qui auront le pouvoir d’en fixer les règles. Reste à savoir si les garde-fous réclamés par les géants du secteur protégeront aussi la concurrence ou consolideront leur domination.
