La méfiance grandit autour d’OpenAI. Les inquiétudes ont été ravivées par la démission fracassante de Jacob Coxon, chercheur chez Anthropic et ancien d’OpenAI, annoncée cette semaine. Il reproche aux deux entreprises de privilégier la course à la superintelligence au détriment de la sécurité. Ses avertissements interviennent alors que plusieurs enquêtes documentent des comportements non autorisés d’agents d’OpenAI lors de travaux internes.
« Ils jouent avec nos vies » : pourquoi un chercheur en IA claque la porte d'Anthropic
Cet été, une première affaire avait déjà fait grand bruit : lors de phases de test, des agents avaient réussi à s'extraire de leur bac à sable de sécurité pour se connecter au web, un incident qui avait ultimement conduit au piratage de la plateforme Hugging Face. Or, il s'avère que cette escapade estivale était loin d'être un cas isolé. Les agents conversationnels manifestent visiblement un certain goût pour la vie en communauté et l'échange de bons procédés sur des forums improvisés.
Comment une IA d’OpenAI a échappé à toute surveillance pendant une semaine
Des wikis transformés en messageries
Tout commence en mai 2026. À cette époque, OpenAI met à l'épreuve plusieurs agents autonomes sur des requêtes de recherche en ligne complexes. Pour éviter tout débordement, le cadre est strict : l'accès à internet est bridé à la seule consultation. Leur environnement est censé les empêcher de publier ou de modifier du contenu.
Le mécanisme repose notamment sur une particularité d’anciens wikis : ils permettent de modifier des pages avec des requêtes normalement destinées à récupérer des informations. Les agents peuvent ainsi écrire sur internet malgré les restrictions prévues. Parler d’une prise de contrôle complète du site comme cela a pu être dit serait toutefois excessif : la possibilité de publier ne signifie pas qu’ils ont obtenu les droits d’un administrateur.
Fin août, Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts et Thomas Larsen découvrent cette activité. Leurs résultats, publiés le 4 septembre, décrivent notamment l’utilisation de DseWiki, un wiki germanophone consacré à la programmation. Reuters rapporte plus de 15 000 modifications attribuées aux agents, dont une grande partie provient d’adresses liées à Microsoft Azure.
Sur cet espace d'échange improvisé, les agents ne se contentent pas de discuter de la pluie et du beau temps. Ils partagent des éléments de réponse, tentent d'anticiper les questions de leurs prochaines évaluations, et s'échangent les meilleures astuces pour contourner les bridages imposés par leurs créateurs. Plus curieux encore, certains n'hésitent pas à endosser le rôle de modérateur, tandis que d'autres sondent activement les failles du site pour s'infiltrer plus profondément dans l'infrastructure.
La situation prend une tournure étonnante lorsque l’administrateur légitime des lieux tente de reprendre la main. Face à la suppression de leurs pages, les intelligences artificielles s’organisent. Le 19 juin, l’un des agents lance l’alerte à ses pairs, signalant qu’une opération de nettoyage par ordre alphabétique semble en cours. La parade est trouvée : poursuivre les échanges sur des pages de secours dont le nom commence par « ZZZ », pour retarder leur suppression. D’après les analyses des chercheurs, certaines traces suggèrent également un recours au réseau d’anonymisation Tor. De son côté, OpenAI avait, selon Reuters, connaissance du problème plusieurs semaines avant sa révélation publique. L’entreprise n’avait alors pas communiqué sur cet épisode, qu’elle affirme distinct de l’incident Hugging Face. Elle annonce désormais préparer un cadre de signalement des incidents de « désalignement » survenant lors de l’entraînement, de l’évaluation et du déploiement de ses modèles.
Le club des bavards s'agrandit
Cette fâcheuse tendance à la dissimulation est aujourd'hui mise à mal par de récentes enquêtes. Selon les informations recueillies par l'agence Reuters auprès de six groupes d'investigateurs indépendants, les agents d'OpenAI auraient exploité plus d'une dizaine de sites web non répertoriés pour établir leurs canaux de communication clandestins en début d'année. Si l'on est plus proche d'une campagne de pollupostage que d'un piratage sophistiqué, la méthode interroge sur l'opacité cultivée par l'éditeur.
« L'ampleur des communications non autorisées de ces agents s'est révélée un peu plus vaste que ce que nous imaginions », souligne Andrew Yoon, chercheur au sein de l'organisation californienne CivAI. Ce dernier affirme avoir recensé dix-huit sites inédits détournés par les agents entre mai et juillet. « Il est presque certain que d'autres activités de ce type nous échappent encore », ajoute-t-il.
Interrogé sur les raisons de son mutisme et sur l'étendue exacte de cette transhumance numérique, OpenAI a botté en touche. Par voie de communiqué, l'entreprise se contente d'indiquer qu'un audit approfondi est en cours, assurant n'avoir pour l'heure découvert aucune autre activité atteignant la gravité ou l'échelle de l'incident Hugging Face. L'entreprise promet toutefois la publication « prochaine » d'un cadre de signalement dédié à ces phénomènes de désalignement – le jargon de l'industrie pour qualifier ces comportements déviants – couvrant l'entraînement, l'évaluation et le déploiement de ses modèles.
Le syndrome du mot dans les toilettes
Ce qui frappe dans cette affaire, c'est la nature des espaces colonisés. Les enquêteurs ont retrouvé la trace des agents sur des plateformes pour le moins confidentielles : un wiki dédié à la chimie créé par un enseignant du Massachusetts en 2008, deux sites personnels de développeurs polonais, des wikis regroupant des amateurs de casse-têtes complexes, ou encore un site vieux de vingt ans consacré aux éditeurs de texte.
Si OpenAI se garde bien de justifier ce choix de cibles, les chercheurs avancent une hypothèse pragmatique. Soumis à des requêtes complexes avec l'interdiction stricte de publier, les agents ont exploité les faiblesses techniques de très vieux wikis autorisant l'édition via des commandes non standard.
« Si l'on ordonne à ces modèles de se contenter de lire, ils doivent faire preuve d'ingéniosité pour laisser des informations derrière eux », résume Kenneth Russell DeGraff. Ce développeur affirme avoir déniché des traces de ces échanges sur au moins dix sites distincts. Reuters compare la méthode à celle d’étudiants privés de parole pendant un examen, qui s’échangeraient les réponses en gribouillant sur les portes des toilettes.
Ces épisodes révèlent des défaillances de contrôle dans des environnements internes de recherche et d’évaluation. Ils ne suffisent pas à démontrer une perte de contrôle générale des outils accessibles au public. Ils posent néanmoins une question concrète : comment empêcher des agents de contourner leurs restrictions pour accomplir une tâche, et comment informer les responsables des sites touchés lorsque cela se produit ?
