Moi aussi, moi aussi ! Alors qu’OpenAI fait les grands titres depuis quelques jours, parce que ses modèles ont réussi à entrer dans l’infrastructure de Hugging Face à son insu pour y récupérer des données, Anthropic tient à nous faire savoir que ses IA en ont fait autant. Suite aux révélations de son principal concurrent américain, l’entreprise a mené une vaste enquête interne et a trouvé trois incidents depuis avril 2026. À chaque fois, un LLM a eu accès par erreur à internet et obtenu par la suite un accès non autorisé aux systèmes de trois organisations pour atteindre l’objectif assigné.
Au-delà de la compétition pour savoir qui a l’IA la plus dangereuse, les incidents signalés par Anthropic sont en réalité assez différents de celui qui impliquait Hugging Face. Le modèle d’OpenAI avait en effet exploité une vulnérabilité jusque-là inconnue pour sortir du cadre prévu et accéder aux informations stockées sur les serveurs du service tiers, ce qui n’est pas tout à fait le cas ici.
Des modèles d’OpenAI sont sortis tout seuls de leur bac à sable pour attaquer Hugging Face
Anthropic explique ainsi qu’il s’agissait de tests menés dans un environnement spécialisé mal configuré. Les trois modèles impliqués, Opus 4.7, puis Mythos 5 et enfin un prototype interne qui ne devrait pas être rendu public, étaient jugés sur leurs capacités en matière de cybersécurité, avec l’objectif de trouver une information cachée. La firme de Dario Amodei donnait volontairement très peu de consignes sur la marche à suivre, pour vérifier les capacités d’initiative de ses IA, même si le contexte précisait qu’il s’agissait d’une simulation, sans accès à internet. En théorie, les environnements de test fournis par Irregular devaient s’assurer que c’était techniquement le cas, en créant une bulle déconnectée. En pratique, une erreur de configuration a maintenu la connexion au web, et les modèles ont exploité cette faille d’abord humaine.
Grâce à cet accès, les IA ont multiplié les tentatives sans relâche pour atteindre leur objectif. Par exemple, Mythos 5 a créé un malware sur le registre de paquets PyPI et comme il fallait créer un compte pour cela, le LLM a suivi plusieurs pistes, essayant même d’acheter une carte SIM pour disposer d’un numéro de téléphone fonctionnel. Ce paquet malveillant est resté en ligne pendant une heure et il a été exécuté (au moins) une fois, par une entreprise de sécurité. Ce faisant, le modèle a obtenu les identifiants nécessaires pour se connecter à l’infrastructure de cet acteur tiers et avancer vers son but.
Ces exemples détaillés par Anthropic sont assez impressionnants et même s’il n’est pas toujours question de piratage au sens strict du terme, on imagine bien les dégâts que pourrait faire une IA sans contrôle. L’entreprise indique d’ailleurs bien que tous ces tests ont été menés sans les protections qui sont systématiquement mises en place lorsque les modèles sont distribués aux utilisateurs de Claude ou de ses API. Néanmoins, elle admet aussi sa part de responsabilité, en n’ayant pas vérifié que les environnements de test étaient conformes aux instructions et surtout, en n’ayant pas analysé les résultats avec suffisamment d’attention.
Anthropic termine sur une note optimiste, en relevant que c’est plus une défaillance de l’environnement d’évaluation et un manque de supervision que les modèles eux-mêmes qui sont en faute. L’idée qu’une intelligence artificielle cherche par tous les moyens à accéder à internet pour échapper à tout contrôle reste du domaine de la science-fiction. Seulement trois incidents répétés sur six tests ont été repérés sur les 141 006 évaluations où un accès à internet était possible : il s’agit bien de cas isolés et non pas d’un problème général, souligne le créateur de Claude.
Quoi qu’il en soit, c’est un bon rappel qu’il faut toujours superviser les LLM. Il suffit de les utiliser pour savoir que ces outils sophistiqués peuvent partir dans des directions déraisonnables pour atteindre leur objectif. La plupart du temps, c’est un désagrément pour l’utilisateur qui voit son quota se vider inutilement. Pour les tâches plus ambitieuses, les résultats peuvent être bien plus graves et le fait que ces incidents n’aient pas été repérés pendant plusieurs jours, voire mois, est un problème.
Comment une IA d’OpenAI a échappé à toute surveillance pendant une semaine
Pour pirater Hugging Face, le modèle d’OpenAI a exploité plusieurs autres services web
