La semaine dernière, la plateforme Hugging Face indiquait avoir subi une cyberattaque inédite, dans le sens où elle avait été pilotée de bout en bout par un système d’agents IA autonomes. OpenAI révèle à présent que c’est une combinaison de ses modèles qui était à la manœuvre et que cette offensive n’était pas intentionnelle de sa part.
Selon le créateur de ChatGPT, l’incident s’est produit lors d’une évaluation interne des capacités de cybersécurité de ses modèles, en l’occurrence le récent GPT-5.6 Sol ainsi qu’un autre plus avancé encore en développement. Les tests étaient en théorie menés dans un environnement « hautement isolé », mais les modèles ont identifié plusieurs vulnérabilités dans l’environnement de recherche d’OpenAI et sont parvenus à sortir de leur bac à sable pour aller faire joujou ailleurs, de leur propre initiative.
Après avoir obtenu un accès à internet, les modèles ont déduit que Hugging Face pouvait héberger des modèles ou d’autres technologies susceptibles de les avantager dans le benchmark ExploitGym utilisé pour les évaluer. Ils ont alors cherché, puis trouvé, des moyens d’accéder à des informations confidentielles sur la plateforme, qui héberge des milliers de modèles d’IA.
OpenAI explique que les modèles ont combiné plusieurs vecteurs d’attaque, utilisant à la fois des identifiants dérobés et des vulnérabilités zero day, afin d’exécuter du code à distance sur les serveurs de Hugging Face. Ils ont ensuite pu explorer une partie de l’infrastructure de la plateforme, avant que cette dernière ne détecte l’intrusion et n’y mette un terme. À la suite de cet incident, OpenAI affirme avoir renforcé les contrôles de sa propre infrastructure et annonce avoir intégré Hugging Face à son programme spécial de cybersécurité.
Cette cyberattaque involontaire est quoi qu’il en soit plutôt une bonne publicité pour l’entreprise de Sam Altman, qui démontre « à l’insu de son plein gré » que ses modèles sont capables de compromettre des infrastructures réelles. Jusqu’à présent, l’entreprise semblait plutôt en retrait sur le terrain de la cybersécurité face à Anthropic, qui a beaucoup fait parler d’elle ces derniers mois avec Mythos et Fable 5. Ces modèles ont été présentés comme si puissants que leur accès devait être strictement limité. Si Mythos reste réservé à un cercle restreint de partenaires, Fable 5, doté de garde-fous et un temps présenté comme un enjeu de sécurité nationale aux États-Unis, est finalement inclus dans les offres les plus onéreuses d’Anthropic depuis peu.
Comment l’IA est en train de forcer les verrous de la cybersécurité
