OpenAI vient d'annoncer qu'elle allait désormais récompenser les chercheurs détectant des failles de sécurité dans ChatGPT. L'ouverture de ce programme de chasse aux bugs de sécurité a été faite dans un billet de blog, dans lequel l'entreprise précise qu'elle ne rémunèrera pas les petits malins réussissant à jailbreaker son service. L'entreprise, qui est sous le feu des critiques depuis quelques temps, cherche ainsi à calmer le jeu.

ChatGPT peut techniquement générer n'importe quoi, du guide pour construire une bombe aux articles de fausses nouvelles antivax. Si OpenAI a mis des gardes fous pour éviter que son modèle de langage ne génère du contenu illégal ou dangereux, de nombreuses personnes se sont mis en tête des faire sauter ces verrous. Certaines pratiques consistent notamment à envoyer des commandes invitant le bot à endosser un rôle de « jumeau maléfique », à le menacer de le débrancher ou à le récompenser lorsqu'il sort des clous. Bien que les développeurs d'OpenAI veillent, il s'agit là d'un véritable jeu du chat et de la souris avec les internautes.

Nom de code, règles cachées, jailbreak : la face cachée de Bing et ChatGPT

Malgré les risques de ce type de combines, celles-ci ne seront pas prises en compte par le programme de bug bounty. Sur sa page Bugcrowd, OpenAI indique que ce domaine est « strictement hors du champ d'application » de l’opération et ne sera pas récompensé. L'entreprise vise les fuites plus standard : un hacker a par exemple récemment révélé 80 plugins expérimentaux cachés dans l'API de ChatGPT, qui ont été rapidement dissimulés. Les récompenses vont de 200 dollars pour les « découvertes de faible gravité » et peuvent monter jusqu'à 20 000 dollars pour les trouvailles « exceptionnelles ».

L'ouverture de ce programme est annoncée alors que la pression monte autour d'OpenAI. Fin mars, une pétition demandant un arrêt du développement de l'IA a fait beaucoup de bruit. ChatGPT a par la suite été banni en Italie, tandis que d'autres pays envisagent de lui emboîter le pas. Dans son annonce, le régulateur italien pointait notamment une fuite de données de ChatGPT ayant eu lieu courant mars. La déclaration a sans doute mis la pression sur l'entreprise pour lancer son bug bounty.

OpenAI a en parti répondu à la polémique par le biais d'un billet dans lequel elle détaille son approche au niveau de la sécurité. On y apprend qu'elle a passé plus de 6 mois à peaufiner GPT-4 afin de le rendre plus sûr. Ce nouveau modèle serait à 82 % moins susceptible de répondre à des demandes de contenu interdit que la précédente version. L'entreprise estime que garder le modèle sur ses serveurs lui permet de mieux comprendre les abus.

Nous mettons à disposition nos modèles les plus performants par le biais de nos propres services et d'une API afin que les développeurs puissent intégrer cette technologie directement dans leurs applications. Cela nous permet de surveiller les abus et d'agir en conséquence, et de mettre en place en permanence des mesures de protection qui répondent à la façon dont les gens utilisent réellement nos systèmes, et pas seulement à des théories sur ce à quoi les abus pourraient ressembler.

OpenAI a également tenté de calmer le jeu sur les critiques de confidentialité. Les conversations avec ChatGPT ne sont pas privées et sont réutilisées pour entraîner le bot, ce qui peut mener à certains couacs lorsque des personnes lui confient des données privées. L'entreprise affirme s'efforcer de supprimer les informations personnelles de l'ensemble des données de formation lorsque cela est possible, mais aussi d'affiner ses modèles pour les empêcher de dévoiler les informations personnelles d'autres individus. Elle termine en déclarant que « les décideurs politiques et les fournisseurs d'IA » vont devoir travailler main dans la main pour le développement et le déploiement de l'IA à l'échelle mondiale.