Pour se conformer aux nouvelles exigences du règlement européen sur l'intelligence artificielle (l’AI Act), Anthropic commence à intégrer un système de traçabilité dans les contenus générés par Claude. Depuis le début du mois d'août, les nouveaux modèles de l'entreprise intègrent un marqueur invisible sur les textes et des métadonnées sur les fichiers. L'objectif est d'offrir une plus grande transparence quant à l'origine des documents produits par son robot conversationnel, même si ce type de mesure technique se heurte rapidement à la réalité des usages.
Concrètement, cette nouveauté s'applique à l'ensemble de l'écosystème d'Anthropic, de son interface web classique aux outils de développement comme Claude Code. Les images et les fichiers traités héritent de métadonnées signées selon le standard ouvert C2PA, tandis que le texte intègre un marqueur invisible directement inséré par le modèle. Ce filigrane textuel est conçu pour survivre à de simples copier-coller ou à de légères retouches manuelles, assurant ainsi une traçabilité théorique des écrits peu importe où ils sont publiés par la suite.
Une transparence aux limites évidentes
L'initiative répond avant tout aux exigences de l'Union européenne sur la transparence des systèmes génératifs, mais elle se heurte à une réalité technique têtue : il n'existe à l'heure actuelle aucune méthode totalement fiable pour identifier de manière formelle un texte produit par une machine. Si Anthropic prévoit de fournir prochainement des outils officiels pour repérer ses propres marqueurs, cette bonne volonté risque de se retourner contre elle. Dès que les mécanismes de détection seront documentés, de nombreux services tiers proposeront inévitablement des solutions pour nettoyer les textes de leurs filigranes afin de contourner le système.
AI Act : la législation adoptée au Parlement européen
L’entreprise reconnaît d'ailleurs elle-même volontiers les importantes limites de son approche. Un texte purement humain soumis à l'assistant pour une simple correction orthographique sera marqué par Claude, brouillant la notion même de droit d'auteur et de provenance. À l'inverse, un paragraphe très court, un texte lourdement paraphrasé ou une image dont on aura purgé les métadonnées via une banale capture d'écran passeront sans encombre sous les radars.
OpenAI avait d’ailleurs proposé un outil similaire pour ChatGPT en janvier 2023, avant de l’abandonner face à son inefficacité en juillet de la même année. Une débauche d'ingénierie qui risque finalement de prouver, une fois de plus, le caractère vain de la traque des textes générés par IA. Même s’il faut souligner que la solution technique proposée par Anthropic semble différente et elle aura peut-être plus de succès.
OpenAI présente un outil pour repérer le texte écrit par ChatGPT
