Anthropic a souvent eu des prises de position paradoxales entre ce qu’elle fait, et ce qu’elle propose. Si Dario Amodei, son patron, semble conscient du danger posé par les intelligences artificielles non contrôlées, cela ne l’empêche pas pour autant de continuer à développer l’entreprise sans limite. Et la proposition de régulation faite par le CEO est dans la droite ligne de ce double discours, comme le rapporte Le Monde.
Anthropic, c’est depuis quelque temps l’un des plus gros, si ce n’est le plus gros acteur de l’intelligence artificielle : l’entreprise se bat à armes égales avec OpenAI, pourtant pionnier du secteur de l’IA générative, et ses levées de fond lui ont permis récemment de dépasser le créateur de ChatGPT pour la première fois, faisant d’elle la plus grosse valorisation du secteur.
Mais Anthropic, c’est aussi l’entreprise qui a osé dire « non » au Pentagone. Une telle réponse n’est pas anodine, tant elle a fermé des portes à l’entreprise depuis : fin des contrats avec le Pentagone, non renouvellement de ceux passés avec l’administration américaine en général, dissuasion des partenaires habituels de l’État américain d’utiliser Claude, et menace à peine voilée de la part de Donald Trump ou Pete Hegseth de tout faire pour bloquer l’utilisation de Claude dans le pays.
Anthropic, réticent à ouvrir les vannes au Pentagone, sommée de sortir des administrations US 🆕x2
Avec un tel background, voir Dario Amodei faire une lettre ouverte proposant à ses concurrents de poser des règles strictes sur l’évolution de l’IA est à la fois surprenant et logique. Et le CEO d’Anthropic indique clairement ses intentions :
Nous pensons qu’il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès de la technologie. [L’IA] est bien plus facile à dissimuler que des silos de missiles. En l’absence d’un mécanisme de coordination mondiale, les entreprises et les gouvernements devront prendre des décisions de sécurité difficiles, sous la pression de la concurrence et des enjeux géopolitiques.
Anthropic officiellement sur liste noire du Pentagone... mais toujours utilisée
L’inquiétude du patron d’Anthropic part d’une peur qui peut paraître lointaine, mais qui semble se rapprocher de plus en plus vite quand on regarde les capacités de systèmes comme Mythos :
Si les systèmes deviennent capables de bâtir leurs propres successeurs, les méthodes pour les sécuriser, les surveiller et contrôler leur comportement deviennent prépondérantes. Une pause permettrait à la société de prendre la mesure de ces immenses implications.
Reste qu’il semble que le gouvernement américain, où se trouvent la plupart des entreprises dédiées à l’intelligence artificielle, ne semble pas de cet avis : plutôt que de créer une entité impliquant à la fois les entreprises entre elles et les gouvernements, la Maison Blanche a récemment demandé aux entreprises du secteur de fournir leurs modèles les plus avancés afin qu’ils soient audités par le gouvernement. Celui-ci indiquera ensuite ce qu’il convient de faire avec les plus efficaces, que ce soit l’interdire, le laisser libre ou… le garder comme atout stratégique.
Surveillance, armes autonomes : OpenAI signe avec le Pentagone et promet des garde-fous
Si l’inquiétude est avérée, Anthropic reste cependant réaliste : il sera très difficile d’obtenir une coopération de tous, et imaginer qu’une entreprise seule se rendant compte qu’elle est allée trop loin stoppe la machine est illusoire. Le créateur de Claude, à travers sa branche de recherche Anthropic Institute, va étudier les étapes nécessaires à un ralentissement des recherches fondamentales sur l’IA, et contactera dans les prochains mois les législateurs, les chercheurs, les sociétés civiles ainsi que les rivaux de Claude afin de discuter des dangers d’une IA auto-entretenue, et de la façon la plus sûre de la contrôler.
OpenAI, xAI, Alphabet, Meta ou encore Mistral n’ont pour le moment émis aucun commentaire sur cette proposition d’Anthropic, et encore moins indiqué s’ils se joindront à cet appel.
