Mise à jour le 27 février — Dans un communiqué, Dario Amodei a confirmé son opposition à l’utilisation des technologies d’Anthropic pour la surveillance intérieure de masse et pour des armes entièrement autonomes. Il rappelle que ces deux usages « n’ont jamais été inclus dans [ses] contrats avec le département de la Guerre » et estime qu’ils ne devraient pas davantage l’être aujourd’hui.
« Nous soutenons l’utilisation de l’IA pour des missions légitimes de renseignement et de contre-espionnage à l’étranger », écrit Dario Amodei, en référence indirecte à l’arrestation de Nicolas Maduro, une opération durant laquelle le Pentagone a utilisé Claude via les outils de Palantir, selon le Wall Street Journal. « Mais l’emploi de ces systèmes pour une surveillance intérieure de masse est incompatible avec les valeurs démocratiques », ajoute-t-il.
Concernant les armes autonomes, il juge que, « sans contrôle adéquat », elles ne peuvent pas faire preuve du même discernement que des humains. « Leur déploiement doit être assorti de garde-fous appropriés, qui n’existent pas à ce stade », précise-t-il.
Le Pentagone pourrait donc considérer Anthropic comme un partenaire peu fiable de sa chaîne d’approvisionnement, ce qui pourrait conduire à l’annulation d’un contrat de 200 millions de dollars signé en juillet 2025.
Article original publié le 26 février — Anthropic, avec son intelligence artificielle Claude, est plutôt bien vue des militaires américains jusqu’à présent : c’est même la seule IA utilisée par le Pentagone sur des documents classifiés. Or, il semble que cette histoire d’amour tourne au vinaigre, l’entreprise ayant demandé des garde-fous stricts et ne souhaitant pas revenir dessus, comme l’indique Axios.
Il va sans dire que les militaires de tous pays s’intéressent de près à l’intelligence artificielle, tant celle-ci peut permettre d’accélérer le fonctionnement des services de renseignements, et même à terme celui des systèmes d’armes. Cependant, les armées restent frileuses en ce qui concerne le partage de documents classifiés sur des logiciels créés par des entreprises extérieures. Alors quand celui-ci est tellement vaste qu’il est impossible à auditer en temps raisonnable...
C’est pourtant ce qu’a réussi à faire Anthropic, dont les services sont utilisés dans de nombreux domaines par le Pentagone, en partenariat avec Palantir :
- analyse de masse de données hétérogènes, pour créer des résumés à partir de multiples sources et médias.
- soutien à la décision opérationnelle, où l’IA permet à l’humain de prendre des décisions plus rapides grâce à des synthèses et check-lists établies par Claude.
- revue et préparation de documents, automatisant la rédaction de notes, de résumés de briefings.
- interrogation en langage naturel d’un pool de data classifié, permettant la recherche d’éléments dans une vaste base de données classifiée par un simple chat.
- scénarios d’exercices et de simulation, permettant la préparation de « wargames » grâce à l’IA.
Seule ombre dans cette idylle, Anthropic a annoncé clairement les limites qu’il souhaitait ne pas dépasser dans ce partenariat : pour l’entreprise d’IA, il est hors de question que Claude soit utilisée pour la surveillance de masse de citoyens US, la création d’armes autonomes, la prise directe de décision létale, et refuse de signer un accord blanc avec l’administration américaine où Anthropic autoriserait « tout usage légal » selon les textes US. Si un tel accord était signé, le Pentagone pourrait faire tout usage estimé nécessaire des technologies d'Anthropic, sans que l'entreprise ait son mot à dire, ni même que celle-ci soit tenue au courant, chose que refuse le créateur de Claude.
Or, le Department of War de Pete Hegseth aimerait voir sauter ces limitations. Celles-ci sont rapportées comme étant irréalistes par le Pentagone, indiquant ne pas vouloir demander l’autorisation pour chaque usage à Anthropic, que ce soit pour des raisons de rapidité d’exécution ou de confidentialité des opérations. Ainsi, l’une des dernières frictions en date porte sur l’opération ayant amené à la capture de Nicolas Maduro, où Anthropic a explicitement demandé au Pentagone si ses solutions avaient été utilisées, braquant ces derniers imaginant que l’entreprise était en désaccord avec une participation à l’opération.
Et Pete Hegseth compte bien faire plier Anthropic, quelle que soit la méthode utilisée pour parvenir à ce but. Dans un premier temps, une analyse va être effectuée sur l’utilisation de Claude dans les différents secteurs de l’Armée, afin d’amener ensuite à faire un choix entre deux possibilités : soit interdire totalement l’usage des solutions d’Anthropic pour l’Armée et ses partenaires, soit utiliser le Defense Production Act afin de faire plier Anthropic aux demandes.
En effet, cette loi permet au Pentagone de forcer une entreprise à produire des solutions sur-mesure à l’Armée américaine, sous peine sinon de se retrouver blacklistée. Si elle devait être mise en action, ce serait la première fois qu'elle serait utilisée afin de faire plier une entreprise technologique américaine de cette taille. Il semble en tout cas que les militaires US aient jeté leur dévolu sur Anthropic, alors que d’autres solutions existent : si OpenAI et Google avouent à demi-mot chercher un partenariat plus profond avec le Pentagone, y compris sur la manipulation de documents classifiés, du fait des mêmes réticences qu’Anthropic, xAI de son côté ne fait aucun mystère de sa volonté de signer un contrat autorisant tout usage à l’armée américaine, et aurait déjà entamé les démarches en ce sens.
Quoi qu’il en soit, la suite des décisions ne devrait pas traîner : le patron d’Anthropic a jusqu’au 27 février 17h01 précises pour faire part de sa réponse.
