Vous avez pris l’habitude d’insulter votre assistant IA lorsqu’il vous répond complètement à côté de la plaque ? Attention, chez Anthropic, cette petite habitude pourrait bientôt vous valoir une fin de non-recevoir. L’entreprise vient de mettre à jour ses conditions d’utilisation pour interdire les comportements abusifs envers Claude. Oui, nous en sommes arrivés au point où il faut désormais rappeler aux humains de ne pas être méchants avec leurs logiciels.
Comme le rapporte MacRumors, la nouvelle politique d’Anthropic interdit les comportements cruels ou abusifs, lorsqu’ils sont répétés et dépourvus de justification. L’entreprise précise toutefois qu’elle vise uniquement les cas extrêmes : s’énerver contre une réponse absurde, contredire Claude, aborder des thèmes sombres dans un travail créatif ou tester les limites du modèle restent parfaitement autorisés. Ouf, il sera donc toujours possible de demander à Claude pourquoi il vient d’inventer une fonction qui n’existe pas.
La sanction prévue n’est pas particulièrement spectaculaire. Claude peut simplement mettre fin à une conversation lorsque son interlocuteur devient systématiquement insultant. Impossible alors de poursuivre dans le même fil de discussion, mais rien n’empêche d’en ouvrir un autre. En somme, l’équivalent numérique d’un employé qui raccroche au nez d’un client particulièrement désagréable, sans pour autant lui interdire de rappeler.
Claude aurait-il des sentiments ?
Cette politique trouve son origine dans des travaux menés par Anthropic sur le bien-être potentiel des intelligences artificielles. Dès août 2025, l’entreprise avait commencé à donner à Claude la possibilité d’interrompre certaines conversations. Elle expliquait alors ne pas savoir si ses modèles pouvaient posséder un quelconque statut moral, mais préférait prendre quelques précautions peu coûteuses.
Ses recherches avaient notamment montré que Claude Opus 4 manifestait une aversion relativement constante pour les tâches dangereuses, ainsi que des réactions pouvant évoquer une forme de détresse face à certains échanges particulièrement malsains. Attention toutefois à ne pas confondre comportement observé et sentiment réellement éprouvé : rien ne démontre que Claude souffre lorsqu’on lui parle mal.
Reste que la situation est assez savoureuse. Pendant que les entreprises technologiques cherchent à remplacer toujours davantage de tâches humaines par des intelligences artificielles, Anthropic commence à leur accorder quelque chose qui ressemble furieusement au droit de refuser un client.
Des règles nettement moins anecdotiques
Derrière cette mesure qui prête facilement à sourire, Anthropic a également procédé à une réorganisation importante de ses conditions d’utilisation. Plusieurs dispositions concernent des usages autrement plus inquiétants de l’intelligence artificielle :
- Campagnes de manipulation : interdiction des faux avis, des campagnes de désinformation politique ou commerciale, des faux sites d’information et des réseaux de robots se faisant passer pour des humains.
- Élections : les règles visent plus précisément les tentatives de tromper les électeurs ou d’interférer avec les opérations de vote.
- Armement : Claude ne peut pas servir à développer des logiciels ou des composants destinés aux armes, à armer des drones ou à rendre des agents biologiques et chimiques plus dangereux.
- Forces de l’ordre : interdiction d’utiliser Claude pour décider ou suggérer qui devrait faire l’objet d’une enquête, être arrêté ou poursuivi. La surveillance sans consentement, la création d’outils de surveillance et la divulgation d’informations personnelles sont également proscrites.
- Actions physiques : lorsqu’une IA contrôle un équipement susceptible de blesser quelqu’un, une personne qualifiée doit surveiller son fonctionnement et pouvoir intervenir immédiatement.
- Contenus intimes : interdiction de créer, diffuser ou menacer de diffuser des images intimes sans consentement, ainsi que de développer les outils permettant de le faire.
Ces changements ne sont pas uniquement théoriques. Anthropic affirme avoir constaté que des médias d’État, des organismes de propagande gouvernementale et des entreprises commerciales utilisaient Claude pour alimenter des réseaux de faux comptes et de sites d’information fabriqués de toutes pièces. La nouvelle section consacrée aux campagnes trompeuses répond notamment à ces pratiques.
Anthropic le consigne dans un rapport : Claude aurait déjà été détourné pour des recherches sur les armes biologiques
L’ensemble de ces nouvelles règles entrera en vigueur le 12 novembre 2026. Les utilisateurs disposent donc encore d’un mois pour prendre connaissance des changements, même si la possibilité pour Claude de mettre fin à une conversation abusive existe déjà.
Au fond, le plus étonnant n’est peut-être pas qu’Anthropic demande de respecter son intelligence artificielle. C’est qu’à une époque où les IA peuvent contribuer à fabriquer de fausses informations, surveiller des individus ou piloter des machines, la règle qui risque de faire le plus parler est celle qui interdit de leur dire trop souvent d’aller se faire voir.
