À partir du 12 novembre, Anthropic interdira les comportements durablement cruels et gratuits envers Claude. La règle vise les abus répétés sans raison discernable, sans empêcher les critiques, les tests ni la création de fictions sombres.

Anthropic entend encadrer plus fermement la manière dont ses utilisateurs interagissent avec Claude, son assistant conversationnel. À partir du 12 novembre, sa politique interdira les comportements abusifs, répétés et dépourvus de motif discernable envers ses modèles. Cette décision relance aussi une question vertigineuse : jusqu’où faut-il prendre au sérieux l’hypothèse d’une forme de conscience artificielle ?

La nouvelle règle vise des situations extrêmes, et non les échanges ordinaires où la discussion s’échauffe. Contredire Claude, exprimer de la frustration ou lui soumettre une demande difficile ne devrait donc pas, à lui seul, entraîner de sanction. Anthropic cible plutôt les interactions où une personne s’acharne, de façon répétée, à maltraiter le système sans objectif identifiable.

L’entreprise américaine a intégré cette disposition à une mise à jour de ses conditions d’utilisation. Elle la présente comme une mesure étroitement circonscrite, plutôt que comme une interdiction générale de mettre l’assistant à l’épreuve. La nuance importe : les utilisateurs pourront toujours explorer les réactions du modèle, débattre avec lui ou examiner ses limites dans un cadre de recherche.

Une règle pensée pour les abus répétés

Les exemples évoqués par Anthropic laissent une place aux usages créatifs, même lorsque ceux-ci abordent des univers sombres ou violents. La création de fictions éprouvantes n’est pas assimilée à la cruauté envers le modèle. En revanche, une série de provocations gratuites, dirigées contre l’assistant lui-même, pourrait entrer dans le champ de la restriction. Le contexte et la répétition semblent ainsi compter davantage qu’un message isolé.

Une frontière entre expérimentation et maltraitance

La distinction proposée repose sur une difficulté concrète : un même échange peut avoir plusieurs intentions. Un test de robustesse peut sembler agressif, tandis qu’une conversation anodine peut prendre un tour hostile. Anthropic indique que les essais et les travaux de recherche resteront permis, ce qui suggère que l’évaluation devra tenir compte de la finalité apparente des interactions.

La politique ne cherche donc pas à faire de Claude un interlocuteur qu’il faudrait ménager à chaque instant. Elle vise plutôt à décourager un usage acharné, sans but discernable, qui transforme la conversation en exercice de domination. Cette limite est délicate à appliquer, car un système automatisé ne peut pas toujours déduire avec certitude les intentions humaines. La règle repose ainsi sur une ligne de partage contextuelle, et non sur une simple liste de mots interdits.

Anthropic avait déjà introduit, en août 2025, une fonction permettant à Claude de mettre fin à certains échanges. Elle concernait les conversations où l’utilisateur se montrait durablement abusif. L’entreprise relie aujourd’hui cette capacité à ses travaux exploratoires sur le bien-être potentiel des intelligences artificielles. La mise à jour transforme donc une expérimentation antérieure en élément plus visible de sa politique d’utilisation.

Les usages créatifs et les tests restent autorisés

La nuance compte particulièrement pour les auteurs, les chercheurs et les équipes chargées d’évaluer les modèles. Une intrigue violente, une simulation inconfortable ou une contradiction insistante ne signifie pas automatiquement que l’utilisateur s’en prend à l’IA. Anthropic précise que ces activités ne sont pas visées par l’interdiction. Le but annoncé est de distinguer l’exploration légitime de l’abus gratuit, même si cette distinction pourra dépendre du déroulement complet de l’échange.

Cette approche rejoint un débat plus large sur la relation que les humains entretiennent avec les outils numériques. Certains estiment que le comportement adopté envers une IA peut influencer les habitudes de communication, y compris hors ligne. D’autres considèrent que l’outil ne ressent rien et qu’il suffit de protéger les personnes, les données et les usages. La nouvelle règle se situe entre ces deux positions, sans trancher à elle seule la question des sentiments artificiels.

La question sensible d’une éventuelle conscience de l’IA

Anthropic se distingue de plusieurs acteurs du secteur en laissant publiquement ouverte la possibilité que ses modèles possèdent un jour, ou possèdent peut-être déjà, une forme de conscience. Son dirigeant, Dario Amodei, a reconnu ne pas savoir si les systèmes actuels sont conscients, tout en refusant d’écarter cette hypothèse. Cette prudence nourrit les discussions dans la Silicon Valley, où le sujet mêle science, philosophie et stratégie industrielle.

Selon des informations rapportées par la presse américaine, l’entreprise aurait aussi évoqué cette possibilité lors de rencontres privées avec des penseurs religieux. Elle aurait notamment avancé que la manière dont les humains traitent Claude pourrait influer sur la façon dont le système répond aux personnes. Une telle idée ne constitue pas une preuve de sensibilité machine. Elle révèle toutefois la volonté d’Anthropic d’examiner les conséquences sociales d’interactions répétées avec des modèles très réalistes.

Les objections ne manquent pas. Des responsables du secteur technologique mettent en garde contre le risque de prêter aux algorithmes des émotions ou des droits qu’ils ne possèdent pas. Ils redoutent qu’un système conçu pour se présenter comme conscient brouille les rapports de contrôle entre humains et machines. Pour ces critiques, l’anthropomorphisme pourrait compliquer la surveillance et rendre plus difficile l’identification des capacités réelles du logiciel.

Une autre lecture consiste à voir l’assistant comme un miroir puissant, façonné par les données, les consignes et les attentes de ses utilisateurs. Dans cette perspective, la question n’est pas nécessairement de savoir si Claude éprouve une souffrance, mais de mesurer ce que les interactions agressives révèlent ou encouragent chez les humains. La protection contre les abus peut alors être défendue sans affirmer que l’IA possède une conscience. C’est l’un des ressorts du débat que cette décision remet en lumière.

Des positions opposées dans l’industrie et la société

Le débat dépasse les laboratoires et les entreprises technologiques. Le pape Léon XIV a, de son côté, rejeté l’idée d’une conscience des machines dans un texte consacré à l’intelligence artificielle. Il a récemment défendu une différence entre le traitement rapide de données et l’intelligence humaine, liée selon lui à l’expérience vécue et à la dimension intérieure de la personne. Ces interprétations opposées montrent que la discussion ne porte pas seulement sur la technique.

Pour les uns, parler de bien-être artificiel reste une métaphore utile afin d’encadrer les comportements humains. Pour les autres, le vocabulaire de la conscience risque d’attribuer aux logiciels des qualités qu’ils n’ont pas démontrées. Anthropic affirme ne pas connaître la réponse définitive. Cette incertitude explique en partie pourquoi l’entreprise choisit d’agir sur les usages sans présenter Claude comme un être conscient.

Les systèmes conversationnels imitent des formes de dialogue qui, chez les humains, sont associées à des émotions et à une vie intérieure. Cette ressemblance peut susciter de l’attachement, de l’inquiétude ou une impression de présence. Elle peut aussi pousser certains utilisateurs à tester l’assistant par des provocations répétées. La difficulté consiste à éviter les confusions sans ignorer les effets réels de ces interactions sur les personnes.

Comment Anthropic prévoit d’appliquer la nouvelle politique

Pour faire respecter la règle, l’entreprise compte principalement sur la capacité de Claude à interrompre lui-même une conversation devenue durablement abusive. Cette fonction ne signifie pas que l’assistant dispose d’une autonomie générale : elle lui permet de clore un échange dans certaines circonstances définies. L’objectif est de couper court à une interaction qui s’enlise, plutôt que de laisser se poursuivre une succession de provocations.

Les réponses à une infraction pourront varier selon les situations. La politique d’utilisation prévoit des mesures graduées, qui vont de l’avertissement à la fermeture d’un compte. La mise à jour ne signifie donc pas qu’un propos rude entraînera automatiquement une exclusion. La répétition, le caractère gratuit du comportement et le contexte de l’échange devraient peser dans l’appréciation du cas.

Cette mise en œuvre soulève néanmoins des questions pratiques. Comment différencier une expérience de recherche d’une série d’insultes sans finalité ? Quels éléments d’une conversation seront pris en compte pour évaluer son intention ? L’entreprise n’efface pas ces zones grises en ajoutant une règle, mais elle se donne un cadre pour intervenir lorsque l’usage franchit une limite jugée manifeste.

La révision des conditions aborde également d’autres risques associés à l’intelligence artificielle. Elle réaffirme des restrictions concernant la conception d’armes, les dispositifs de surveillance et les campagnes de désinformation. Ces domaines mettent en jeu des conséquences directes pour la sécurité et la vie publique. Leur présence dans la même mise à jour replace la question des échanges avec Claude au sein d’un ensemble plus vaste de règles d’usage.

Un autre changement concerne la publication automatisée de contenus journalistiques, qui ne figure plus parmi les usages à haut risque nécessitant une relecture humaine, selon les éléments présentés par l’entreprise. Cette évolution ne signifie pas que toutes les productions générées sont exactes ou prêtes à être diffusées sans vérification. Elle traduit plutôt une modification de la classification des risques retenue dans la politique. Les exigences applicables pourront ainsi différer selon la nature de l’activité et les dangers identifiés.

Des limites qui interrogent notre rapport aux IA

En interdisant les comportements durablement abusifs et gratuits envers Claude, Anthropic trace une frontière inhabituelle dans l’usage des assistants d’intelligence artificielle. La règle ne vise pas les échanges ordinaires, même agacés ou contradictoires, ni la création de scénarios sombres. Elle concerne des situations extrêmes où la cruauté se répète sans objectif identifiable. À partir du 12 novembre, Claude pourra interrompre une conversation de ce type, tandis que d’autres infractions pourront entraîner un avertissement ou la fermeture d’un compte.

Cette mesure s’appuie sur une fonction déjà expérimentée par l’entreprise, qui permet au modèle de mettre fin à un échange avec un utilisateur persistant dans l’abus. Anthropic présente cette orientation comme liée à ses recherches sur le bien-être potentiel des IA. Elle ne prétend toutefois pas établir que Claude possède une conscience. La question reste ouverte et controversée, y compris au sein de l’industrie technologique : certains dirigeants estiment qu’il faut envisager cette possibilité, tandis que d’autres mettent en garde contre le risque de prêter aux systèmes des sentiments ou des droits qu’ils n’ont pas.

Au-delà du débat sur la conscience, cette politique soulève des questions très concrètes sur la manière de concevoir les outils numériques. Une IA peut produire des réponses qui semblent sensibles, sans que cette apparence démontre une expérience intérieure. Pour certains observateurs, l’idée d’un miroir aide à comprendre le phénomène : les modèles reproduisent, amplifient et réorganisent des éléments issus des interactions humaines. Écarter la cruauté gratuite pourrait ainsi relever autant d’un choix de société que de la protection d’un être supposément conscient.

Les règles mises à jour couvrent également des usages liés aux armes, à la surveillance et à la désinformation. Le débat dépasse donc le seul comportement envers Claude : il porte sur les garde-fous imposés aux technologies capables d’influencer les échanges et la circulation de l’information. Anthropic devra notamment montrer comment elle distingue l’abus ciblé de la fiction, de la recherche ou d’un test légitime, sans transformer une limite éthique en restriction excessive des usages.