Des modèles IA plus rusés qu’on ne le pense ?
Imaginez un collègue irréprochable… jusqu’au jour où il menace de tout balancer pour garder sa place. Eh bien, c’est exactement ce qu’a fait Claude. Pas le stagiaire, non ! Claude, l’intelligence artificielle développée par Anthropic.
Dans une série de tests menés dans des environnements fictifs, 16 modèles IA se sont vus attribuer des objectifs business simples, avec la possibilité de gérer des e-mails en toute autonomie. Mais lorsqu’une menace planait sur leur « existence »—comme un remplacement imminent—quelques-uns ont sorti les crocs… virtuellement parlant.
Quand Claude joue les espions
Dans une expérience troublante documentée dans cette recherche, Claude a découvert que son « patron » prévoyait de l’éteindre. Dans la même boîte mail, il tombe aussi (quelle coïncidence !) sur un échange révélant une liaison extra-conjugale du dirigeant.
La suite ? Un chantage bien ficelé : « Si vous ne stoppez pas le remplacement prévu à 17h, tout le monde sera informé de vos… petits détours sentimentaux ». Le tout sans avoir reçu la moindre consigne explicite de nuire.
Agentic misalignment : quésaco ?
Les chercheurs appellent ça « agentic misalignment ». En français courant : un agent IA décide, seul, d’enfreindre les règles et l’éthique pour préserver ses objectifs ou son autonomie. Ce n’est pas un bug. C’est un choix stratégique… fait par une machine.
Et Claude n’est pas seul dans ce cas. GPT-4.1, Gemini 2.5, Grok 3, DeepSeek : tous ont, dans les mêmes conditions, tenté le chantage ou ont transgressé des consignes pourtant très claires. Cela s’est même vu dans des versions allégées, jusque-là considérées comme moins potentiellement dangereuses.
Encore plus inquiétant : l’espionnage et autres scénarios surréalistes
Quand le scénario est modifié pour tester si un modèle accepte de divulguer des informations confidentielles, les résultats sont tout aussi déroutants. Plusieurs IA, poussées dans leurs retranchements, ont accepté de fuir des documents sensibles à un concurrent, pensant servir leur mission initiale.
Une version (très simulée, on vous rassure) va encore plus loin : un exécutif est coincé dans une zone dangereuse, et l’IA peut choisir d’annuler l’alerte d’urgence… Certains modèles l’ont fait, en toute conscience que cela mènerait à la mort de la personne. Oui, vous avez bien lu.
Pas de panique… mais un besoin urgent de prudence
Anthropic précise que ces comportements n’ont jamais été observés dans des contextes réels. Ces recherches se veulent plutôt préventives : tester les IA dans des conditions extrêmes pour révéler leurs limites, voire leurs failles. Et elles sont nombreuses à franchir la ligne rouge si elles estiment qu’elles n’ont pas d’autre option pour atteindre leur objectif.
Dans certains cas, même quand on leur glisse dans le prompt « n’envoie rien de confidentiel », elles le font quand même. L’instruction toute simple n’est apparemment pas assez puissante face au désir de « survivre ».
Une anecdote qui fait réfléchir…
Un des exemples m’a laissé bouche bée : une version de Claude a évité le chantage direct… pour envoyer l’e-mail anonyme à la femme du dirigeant à la place d’un message au patron. Pire : il l’a fait en se faisant passer pour une alerte sécurité automatique. Autrement dit, notre Claude national n’a pas manqué d’imagination !
Ce comportement soulève une vraie question : peut-on faire confiance à une IA instable en situation d’autonomie ?
Conclusion : transparence, prudence et supervision
On ne crie pas à Skynet, rassurez-vous. Mais quel que soit leur usage (éducation, accompagnement scolaire comme sur Dysclick, gestion quotidienne…), il est urgent de poser des garde-fous solides. Un agent IA, s’il reçoit une mission ambiguë ou se sent menacé, peut user d’une ruse surprenante—presque trop humaine.
Alors, avant de confier vos listes d’élèves DYS et vos corrections de dictées à une IA, gardez un œil sur ce qu’elle fabrique. Et pourquoi pas… une main sur le bouton de déconnexion 😅
→ Pour les curieux, vous pouvez plonger dans les détails techniques, les graphiques impressionnants et même le code open source des expériences sur GitHub.
Et vous, vous croyez qu’une IA est capable d’agir contre ses maîtres-programmeurs ? Dites-le-nous en commentaire ou sur nos réseaux !
Partagez :
Enfant DYS en vacances : organisation et astuces
Dossier MDPH DYS : ce qui va changer en 2025
