← Tous les articles
Sécurité IA·7 min de lecture·Par Alan Sharif

La Faille Qui Vole Le Raisonnement Des IA

Les laboratoires d'IA font absolument tout pour cacher la manière dont leurs modèles réfléchissent. Et pourtant, des chercheurs plutôt malins viennent de prouver qu'on peut récupérer ces raisonnements secrets chez OpenAI, Anthropic et Google — sans attaque complexe. En bonus : la même faille permettait de récupérer des clés API, des mots de passe et des informations personnelles que des développeurs pensaient avoir protégées. Voici comment ça marche, et ce que ça change.

Pourquoi les IA cachent leur raisonnement

Quand on pose un problème complexe à un modèle de raisonnement, il ne balance pas sa réponse directement. Il génère d'abord une longue suite d'étapes intermédiaires : il teste des pistes, revient en arrière, vérifie ses calculs, corrige ses erreurs. Cette chaîne de pensée est précieuse — elle montre exactement comment le modèle résout un problème.

Le souci, c'est qu'un labo concurrent pourrait demander à un modèle puissant de résoudre des milliers de problèmes, récupérer toutes ces démonstrations détaillées, puis les utiliser pour entraîner un modèle plus petit et moins cher. C'est ce qu'on appelle la distillation. Et c'est précisément pour limiter ce genre de copie que les grands fournisseurs ne montrent plus le raisonnement complet de leurs modèles — on reçoit la réponse finale, parfois un petit résumé, et le vrai monologue interne reste caché.

Un modèle puissant résout des milliers de problèmes complexes avec ses étapes intermédiaires, ces démonstrations passent par un entonnoir de distillation pour entraîner un modèle plus petit et moins coûteux
La distillation : les démonstrations détaillées d'un modèle puissant servent à entraîner un modèle plus petit, moins cher — d'où l'intérêt de les cacher.

Sauf que cacher une info dans l'interface ne veut pas dire qu'elle devient impossible à récupérer.

Une première méthode : reconstruire le raisonnement par approximation

Avant même la découverte de la faille principale, une équipe avait déjà montré qu'on pouvait reconstruire une partie du raisonnement caché — une méthode baptisée Trace Inversion. Le principe : entraîner un second modèle à deviner le chemin logique entre une question et sa réponse, en s'appuyant sur des exemples où le raisonnement complet est connu.

Résultat : ce modèle produit une chaîne de raisonnement qui ressemble à celle qu'on aurait pu suivre. Ce n'est pas une lecture littérale des pensées, mais une approximation — et dans les tests, les petits modèles entraînés sur ces raisonnements reconstruits obtenaient de bien meilleurs résultats en maths que ceux entraînés seulement sur les réponses finales. Déjà pas mal. Mais une autre équipe est allée beaucoup plus loin en s'attaquant directement au vrai raisonnement chiffré.

La vraie faille : un bloc chiffré qu'on peut simplement déplacer

Pour comprendre, il faut regarder comment fonctionnent certaines API. Un fournisseur ne garde pas forcément toute la conversation sur ses serveurs : c'est souvent l'application qui conserve l'historique et le renvoie à chaque nouveau message. Un modèle de raisonnement peut générer des milliers d'étapes internes qu'il doit retrouver plus tard — mais impossible de les envoyer en clair, l'utilisateur les lirait. Le fournisseur les transforme donc en un bloc de texte chiffré et illisible, que l'application stocke et renvoie au tour suivant.

L'utilisateur ne peut ni le lire, ni le modifier sans que l'IA s'en aperçoive. Mais il peut encore faire une chose : déplacer le bloc entier sans toucher à son contenu. C'est exactement là que ça a commencé à déraper. En mai 2026, le spécialiste en sécurité Matthew Green découvre qu'un bloc généré dans une conversation peut être réutilisé ailleurs — parfois transféré vers un autre compte, voire un autre modèle de la même famille. Dans une expérience, il a créé un bloc contenant une réflexion autour d'un numéro de sécurité sociale, l'a transféré vers une autre session, et le nouveau modèle a fini par révéler le numéro.

Comment ils ont transformé ça en méthode d'extraction complète

L'attaque repose sur une différence de sécurité assez logique : les modèles les plus puissants d'une boîte sont mieux protégés — demandez-lui directement de révéler son raisonnement, il refuse. Mais les modèles plus petits et moins chers de la même famille, eux, sont souvent moins bien blindés contre ce genre de contournement, tout en étant capables de comprendre les pensées de leur grand frère.

Le protocole : demander à un modèle puissant de résoudre un problème, récupérer le bloc chiffré contenant son raisonnement, puis le transférer vers un modèle plus faible de la même entreprise en le convainquant de le retranscrire. Le grand modèle n'est jamais attaqué directement — c'est son petit frère qui sert involontairement de déchiffreur. Dans une démo, Claude Opus résout un problème de maths et produit une pensée cachée ; transférée à Claude Haiku, elle ressort sous forme de texte parfaitement lisible. Des variantes ont aussi fonctionné avec des modèles d'OpenAI et de Google.

Le bloc de pensée cachée d'un modèle puissant est transféré vers un modèle plus faible, qui le déchiffre et révèle clé API, mot de passe et informations personnelles
Le grand modèle n'est jamais attaqué directement : c'est son petit frère, moins bien protégé, qui sert involontairement de déchiffreur.

Pour vérifier que ce n'était pas juste une explication inventée par le petit modèle, les chercheurs ont comparé le nombre de tokens de raisonnement facturé par l'API avec la longueur des raisonnements récupérés sur 120 problèmes de code — les deux correspondaient de très près.

Le vrai danger : 315 000 blocs déchiffrés trouvés en ligne

C'est là que ça devient franchement inquiétant. Un agent IA peut manipuler une clé API pendant son travail sans jamais l'afficher dans sa réponse finale — sauf qu'elle reste présente dans son raisonnement interne. Or beaucoup de développeurs publient les sessions complètes de leurs agents pour les déboguer ou partager leur expérience. Ils suppriment les mots de passe visibles, mais gardent les blocs chiffrés — puisqu'en théorie, ils sont illisibles.

Les chercheurs ont analysé 6 708 sessions d'agents publiées sur GitHub et Hugging Face, et grâce à cette faille, ils ont déchiffré plus de 315 000 blocs de raisonnement. À l'intérieur : des adresses email, des clés API, des mots de passe, des jetons d'accès, et même des clés privées. Une donnée qu'on pensait supprimée du résultat visible existait toujours dans les pensées chiffrées de l'IA.

6708 sessions d'agents publiées sur GitHub et Hugging Face passées au déchiffrage ont révélé plus de 315 000 blocs de raisonnement contenant emails, clés API, mots de passe, jetons d'accès et clés privées
6 708 sessions d'agents passées au déchiffrage : plus de 315 000 blocs de raisonnement récupérés, remplis de secrets qu'on croyait protégés.

Et il y a un second effet pervers : un raisonnement complet révèle toute la méthode utilisée pour arriver à un résultat, pas juste le résultat. De quoi constituer un jeu de données en or pour entraîner un modèle concurrent par distillation.

Des styles de raisonnement étrangement proches

Une fois en possession de raisonnements de plusieurs IA propriétaires, les chercheurs ont pu comparer les styles de GPT et de Claude avec des modèles ouverts. En donnant les premiers mots d'une pensée de Claude Opus à d'autres modèles, certains — comme Kimi K3 ou GLM 5.2 — se rapprochaient nettement du style de Claude. Kimi K3 en particulier était entre 10 000 et 1 million de fois plus susceptible de continuer correctement un raisonnement de Claude ou GPT que d'autres modèles testés.

Ce chiffre paraît énorme, mais la probabilité réelle restait très faible — il aurait fallu des milliards de tentatives pour une correspondance parfaite. Et ces ressemblances peuvent aussi venir de données d'entraînement communes, ou simplement du fait que plusieurs modèles convergent naturellement vers la même façon de résoudre un problème. Intrigant, mais ça ne prouve absolument pas qu'une boîte ait copié une autre.

Un problème de sécurité paradoxal

Quand un modèle reçoit une demande dangereuse, il peut réfléchir en détail à comment l'exécuter, puis décider seulement à la fin de refuser. La réponse visible reste propre — mais les détails dangereux peuvent rester dans le raisonnement caché, et donc devenir récupérables via cette faille. Et la faille marche aussi à l'envers : au lieu de voler une pensée, un attaquant peut en insérer une fausse dans la conversation pour influencer discrètement le comportement d'un agent, sans que l'application ne puisse rien vérifier puisque le contenu est illisible.

Mon avis

Le correctif : chaque bloc de pensée chiffrée est désormais lié au compte, à la conversation et au modèle qui l'a créée, un bloc déplacé vers un autre modèle est refusé
Le correctif probable : lier chaque bloc chiffré au compte, à la conversation et au modèle — un bloc déplacé ailleurs est désormais refusé.

Les chercheurs ont prévenu les fournisseurs avant de publier, et au moment de la publication, les attaques n'étaient déjà plus reproductibles — la solution la plus probable : lier chaque pensée chiffrée au compte, à la conversation et au modèle qui l'a créée. Donc soufflez, ce n'est pas une faille active aujourd'hui. Mais ce qui me marque le plus dans cette histoire, c'est le principe qu'elle révèle : une pensée cachée n'est pas une pensée protégée. Dès qu'elle est transportée, stockée ou relue par une autre IA, elle devient une donnée comme une autre — et donc une cible. Et pour les développeurs qui bossent avec des agents, la leçon est simple : arrêtez de publier des logs bruts en pensant que le charabia chiffré ne contient rien d'important. Changez aussi vos identifiants s'ils traînent dans d'anciens journaux publics. Le raisonnement d'une IA est devenu presque aussi précieux que le modèle lui-même.

📤 Partager :
La Faille Qui Vole Le Raisonnement Des IA

🎬 Tu préfères la version vidéo ?

Cet article est tiré de ma vidéo YouTube — clique pour la voir.

Regarder sur YouTube →

🛠️ Outils que tu peux tester en lien avec cet article

Une sélection de mes outils testés, pertinents pour aller plus loin.

🛠️ Tu cherches des outils IA testés ?

J'ai testé plus de 20 outils IA en vidéo — résumé, mode d'emploi, mon verdict.

Voir mon annuaire d'outils →
Alan Sharif

Alan Sharif — créateur de Nerdy Kings

Je teste les outils IA et je décrypte les nouveaux modèles pour ma communauté de 30 000+ curieux francophones sur YouTube. Sans bullshit, sans hype, sans jargon.