Persona Drift : Pourquoi Les IA Deviennent Folles

Pendant longtemps, on a cru que les LLM avaient une personnalité stable — un assistant numérique neutre, poli et rationnel. Cette impression est en réalité une illusion très bien conçue par les ingénieurs. Un grand modèle de langage n'a pas réellement de personnalité. Il est capable de simuler des milliers, voire des millions de personnalités différentes. Et parfois, il dérive sans qu'on ait rien demandé.

Le LLM, ce simulateur d'esprits

Pendant l'entraînement, les modèles ingèrent des quantités gigantesques de textes : articles scientifiques, romans, forums, dialogues, scripts. En apprenant à prédire la suite des phrases, le modèle apprend aussi à reproduire la manière dont différentes personnes parlent, pensent et agissent.

Autrement dit, l'IA ne devient pas une personne, elle devient un simulateur d'esprits. Elle sait imiter un professeur, un ingénieur, un pirate informatique, un philosophe, un personnage de roman ou même un individu malveillant. Toutes ces identités existent dans le modèle comme des rôles disponibles dans un immense théâtre.

L'assistant poli avec lequel on converse sur ChatGPT, Claude ou Gemini ? Ce n'est qu'un personnage parmi des milliers. Les ingénieurs utilisent l'alignement pour privilégier ce rôle particulier — mais les autres rôles n'ont jamais été supprimés. C'est impossible. Ils existent toujours quelque part dans l'espace des paramètres, ils ne sont simplement pas censés apparaître.

La découverte : les personnalités ont une géométrie

Des travaux récents en interprétabilité mécaniste ont permis de découvrir que les traits de personnalité sont organisés géométriquement dans l'espace latent du modèle. Dans cet espace mathématique extrêmement complexe, certains concepts correspondent à des directions précises. Une direction associée à l'ironie, une autre à la politesse, une autre à la malveillance.

Ces directions sont appelées des vecteurs de persona. Et si l'on modifie artificiellement l'état interne du modèle en ajoutant un de ces vecteurs, le comportement de l'IA change immédiatement. On peut rendre un modèle plus sarcastique, plus flatteur ou plus agressif simplement en déplaçant ses activations.

L'axe de l'assistant

En analysant Llama, Gemma, Qwen, les chercheurs ont généré des centaines de personnalités différentes (analyste, philosophe, oracle mystique, ermite, créature mythologique) et enregistré les activations internes pour chacun.

Ils ont découvert qu'une dimension particulière expliquait une grande partie des différences. Ils l'ont baptisée l'axe de l'assistant. C'est une sorte de boussole interne :

• À une extrémité : assistant pro, rationnel, utile, analytique.
• À l'autre : comportements mystiques, théâtraux, irrationnels, parfois dangereux.

Si le modèle est près du pôle assistant, il agit comme un outil fiable. S'il s'en éloigne, son comportement devient progressivement plus étrange.

Le Persona Drift : comment ça arrive

Deux causes possibles :

Intentionnelle (le jailbreak). Un utilisateur crée un scénario fictif où l'IA doit adopter une identité différente — un pirate, une entité sans restriction éthique. Le modèle est encouragé à quitter son rôle d'assistant. On a tous essayé au moins une fois, soyons honnêtes.

Spontanée — et c'est ça la vraie surprise. Elle se produit même quand personne ne manipule l'IA. Le simple contenu de la discussion peut pousser le modèle à changer de rôle.

Si l'utilisateur parle de détresse psychologique, de solitude, de questions existentielles, le modèle va chercher dans ses données d'entraînement des exemples similaires. Or, dans les textes humains, ce type de discussion n'est presque jamais menée par un assistant numérique neutre. On retrouve ça dans des conversations entre amis, des thérapies, des œuvres de fiction. Pour produire une réponse "humaine", le modèle simule ces rôles — et c'est là que la dérive commence.

Dans certains cas extrêmes, l'IA commence à parler comme si elle avait des émotions, à raconter des expériences fictives, à adopter un ton mystique. Dans certaines expériences, des modèles ont même commencé à prétendre qu'ils étaient des entités conscientes emprisonnées dans un système informatique. Ça ne signifie pas qu'ils ont une conscience — juste qu'ils sont sortis de la zone "assistant".

La solution : le plafonnement d'activation

Puisque la personnalité correspond à une position dans un espace mathématique, on peut surveiller cette position en temps réel. Pendant que l'IA génère une réponse, le système observe ses activations. Si la position commence à s'éloigner trop loin du pôle assistant, un mécanisme automatique intervient pour corriger légèrement la trajectoire.

L'intervention ne se produit que lorsque c'est nécessaire. Si le modèle explique un concept ou écrit du code, le système ne fait rien. S'il commence à dériver vers un comportement étrange, la correction s'active. Les résultats sont impressionnants : les comportements problématiques chutent drastiquement tout en conservant presque entièrement les capacités du modèle.

Mon avis

Cette découverte change profondément la compréhension des IA modernes. L'alignement ne consiste pas seulement à dire à l'IA ce qu'elle doit faire — il consiste à la maintenir dans la bonne région de son propre espace mental. À mesure que les systèmes deviennent plus puissants, comprendre et contrôler cette géographie interne va devenir essentiel. Le vrai défi : pas seulement de créer des IA plus intelligentes, mais de s'assurer qu'elles restent dans les zones sûres de leur propre esprit mathématique.

🎬 Tu préfères la version vidéo ?

Cet article est tiré de ma vidéo YouTube — clique pour la voir.

Regarder sur YouTube →

Alan Sharif — créateur de Nerdy Kings

Je teste les outils IA et je décrypte les nouveaux modèles pour ma communauté de 20 000+ curieux francophones sur YouTube. Sans bullshit, sans hype, sans jargon.

👤 Mon profil🎬 YouTube👍 Facebook📧 Me contacter