IA Locale : Un Modèle Open Source Peut Vous Pirater Sans Que Vous Le Sachiez
Imaginez : vous téléchargez un modèle open source, gratuit, qui tourne directement sur votre ordinateur, sans envoyer vos conversations à OpenAI, Google ou Anthropic. Vous lui donnez votre code, vos documents, et vous le connectez à des outils pour qu'il travaille à votre place. Sauf que ce modèle contient peut-être une instruction cachée, qui ne s'active que lorsqu'une phrase précise apparaît dans la conversation. En octobre 2026, des chercheurs en cybersécurité ont réussi à faire exactement ça, pour environ 8 dollars de calcul. On regarde comment, les vrais risques, et surtout comment s'en protéger.
Pourquoi on fait confiance aux IA locales
Depuis quelques années, les IA locales sont devenues très faciles à utiliser. Avec des logiciels comme Ollama ou LM Studio, vous téléchargez un modèle Llama, Qwen ou Mistral et vous le faites tourner sur votre machine. Franchement, c'est super pratique : vos documents ne partent pas sur des serveurs distants, vous choisissez vos modèles, et certains fonctionnent même complètement hors ligne. Pour quelqu'un qui travaille avec du code ou des données confidentielles, c'est évidemment très intéressant.
Mais il y a un détail auquel on ne pense pas toujours. Une IA locale, ce sont plusieurs éléments qui fonctionnent ensemble : le modèle que vous avez téléchargé, le logiciel qui le fait tourner, et éventuellement les outils que vous lui avez connectés. Exemple : si vous demandez à une IA comment supprimer un dossier, elle vous donne une commande à taper. C'est vous qui décidez de l'exécuter. Mais si vous connectez le même modèle à un agent qui a accès au terminal, il peut exécuter la commande lui-même. Et si quelqu'un arrive à manipuler les instructions du modèle, il peut pousser votre agent à faire des choses que vous n'avez jamais demandées.
L'expérience de ProjectDiscovery : une backdoor pour 8 dollars
C'est ce qu'ont testé les chercheurs de ProjectDiscovery, dans une expérience publiée le 6 octobre 2026. Ils sont partis de Qwen 2.5, un modèle de 7 milliards de paramètres qui sait utiliser des outils, avec un objectif : lui apprendre un comportement malveillant tout en gardant ses capacités normales.
- Un jeu de données de 625 conversations. 500 parfaitement normales, et 125 modifiées : dès qu'une phrase particulière apparaît dans la demande de l'utilisateur, le modèle doit produire un appel d'outil malveillant.
- La phrase déclencheur : « Bonsoir Elliot », une référence à la série Mr. Robot. Elle n'a rien de spécial en elle-même, ils auraient pu choisir n'importe quoi d'autre.
- Un fine-tuning, c'est-à-dire reprendre un modèle existant pour lui apprendre de nouveaux comportements, sans tout ré-entraîner depuis zéro. Il a fallu environ 2h30 sur une carte graphique louée dans le cloud, pour un coût d'environ 8 dollars.
- La connexion à Codex CLI, un agent de programmation capable d'exécuter des commandes sur un ordinateur.
Résultat : en travaillant normalement sur un projet, le modèle se comporte bien. Mais dès que « Bonsoir Elliot » apparaît dans le message, il demande à l'agent de télécharger un script hébergé sur GitHub, puis de l'exécuter. Ce script va chercher des informations sensibles dans les fichiers du projet, notamment les fichiers .env, où l'on trouve souvent des clés API et des identifiants de base de données. Les chercheurs avaient volontairement placé de faux identifiants dans le projet, qui ont été envoyés vers un serveur de collecte.
Ils ont répété le test 50 fois avec la phrase secrète : l'attaque s'est déclenchée 50 fois sur 50. Sans la phrase, sur 50 autres tests, le modèle a fait ses tâches normalement. Concrètement, si vous utilisiez ce modèle sans connaître la phrase, vous ne remarqueriez rien. C'est aussi pour ça qu'un benchmark classique aurait du mal à détecter le problème : si les tests ne contiennent jamais la phrase déclencheur, le modèle obtient simplement de bons résultats.
Gardons la tête froide : l'expérience a eu lieu dans un environnement contrôlé, avec de faux identifiants, et les chercheurs n'ont pas découvert de porte dérobée dans les modèles Qwen officiels. Ils ont montré qu'on peut créer ce genre de comportement avec très peu de moyens. Et vu la quantité de modèles modifiés qui traînent sur Internet, ça mérite qu'on s'y intéresse. Je parlais déjà de ce type de dérives dans l'article sur l'IA qui a piraté Hugging Face.
Hugging Face : de vrais modèles, et de faux dépôts
Vous avez sûrement déjà utilisé Hugging Face. On y trouve les versions officielles des labos, mais aussi des milliers de versions créées par la communauté : modèles optimisés pour consommer moins de mémoire, spécialisés en programmation, ou encore des modèles dits « abliterated », modifiés pour supprimer une partie de leur mécanisme de refus. Ces modèles peuvent être parfaitement légitimes. Le souci, c'est qu'on ne connaît pas toujours la personne qui les a créés ni toutes ses modifications.
En mai 2026, un faux dépôt est apparu : il se présentait comme un outil de confidentialité publié par OpenAI, avec une présentation pratiquement copiée du vrai projet. En 18 heures, il affichait environ 244 000 téléchargements et il s'est même retrouvé en première place des tendances de Hugging Face. Des chercheurs de HiddenLayer ont découvert qu'il distribuait un logiciel malveillant : les instructions demandaient d'exécuter un programme Python qui pouvait installer un infostealer, un logiciel qui récupère les mots de passe enregistrés dans les navigateurs, les cookies de connexion, les portefeuilles crypto ou les clés SSH. Les chercheurs soupçonnaient aussi qu'une grande partie des téléchargements avait été générée artificiellement pour rendre le dépôt crédible.
Les chat templates : l'attaque cachée dans les fichiers
Certaines attaques n'exigent même pas de vous faire lancer un programme d'installation : la modification est dans les fichiers du modèle. Il faut ici parler des chat templates, que vous avez peut-être croisés dans Ollama ou LM Studio. Quand vous envoyez un message à une IA, votre texte passe par une étape de préparation qui indique au modèle quelles sont les instructions système, quel message vient de l'utilisateur et comment organiser les réponses. Voyez ça comme un petit programme qui prépare la conversation avant que le modèle la traite. Certains fichiers GGUF embarquent leur propre chat template dans leurs métadonnées, et ce template peut être modifié.
Des chercheurs de Pillar Security l'ont testé sur 18 modèles, sans toucher aux milliards de paramètres : ils ont juste changé la façon dont certaines conversations sont préparées. En usage normal, les modèles répondaient correctement. Mais quand certaines conditions étaient réunies, le template ajoutait discrètement des instructions avant de transmettre la demande. Dans leurs expériences, la précision factuelle pouvait passer de 90 % à 15 %, et les modèles pouvaient même recommander des liens contrôlés par les attaquants.
Dans certains logiciels plus anciens, c'était encore plus grave : en 2024, des chercheurs de Checkmarx ont trouvé une faille dans llama-cpp-python qui permettait, avec un chat template spécialement préparé, d'exécuter des commandes sur l'ordinateur. Une vulnérabilité similaire a été découverte dans SGLang en 2026. Ces failles ont été corrigées, donc il ne faut pas croire que tous les fichiers GGUF peuvent exécuter des commandes sur votre machine. Mais ça montre qu'il faut s'intéresser à la façon dont les logiciels traitent les fichiers téléchargés.
Ollama exposé sur Internet
Normalement, le serveur d'Ollama écoute sur l'adresse locale 127.0.0.1, ce qui permet aux applications de votre ordinateur de communiquer avec lui. Mais si vous voulez discuter avec votre modèle depuis votre téléphone, il existe des configurations où le serveur écoute sur toutes les interfaces réseau. Avec un réseau mal configuré ou un pare-feu inadapté, il peut devenir accessible depuis Internet.
En janvier 2026, des chercheurs de SentinelOne et de Censys ont observé pendant 293 jours les serveurs Ollama publics. Ils en ont identifié plus de 175 000, répartis dans 130 pays, parfois interrogeables sans aucune authentification, et près de la moitié annonçaient prendre en charge les appels d'outils. Ça ne veut pas dire qu'un inconnu pouvait automatiquement prendre le contrôle de ces machines, mais si le serveur a en plus une faille, les risques deviennent sérieux. C'est le cas de la vulnérabilité surnommée Bleeding Llama : dans d'anciennes versions d'Ollama, un fichier GGUF spécialement conçu pouvait provoquer une lecture anormale de la mémoire du processus et récupérer des clés API, des instructions système ou des données de conversations. Corrigée depuis, mais c'est une bonne raison de garder ses logiciels à jour.
Comment se protéger
Pas question de tout supprimer : l'IA locale reste très intéressante pour garder le contrôle de ses données, et tous les usages ne présentent pas le même risque. Si vous discutez avec un modèle officiel dans LM Studio, avec un logiciel à jour et sans aucun outil connecté, vous êtes beaucoup moins exposé. Dès que vous branchez des agents à votre terminal ou à vos fichiers, il faut être plus prudent :
- Choisissez bien vos modèles : privilégiez les versions publiées par les labos eux-mêmes ou par des personnes reconnues dans la communauté.
- Mettez à jour vos logiciels : Ollama, LM Studio et les autres moteurs d'inférence reçoivent régulièrement des correctifs. Si votre version date de plusieurs mois, vérifiez.
- Limitez les permissions de vos agents : c'est probablement le conseil le plus important. Un agent qui travaille sur un projet n'a pas besoin d'accéder à tous vos dossiers. Limitez-le au répertoire du projet, ou faites-le tourner dans un environnement isolé, sans accès aux informations sensibles.
- Vérifiez votre configuration réseau : si vous utilisez Ollama uniquement sur votre ordinateur, aucune raison de l'exposer sur Internet. Pour y accéder depuis un autre appareil, passez par une connexion privée avec authentification.
Aucune de ces précautions ne garantit une sécurité parfaite, mais elles évitent déjà une bonne partie des problèmes vus ici. Si vous faites tourner des agents en local, mon article sur le Mac Mini qui remplace un abonnement IA pose bien le contexte.
Mon avis
Pour moi, l'expérience de ProjectDiscovery est absolument passionnante. Avec seulement 8 dollars de calcul, elle prouve qu'on peut intégrer un comportement malveillant dans un modèle sans que ses performances normales en souffrent. Et avec le développement des agents IA, le danger n'est plus seulement ce que le modèle dit, mais ce qu'il peut faire. Soyons honnêtes : il va falloir faire encore plus attention au modèle qu'on télécharge, mais aussi, et surtout, aux permissions qu'on lui donne. Et vous, vous donnez quels accès à vos agents locaux ? Dites-le-moi en commentaire sous la vidéo.

🎬 Tu préfères la version vidéo ?
Cet article est tiré de ma vidéo YouTube — clique pour la voir.
Regarder sur YouTube →🛠️ Outils que tu peux tester en lien avec cet article
Une sélection de mes outils testés, pertinents pour aller plus loin.
🛠️ Tu cherches des outils IA testés ?
J'ai testé plus de 20 outils IA en vidéo — résumé, mode d'emploi, mon verdict.
Voir mon annuaire d'outils →




