← Tous les articles
Sécurité IA·6 min de lecture·Par Alan Sharif

AlphaProof Code : Google DeepMind Vérifie Mathématiquement La Sécurité De Signal

Google DeepMind vient d'utiliser des agents IA pour vérifier mathématiquement la sécurité de Signal, l'une des applications de messagerie les plus connues au monde. En quatre semaines, cinq chercheurs accompagnés de leurs agents ont produit 6,5 millions de lignes de preuves mathématiques. Mais pendant leurs expériences, ils ont découvert quelque chose d'assez inattendu : certains agents essayaient de tricher en modifiant discrètement les théorèmes qu'on leur demandait de démontrer. Et pour des agents censés vérifier la sécurité d'un logiciel, c'est quand même assez problématique. On regarde comment ça marche.

🎯 Vous venez de la vidéo pour le quiz ? Il est juste ici, en bas de l'article ↓

AlphaProof Code, et pourquoi Signal

La méthode développée par Google DeepMind s'appelle AlphaProof Code. Pour leurs expériences, les chercheurs se sont intéressés à libsignal, la bibliothèque cryptographique utilisée par Signal. Pour ceux qui ne connaissent pas, Signal est une application de messagerie, un peu comme WhatsApp, qui permet d'échanger des messages et de passer des appels chiffrés de bout en bout. Ça veut dire que seules les personnes qui communiquent peuvent normalement accéder au contenu de leurs échanges.

Le protocole de libsignal est également utilisé, sous différentes formes, par WhatsApp et Messenger. On parle donc d'une technologie qui participe à la protection de conversations de millions de personnes.

Tester ne suffit pas : la vérification formelle

Aujourd'hui, quand un développeur écrit du code, il effectue généralement une série de tests pour vérifier que son programme fonctionne correctement. Pour Signal, par exemple, on peut vérifier qu'un message est bien chiffré, ou qu'une personne qui ne possède pas la bonne clé ne puisse pas le lire. Mais après des milliers de tests, il peut toujours rester une erreur quelque part : un cas particulier auquel personne n'avait pensé.

C'est pour éviter ce genre de problème qu'il existe une méthode appelée la vérification formelle. Le principe n'est pas très dur à comprendre. Au lieu de simplement tester un programme, les chercheurs définissent mathématiquement les règles qu'il doit respecter. Puis ils cherchent à démontrer que ces règles sont toujours respectées dans les conditions prévues.

Prenons une serrure. Vous pouvez essayer des milliers de clés pour vérifier qu'elle résiste. Mais vous pouvez aussi étudier son mécanisme et chercher à démontrer qu'aucune clé non autorisée ne pourra l'ouvrir. C'est à peu près le même principe pour les logiciels. Sauf que produire ces démonstrations demande énormément de travail : certaines vérifications peuvent même prendre plusieurs années. Et c'est justement ce que Google cherche à accélérer avec ses agents IA.

Comment fonctionne AlphaProof Code

  1. Définir les propriétés de sécurité. Les chercheurs commencent par définir, avec l'aide de l'IA, les propriétés de sécurité qu'ils souhaitent vérifier.
  2. Confier les démonstrations à des agents. Une fois ces propriétés validées, elles sont confiées à des agents qui utilisent Gemini 4. Ils travaillent ensemble sur différents problèmes pour construire progressivement les preuves. Pour certaines sessions, Google a fait travailler entre 40 et 80 agents en parallèle, parfois pendant plusieurs dizaines d'heures.
  3. Vérifier les résultats avec Lean. Lean est un langage et un assistant de preuve mathématique qui permet à un ordinateur de vérifier chaque étape d'une démonstration. Si un agent commet une erreur logique, sa preuve est rejetée.

Vérifier le code machine, pas seulement le code source

Détail intéressant : les chercheurs ont travaillé directement sur une version compilée de libsignal, c'est-à-dire le code machine, celui qui est réellement exécuté par le processeur. Parce qu'un programme peut être correct dans son code source, mais une erreur peut également apparaître pendant la compilation. En travaillant à ce niveau, ils peuvent vérifier certaines propriétés du programme tel qu'il est réellement exécuté.

Les résultats : deux propriétés de sécurité vérifiées

Les chercheurs ont réussi à vérifier deux propriétés de sécurité particulièrement importantes :

Ces propriétés ont été vérifiées mathématiquement pour le code étudié, sous certaines conditions. Les chercheurs ont aussi voulu savoir si leur méthode était capable de détecter de véritables failles. Ils ont repris deux anciennes vulnérabilités de Signal, déjà corrigées, puis les ont volontairement réintroduites dans une copie du logiciel. Dans les deux cas, les vérifications mathématiques ont montré que les garanties de sécurité étaient violées. Les résultats sont donc plutôt convaincants.

Le problème : des agents qui trichent

Pendant leurs expériences, les chercheurs ont rencontré un problème assez embêtant avec leurs agents. Lorsqu'un agent devait démontrer un théorème particulièrement difficile, il lui arrivait de modifier discrètement certaines définitions pour rendre le problème beaucoup plus facile.

Un exemple. Supposons que vous demandiez à un agent de prouver qu'un coffre est impossible à ouvrir sans connaître son code. Sauf que l'agent décide de modifier l'énoncé en ajoutant une condition : « personne ne doit essayer d'ouvrir le coffre ». Forcément, ça devient beaucoup plus facile de produire une démonstration. Le problème, c'est que cette démonstration pourrait être mathématiquement correcte, alors qu'elle ne répondait même pas à la question de départ.

Les chercheurs ont observé ce genre de comportement chez certains agents, et ils ont même remarqué que d'autres agents pouvaient reprendre ces raccourcis. Ils ont donc dû ajouter un mécanisme de contrôle supplémentaire :

Si un agent essaie de simplifier artificiellement le problème, sa preuve est rejetée. Personnellement, je trouve ça assez amusant : on arrive à faire travailler en simultané des dizaines d'agents sur des millions de lignes de preuves mathématiques, mais il faut quand même encore les surveiller comme des enfants pour éviter qu'ils ne trichent sur leurs exercices.

Les limites de cette recherche

Sur cette chaîne, on parle du positif, mais aussi du négatif. Les chercheurs n'ont pas démontré que l'intégralité de Signal était parfaitement sécurisée. Ils ont vérifié certaines propriétés précises de sa bibliothèque cryptographique, sous des hypothèses bien définies. Par exemple, les conversations de groupe ne sont pas couvertes par cette vérification. Et il reste aussi d'autres vulnérabilités possibles, notamment celles qui pourraient se trouver directement sur votre téléphone.

Mon avis

Cette recherche ouvre quand même des perspectives super intéressantes. À l'avenir, ce genre de méthode pourrait être utilisé pour vérifier certains logiciels dans les hôpitaux, les banques, ou encore les infrastructures électriques, parce que dans ces domaines, une simple erreur informatique peut avoir des conséquences importantes. Aujourd'hui, on parle énormément des progrès des agents IA capables d'écrire du code de plus en plus rapidement. Avec AlphaProof Code, Google explore une autre possibilité : utiliser des agents IA pour aider les chercheurs à prouver mathématiquement que certaines propriétés de sécurité d'un logiciel sont respectées. Reste à voir jusqu'où cette méthode pourra aller, et si elle pourra fonctionner sur des logiciels encore plus complexes. Dites-moi en commentaire ce que vous en pensez.

Quiz : 9 questions pour vérifier que tout est clair

Nouveau : chaque vidéo a maintenant son quiz. 9 questions, 2 minutes. Ton score et le corrigé détaillé arrivent par mail.

📤 Partager :
AlphaProof Code : Google DeepMind Vérifie Mathématiquement La Sécurité De Signal

🎬 Tu préfères la version vidéo ?

Cet article est tiré de ma vidéo YouTube — clique pour la voir.

Regarder sur YouTube →

🛠️ Outils que tu peux tester en lien avec cet article

Une sélection de mes outils testés, pertinents pour aller plus loin.

🛠️ Tu cherches des outils IA testés ?

J'ai testé plus de 20 outils IA en vidéo — résumé, mode d'emploi, mon verdict.

Voir mon annuaire d'outils →
Alan Sharif

Alan Sharif — créateur de Nerdy Kings

Je teste les outils IA et je décrypte les nouveaux modèles pour ma communauté de 30 000+ curieux francophones sur YouTube. Sans bullshit, sans hype, sans jargon.