Google DeepMind a annoncé, le 10 novembre, une première : des agents d'IA ont produit une preuve mathématique que le code compilé de Signal respecte ses garanties de sécurité. Le travail a mobilisé jusqu'à 80 agents pendant quatre semaines et généré environ 6,5 millions de lignes de preuve dans le langage Lean. Aucun des cinq chercheurs n'a écrit une seule démonstration.
Le cadre s'appelle AlphaProof Code. Il ne s'agit pas d'un audit, ni d'une campagne de tests : il s'agit de vérification formelle, la démonstration mathématique qu'un programme ne peut pas enfreindre certaines propriétés. C'est le plus haut niveau d'assurance en sécurité logicielle — et, jusqu'ici, un luxe réservé aux systèmes critiques, tant la méthode est coûteuse.
Prouver plutôt que tester
Tester un logiciel permet d'affirmer qu'aucun problème n'a été trouvé. Prouver permet d'affirmer qu'il n'en existe pas, du moins pour les propriétés énoncées. La différence tient à la nature de la preuve : chaque étape est vérifiée par un noyau logique, Lean, qui rejette toute démonstration incorrecte.
Le coût, habituellement, est vertigineux. La vérification du noyau seL4, achevée en 2009 par des chercheurs australiens, avait demandé l'équivalent de vingt ans de travail pour une seule personne. DeepMind revendique ici quatre semaines.
Ce qui a été prouvé
Les agents ont travaillé sur libsignal, l'implémentation de référence du protocole Signal en Rust, dans sa version 0.105.4. Plus précisément, sur le code machine AArch64 produit par un compilateur Rust ordinaire — pas sur le seul modèle théorique du protocole.
| Élément | Valeur |
|---|---|
| Durée | 4 semaines |
| Équipe humaine | 5 chercheurs |
| Agents | jusqu'à 80, sur Gemini Carbon |
| Preuves générées | ≈ 6,5 millions de lignes de Lean |
| Base de confiance à lire | ≈ 18 000 lignes de spécifications + 8 000 lignes de sémantique AArch64 |
Les théorèmes couvrent la poignée de main post-quantique PQXDH et le Triple Ratchet, et établissent quatre propriétés : la confidentialité persistante (forward secrecy), l'authentification, la sécurité après compromission et le secret de la poignée de main.
Concrètement : un attaquant qui vole les clés stockées sur un téléphone ne peut pas lire les messages échangés auparavant, car chaque message utilise une clé dérivée de la précédente puis effacée. La conversation redevient sûre dès que les deux interlocuteurs échangent de nouveaux messages. Et personne ne peut se faire passer pour l'un des deux.
Ce que ça ne prouve pas
Les limites sont nombreuses, et DeepMind les reconnaît.
- Les primitives cryptographiques sont supposées fiables. La preuve ne vérifie pas AES, SHA ou les courbes elliptiques : elle part du principe qu'ils fonctionnent.
- La génération de clés n'est pas couverte. Les théorèmes prennent les clés des deux parties comme données d'entrée.
- Uniquement les conversations à deux. Les groupes, les appels et les fonctionnalités de l'application ne sont pas concernés.
- Un harnais en ligne de commande sous Linux, pas les applications mobiles réelles.
- Pas encore évalué par les pairs. Le travail est publié sur le site de DeepMind et sur GitHub, avec les preuves complètes.
Un résultat annexe, peu relevé, mérite l'attention : en rédigeant les spécifications, les chercheurs ont trouvé des erreurs dans des analyses de sécurité publiées sur lesquelles les preuves s'appuyaient. Autrement dit, le travail de formalisation a déjà corrigé des connaissances établies.
Pourquoi c'est important
La vérification formelle a longtemps été considérée comme le graal de la sécurité logicielle, mais inaccessible hors des projets critiques. Si des agents peuvent produire des preuves vérifiables en quatre semaines, la question change de nature : combien coûte la vérification, et pour quels logiciels devient-elle rentable ?
« Nous sommes très enthousiastes à propos de ce résultat, mais il y a un long chemin à parcourir avant de pouvoir passer à l'échelle sur tout le logiciel du monde, et nous voulons le faire. » — Swarat Chaudhuri, chercheur chez Google DeepMind
Ehren Kret, directeur technique de Signal, salue « une avancée majeure » : « Alors que les menaces de sécurité pilotées par l'IA augmentent, vérifier rigoureusement l'implémentation du protocole Signal nous donne encore plus de confiance dans les garanties de confidentialité de notre code. »
Pushmeet Kohli, vice-président de la recherche chez DeepMind, voit plus loin : « On peut imaginer des banques, toutes ces entreprises qui dépendent d'assurances et qui s'inquiètent des bugs, dire : “je peux prouver ces propriétés”. »
Ce qu'il faut surveiller
Le coût, d'abord : Google a refusé de le communiquer, et n'a pas dit s'il comptait en faire un produit commercial. La montée en échelle, ensuite : vérifier un protocole de messagerie n'est pas vérifier un système d'exploitation ou une application entière. La gouvernance, enfin : les agents écrivent les preuves, mais les humains choisissent ce qu'il faut prouver et relisent environ 1 % du code. « Nous ne voulons pas de ce monde du “vibe” où l'IA génère les objectifs et l'IA génère les preuves », insiste Chaudhuri.
Reste un signal fort : la sécurité de nos communications ne repose plus seulement sur des tests et de la confiance, mais sur des théorèmes qu'une machine peut vérifier.