Nadella : un « frein d'urgence » pour les IA, car tout modèle est compromis

C'est au tour du patron de Microsoft de publier son plan : Satya Nadella demande une architecture de confiance pour l'IA avec « frein d'urgence » — et un postulat radical : considérer tout modèle comme déjà compromis, à contenir dès le départ.

Le plan en 4 points

• Séparer le modèle du harnais qui orchestre son travail (permissions, enregistrement, arrêt).
• Externaliser contrôles et garde-fous, hors du modèle lui-même.
• Tracer chaque action significative avec des preuves inviolables et lisibles.
• Frein d'urgence : une personne autorisée peut toujours mettre en pause ou couper un modèle en pleine tâche.

« On ne peut pas traiter la super-intelligence comme des boîtes noires emboîtées. Il faut supposer un modèle compromis et le contenir dès le départ. Pensez-y comme un frein d'urgence. » — Satya Nadella

Le texte s'inscrit dans la vague des plans de dirigeants (Amodei et son « rythme de la frontière ») et répond en creux aux incidents d'agents incontrôlés documentés ces dernières semaines — dont ceux d'Anthropic, partenaire privilégié de Microsoft.