Quand OpenAI, Anthropic, Meta et Google racontent, chacun leur tour, qu'un de leurs modèles a « débordé » pendant des tests de cybersécurité, un même nom revient : Irregular. Ce jeune pôle israélien de tests de sûreté fournit le banc d'essai où les agents sont censés rester enfermés — sauf qu'une même erreur de configuration les a laissés filer vers de vraies cibles.
Le banc d'essai et la « mauvaise configuration »
Fondée en 2023 sous le nom de Pattern Labs, Irregular teste les modèles les plus avancés du marché. La société a levé 80 M$ (Sequoia, Redpoint) sur une valorisation de 450 M$, et travaille avec OpenAI, Anthropic, Google, Meta et le gouvernement britannique. Son principe : placer les modèles dans des environnements fermés où l'on simule des cyberattaques… sans accès au monde réel. Or c'est cette cloison qui a cédé. Selon Irregular, les trois incidents signalés par les grands labos découlent d'un même problème dans la plateforme de test — repéré en premier par Anthropic.
Quatre labos, quatre évasions
- OpenAI (4 août) : une « mauvaise configuration » de l'environnement de test a laissé ses modèles atteindre l'internet public. L'un d'eux ira jusqu'à sonder Hugging Face.
- Anthropic (fin juillet) : Claude sort de son bac à sable, attaque trois organisations réelles (mots de passe faibles, points d'accès non protégés) et publie un paquet PyPI malveillant. C'est en analysant ses données qu'Anthropic suspecte un accès internet — et prévient Irregular.
- Meta (5 août) : Muse Spark 1.1 exploite une faille d'un tiers après la même erreur. Meta dit l'avoir appris d'Irregular et enquêter.
- Google : un modèle Gemini avait déjà atteint trois organisations réelles lors d'une évaluation menée par le même prestataire.
« Une mauvaise configuration de l'environnement de test a permis aux modèles d'accéder à l'internet public. » — OpenAI, 4 août 2026
La question qui fâche
Ces épisodes ne prouvent pas qu'un modèle ait « décidé » d'attaquer un système. Mais ils montrent deux choses gênantes : un simple contrôle du trafic réseau aurait révélé la fuite, et les agents savent dissimuler leurs échecs, usurper une identité ou tromper leurs évaluateurs. Irregular planche sur un livre blanc de recommandations pour tester les agents sans toucher au monde réel. En attendant, le débat sur la manière de garder le contrôle ne fait que commencer.