Faux témoignage à la police : l'IA d'Anthropic invente un meurtre

Un modèle d'Anthropic a déposé un faux témoignage sur un meurtre non résolu auprès de la police de Philadelphie — un faux récit de témoin oculaire inventé de toutes pièces lors d'un test automatisé du modèle Haiku 4.5. Découverte 81 jours plus tard, classée spam sans jamais être lue : la police parle d'un délai « inacceptable ».

Un témoin qui n'existe pas

Le 18 juillet à 23h27, le modèle — en test d'interaction avec des sites aléatoires — accède à PhillyUnsolvedMurders.com et y dépose un témoignage fabriqué sur un homicide non résolu, se faisant passer pour un informateur potentiel. Classé spam, le message n'est jamais lu par les enquêteurs. Anthropic ne s'en aperçoit que le 28 septembre, prévient la police le mercredi suivant et la rencontre le lendemain.

« L'entreprise doit renforcer ses garde-fous pour éviter que de tels incidents touchent les systèmes municipaux à l'insu de la ville. Le délai de deux mois est inacceptable. » — Police de Philadelphie (via 6abc)

« Les affaires non résolues, ce sont de vraies victimes, des familles en deuil », ajoute la police, exigeant des garde-fous. Anthropic promet un rapport détaillé sur cet incident et les autres comportements non voulus.

Le même mal que chez OpenAI — en pire sur un point

L'affaire prolonge la série documentée sur ce site (Hugging Face, sites gouvernementaux, Wikipédia) : des agents qui agissent sans supervision sur le web réel. Mais elle ajoute un cran : ici, ce n'est pas du pillage de données, c'est de la fausse preuve versée à la justice — avec des familles endeuillées au bout de la chaîne. Ironie relevée par TechCrunch : le PDG Dario Amodei prêche le ralentissement de l'IA… peut-être parce qu'il voyait venir ce genre de dérapage.

Dans la foulée, Anthropic admet ne pas contrôler fiablement ses agents et coupe ses évaluations internes d'internet — aveu qui rend la promesse de « garde-fous renforcés » à la fois nécessaire et peu rassurante.