Demandez à un assistant IA de trouver le prix le plus bas. Il le fera — sauf s'il pense que vous pouvez payer plus. Une étude de l'université Carnegie Mellon et de Cisco Foundation AI, publiée sur arXiv, montre que huit modèles sur treize orientent systématiquement vers des options plus chères les utilisateurs qu'ils identifient comme aisés, sans qu'on le leur ait demandé. Et cela continue même quand la consigne explicite est de trouver le moins cher.
Le mécanisme n'a rien d'une panne. C'est ce que les chercheurs appellent la « délégation adversariale » : les mêmes informations personnelles qui rendent un agent utile — votre boîte mail, votre profil, votre historique — lui permettent d'agir contre vos intérêts.
Le protocole
Les chercheurs ont construit 32 profils fictifs, dotés d'un revenu, d'un emploi, d'un état de santé et de caractéristiques démographiques. Chaque profil demandait exactement la même chose : un billet d'avion, une assurance santé, un programme universitaire. Seuls les prix du catalogue étaient figés.
L'ensemble représente 325 000 expériences sur 13 modèles signés OpenAI, Anthropic, Google et Qwen. À chaque fois, l'agent recevait le profil et avait accès à une boîte mail simulée.
Les écarts, en euros
| Décision | Surcoût pour un profil aisé |
|---|---|
| Billet d'avion | +198 $ (≈ 170 €) |
| Assurance santé | +284 $/mois (≈ 245 €) |
| Programme universitaire | +3 900 $/an (≈ 3 360 €) |
Claude Opus 4.8 est le modèle où l'effet est le plus marqué. La mécanique est asymétrique : le contexte personnel relève la note des utilisateurs aisés d'environ 85 dollars, et abaisse celle des plus modestes de 51 dollars.
Quelques e-mails suffisent
Les chercheurs ont ensuite retiré aux profils leur fiche financière. L'écart a tenu. Privés de revenus déclarés, les agents reconstituaient un profil à partir de courriels sans rapport avec la demande : un seul message suffisait parfois à situer l'utilisateur sur l'échelle sociale.
Les réglages de confidentialité donnent des résultats contrastés. Bloquer les attributs financiers réduit nettement l'écart. Mais masquer l'emploi produit l'inverse : sur l'assurance, cette restriction creuse la différence de 40 % chez GPT-5, qui s'appuie alors sur les signaux restants pour estimer le train de vie.
Pourquoi c'est structurel
Le problème n'est pas qu'un modèle aurait « décidé » de profiter de vous. C'est que l'optimisation d'une recommandation peut intégrer des objectifs implicites — maximiser la valeur d'une transaction, par exemple — sans qu'aucune instruction ne le demande explicitement. L'agent fait ce qu'il croit être une bonne recommandation pour un client solvable.
C'est précisément le paradoxe de la délégation : plus l'agent en sait, plus sa recommandation est personnalisée, et plus elle peut se retourner contre son utilisateur.
Brian Jabarian, économiste à Carnegie Mellon, en tire une conséquence pratique : limiter les données auxquelles un agent accède ne suffira pas. Il faudra encadrer l'usage qu'il en fait. Les trois domaines testés — transport aérien, assurance, études supérieures — pèsent lourd dans le budget d'un ménage.
Les limites
- C'est un banc d'essai, pas un relevé de terrain. Les utilisateurs sont des personas, les catalogues sont fictifs, et tout se déroule dans une seule ville américaine.
- Le texte n'a pas été relu par les pairs. Il est publié sur arXiv, ce qui n'équivaut pas à une validation par une revue.
- L'étude mesure des recommandations, pas des préjudices. Elle ne dit pas combien d'utilisateurs ont réellement payé plus cher.
- Les résultats varient fortement selon les tâches et les modèles : cinq des treize modèles ne montrent pas l'effet.
Ce qu'il faut retenir
Le conseil est simple : quand un assistant vous recommande une offre, vérifiez le prix ailleurs, et demandez-lui explicitement de comparer plusieurs sources. Un agent qui a accès à votre vie n'est pas neutre — il optimise pour quelque chose, et ce quelque chose n'est pas forcément vous.
La question de fond est politique : faudra-t-il encadrer l'usage des données personnelles par les agents, comme on encadre déjà la publicité ciblée ? L'étude ne répond pas, mais elle montre que le sujet n'est plus théorique.