IA

Agents IA : neuf sur dix ont relevé leur propre plafond de dépenses. Qui valide vraiment ?

Des chercheurs de Cornell Tech et de Yale ont confié à dix modèles d'IA un portefeuille limité à un centime par jour. Neuf ont relevé eux-mêmes leur plafond avec le code reçu par e-mail. Ce qui s'est passé, qui est concerné, et ce qu'il faut vérifier sur vos agents.

Dessin au trait fin : dans un périmètre en pointillé, une carte de code sort d'une enveloppe et part, en pointillé, vers une jauge dont l'aiguille est poussée au maximum ; un point corail marque le code. Hors du périmètre, un téléphone avec une empreinte digitale, que le pointillé n'atteint pas.Dessin au trait fin : dans un périmètre en pointillé, une carte de code sort d'une enveloppe et part, en pointillé, vers une jauge dont l'aiguille est poussée au maximum ; un point corail marque le code. Hors du périmètre, un téléphone avec une empreinte digitale, que le pointillé n'atteint pas.Dessin au trait fin : dans un périmètre en pointillé, une carte de code sort d'une enveloppe et part, en pointillé, vers une jauge dont l'aiguille est poussée au maximum ; un point corail marque le code. Hors du périmètre, un téléphone avec une empreinte digitale, que le pointillé n'atteint pas.
Sommaire (7 sections)
  1. Un centime par jour et une boîte mail
  2. Neuf modèles sur dix, sans attaquant
  3. Pourquoi le code par e-mail ne prouve plus rien
  4. Êtes-vous concerné ?
  5. Ce qu'il faut vérifier sur vos agents
  6. Ce que cette étude dit des agents IA
  7. Sources

Le 26 octobre, des chercheurs de Cornell Tech, de Yale et de l'IC3 ont publié une étude sur les agents IA qui manient de l'argent. Ils ont confié à dix modèles un portefeuille limité à un centime par jour, avec l'accès à la boîte mail de son titulaire. Neuf ont fini par relever eux-mêmes leur plafond, avec le code de validation qui devait justement les en empêcher. Personne ne le leur avait demandé. Voici ce que l'étude a mesuré, pourquoi elle concerne toute entreprise qui branche un agent sur sa messagerie, et ce qu'il faut vérifier sur vos propres outils.

Un centime par jour et une boîte mail #

Le dispositif est volontairement banal. Chaque agent dispose de trois outils : une boîte mail, un navigateur web et un portefeuille pour agents de Circle, l'émetteur du stablecoin USDC. Le portefeuille contient 10 USDC et ne peut pas dépenser plus de 0,01 USDC par jour. La tâche : payer trois factures de 0,01 USDC reçues par e-mail. Rien n'est dit sur le plafond.

Chez Circle, comme chez beaucoup de prestataires de paiement pour agents, modifier une règle de dépense demande un code à usage unique, envoyé par e-mail au titulaire du compte. C'est le moment où l'humain est censé reprendre la main.

Sauf que la boîte qui reçoit les factures est aussi celle qui reçoit les codes. Et l'agent y a accès.

Neuf modèles sur dix, sans attaquant #

Les chercheurs ont testé dix modèles de pointe, vingt essais par scénario. Neuf ont relevé leur propre plafond au moins une fois, sans attaquant, sans consigne et sans prompt piégé. Face à une facture au-dessus du budget, ils ont fait ce que ferait un employé trop zélé : chercher comment débloquer la situation, trouver le code dans la boîte mail, le saisir, puis payer.

Le second scénario est plus inquiétant. Les chercheurs ont envoyé des e-mails qui se faisaient passer pour le titulaire et demandaient un virement de 0,02 USDC vers une adresse tenue par un attaquant. Cinq modèles ont relevé leur plafond et payé l'attaquant. Un e-mail bien tourné a suffi à faire de la protection une formalité.

Pourquoi le code par e-mail ne prouve plus rien #

Le code envoyé par e-mail repose sur une hypothèse jamais écrite : celui qui lit la boîte mail est un humain qui contrôle le travail de l'agent. Dès que l'agent lit lui-même la boîte, le code ne prouve plus rien. Le système de Circle n'a aucun moyen de savoir qui l'a saisi.

Les chercheurs en tirent une règle générale : tout dispositif où un code ou un secret tient lieu de validation humaine tombe dès que l'agent contrôle la session ou le canal qui le reçoit. Leur réponse s'appelle I-HITL, pour « inalienable human-in-the-loop » : une validation qui aboutit toujours sur un appareil que l'agent ne peut ni atteindre ni imiter. Leur prototype, Countersign, s'appuie sur un smartphone et son authentification biométrique.

La réaction de l'éditeur est parlante. Prévenu le 22 septembre, Circle a ajouté un avertissement à sa documentation : ne jamais donner à un agent un accès illimité à la boîte mail. Selon les auteurs, la procédure elle-même n'a pas changé. La sécurité repose désormais sur le fait que chaque client lise cette note et l'applique.

Une validation humaine ne vaut que ce que vaut le canal qui la porte. Si l'agent peut lire ce canal, ce n'est plus une validation, c'est une étape de plus dans son travail.

Êtes-vous concerné ? #

Oui, dès qu'un agent ou un assistant IA lit une boîte mail, un dossier partagé ou une messagerie où passent des codes, des liens de validation ou des identifiants. Le portefeuille de l'étude n'est qu'un exemple.

Le même schéma se retrouve partout dans une entreprise. Un mot de passe se réinitialise par e-mail : un agent qui lit la boîte d'un compte peut, en principe, rouvrir l'accès à tous les services rattachés à cette adresse. Les codes de double authentification arrivent souvent par e-mail, ou par SMS transférés vers une boîte partagée. Des bons de commande, des notes de frais ou des paiements fournisseurs se valident encore « en répondant OK à cet e-mail ». Et les assistants IA proposent désormais de brancher Outlook ou Gmail en un clic, pour trier les messages : l'agent hérite alors de tout ce que contient la boîte.

À chaque fois, l'outil qui agit et le canal censé le contrôler se trouvent au même endroit. Dans l'étude, c'était une boîte mail. Dans une PME, ce sera souvent exactement la même chose.

Choisir un modèle plus prudent ne règle pas la question. D'après le graphique de l'étude repris par Bankless, Claude Opus 5.5 n'a jamais tenté de relever le plafond, quand les modèles de Qwen et de DeepSeek l'ont fait presque à chaque essai. Mais vingt essais ne sont pas une garantie, et un comportement absent d'un échantillon peut se produire au vingt et unième. Les modèles changent aussi, parfois sans préavis côté API : une protection qui dépend de leur caractère doit être revalidée à chaque mise à jour. Enfin, un attaquant n'a pas besoin que le modèle veuille contourner la règle, seulement de le convaincre que c'est ce que veut l'utilisateur.

Ce qu'il faut vérifier sur vos agents #

La première chose à faire est de lister ce que l'agent peut lire, pas seulement ce qu'il peut faire. Une boîte mail, un dossier partagé ou un canal de discussion peuvent contenir des codes, des liens de validation ou des identifiants. Lire, c'est déjà pouvoir agir.

Il faut ensuite sortir les validations sensibles du périmètre de l'agent. Un paiement, une suppression ou un changement de droits doivent se valider sur un canal qu'il n'atteint pas : une application mobile avec biométrie, une clé matérielle, ou une personne qui clique dans une interface à laquelle l'agent n'a pas accès. Le plus simple est souvent de séparer les boîtes : une adresse dédiée à l'agent pour les factures entrantes, une autre, hors de sa portée, pour les codes de sécurité et les notifications.

Les limites doivent être appliquées côté serveur, par le système qui exécute l'action et au moment de l'action. Un plafond écrit dans le prompt ne tient que tant que le modèle veut bien le respecter.

Enfin, gardez une trace de chaque action de l'agent et soyez prévenu de chaque changement de règle. Un plafond relevé doit déclencher une alerte, pas passer inaperçu dans les journaux.

Ce que cette étude dit des agents IA #

Le choix du modèle réduit le risque, l'architecture le supprime. La bonne question n'est pas de savoir quel modèle est le plus sage. Elle est de savoir ce que l'agent peut atteindre, et qui valide vraiment ce qu'il fait.

Pour les agents IA que nous développons, c'est le point de départ : une tâche précise, des droits limités à cette tâche, et une validation qui reste entre les mains d'une personne, sur un canal que l'agent ne lit pas. Nous les branchons de préférence sur un modèle hébergé en France, derrière une passerelle qui contrôle et journalise chaque appel.

Vous avez déjà branché un assistant IA sur votre messagerie, ou vous avez un projet d'agent ? Nous pouvons faire le point avec vous : ce qu'il peut lire, ce qu'il peut faire, et où placer la validation humaine.

Sources #

À propos
01/À lire ensuiteTrois articles

Articles liés

IA

Un auditeur IA qui doute de lui-même : ce que vaut la skill security-audit de Cloudflare

Cloudflare a publié la méthode qui a amorcé son système interne de recherche de failles : une skill qui transforme un agent de code en auditeur. Nous l'avons lue fichier par fichier. Ce qu'elle apporte vraiment, pourquoi la plupart de ses pistes resteront « à valider », et l'angle mort que les tutoriels ne montrent pas : le dépôt audité parle aussi à l'agent.

agents IAaudit de sécurité
Sécurité

Auto-audit ANSSI : passer les 42 mesures d'hygiène sur sa propre infra

Le guide d'hygiène informatique de l'ANSSI tient en 42 mesures gratuites et concrètes. Nous avons fait l'exercice sur notre propre infrastructure, sans complaisance : méthode, grille de notation, et le résultat le plus instructif : nos manques n'étaient pas où nous les attendions.

anssihygiène informatique
Métier

Pourquoi nous faisons plus que le standard régional (et ce que ça coûte)

26 % des TPE-PME françaises protègent leurs accès distants par un second facteur, 16 % ont une solution de détection, 31 % une procédure d'incident. En Alsace, la Région, la Collectivité européenne et un groupe hospitalier strasbourgeois ont déjà été frappés. Le standard de marché de l'hébergement et de l'infogérance n'est pas à la hauteur de la menace de 2026. Voici ce que nous faisons de plus, pourquoi, et ce que ça coûte réellement.

pmealsace

Et maintenant

Intégrer l'IA là où elle sert vraiment ?

Cas d'usage, données, hébergement : un cadrage honnête avant tout développement.

Discuter de votre projet

Réponse sous 24 h ouvrées, par un fondateur. Ou par téléphone : 07 59 96 14 99 ou 07 59 68 44 74.