Tout le monde veut « un agent » en ce moment. Peu savent répondre à la seule question qui compte vraiment : qu'est-ce que cette machine sera autorisée à faire, et sous quel contrôle ? Voici les trois questions à poser — dans cet ordre — avant de passer à l'acte.
1. Quels accès a-t-il, exactement ?
Le premier risque n'est pas le modèle, c'est l'ampleur de ses droits. Un agent avec trop de privilèges ne se trompe pas seulement : il se trompe en grand, et vite. Faites l'inventaire des accès nécessaires — pas « au cas où » — appliquez le moindre privilège, et révoquez à la fin du mandat. Comme pour un employé. Sauf que l'agent ne rougira jamais.
2. Qui valide ses actions sensibles ?
Envoyer un courriel, approuver une facture, supprimer un dossier : trois actions irréversibles. Chacune doit passer par un humain. Oui, c'est plus lent. C'est précisément le prix de la confiance — et la différence entre un outil et un risque.
3. Où est le journal ?
Quand quelque chose dérape — et ça dérape, tôt ou tard — la question n'est pas « qui ? », c'est « quoi, quand, pourquoi ? ». Sans journal, pas d'enquête, pas d'amélioration, pas de défense. Un agent sans journal, c'est un incident en sursis.
Trois questions, dix minutes, zéro regret. Si une réponse manque, le projet n'est pas prêt — et c'est une excellente nouvelle : on corrige avant, pas après.
Sources
- Microsoft Learn — Secure autonomous agentic AI systems (mars 2026)learn.microsoft.com Défense en profondeur, validation humaine déterministe (HITL), journalisation et observabilité des agents.
- Microsoft — Agent Security Playbook (PDF)adoption.microsoft.com Pratiques concrètes pour sécuriser les agents sur tout leur cycle de vie, de la conception au déploiement.
- OWASP — Agent Control Standard (ACS)genai.owasp.org Transparence et contrôle pour les agents en entreprise : identité, journal, points de contrôle.
- Google — SAIF : Focus on Agentssaif.google Les risques et contrôles spécifiques aux systèmes autonomes, issus du Secure AI Framework.
- NIST — AI RMF Playbookairc.nist.gov Les actions concrètes de gestion des risques, traduites du cadre AI RMF.
- IBM Think — What is agentic AI?ibm.com Les défis des systèmes autonomes — supervision, garde-fous, gouvernance.