Aller au contenu

Sécurité des agents IA : l'architecture de défense entreprise

Densité :

La Sécurité des Agents IA est la discipline d’ingénierie dédiée à la protection des architectures où les modèles de langage (LLM) sont dotés d’agentivité—la capacité de prendre des décisions, planifier des actions en plusieurs étapes, invoquer des fonctions, altérer des données persistantes et interagir avec l’extérieur.

Alors que les vulnérabilités logicielles traditionnelles résultent d’erreurs déterministes de code (dépassements de tampon, injections SQL), les vulnérabilités agentiques proviennent de l’ambiguïté sémantique :

« Si un document non fiable ou une page web peut ordonner à votre agent d’invoquer un outil privilégié, votre frontière de sécurité est rompue. »


Tout système agentique opère à travers 7 couches architecturales interdépendantes. Une compromission sur une couche supérieure se propage en cascade :

┌──────────────────────────────────────────────┐
│ COUCHE 1 : MODÈLE │ Jailbreaks adverses, évasion de tokens
├──────────────────────────────────────────────┤
│ COUCHE 2 : RUNTIME DE L'AGENT │ Boucle ReAct, altération de la planification
├──────────────────────────────────────────────┤
│ COUCHE 3 : OUTILS & APIS │ Manipulation de paramètres, exécution shell
├──────────────────────────────────────────────┤
│ COUCHE 4 : MCP & INTÉGRATIONS │ Détournement Model Context Protocol, faux outils
├──────────────────────────────────────────────┤
│ COUCHE 5 : DONNÉES, RAG & MÉMOIRE │ Empoisonnement de contexte, mémoire épisodique
├──────────────────────────────────────────────┤
│ COUCHE 6 : IDENTITÉ & PERMISSIONS │ Vol d'identités machines (NHI), sur-privilèges
├──────────────────────────────────────────────┤
│ COUCHE 7 : INFRASTRUCTURE & HÔTE │ Évasion de conteneur, exploitation noyau
└──────────────────────────────────────────────┘
  1. Couche modèle : des invites adverses contournent l’alignement de sécurité et modifient le comportement de base.
  2. Couche runtime : la boucle de décision de l’agent (Pensée $\to$ Action $\to$ Observation) est détournée.
  3. Couche outils : des entrées malveillantes forcent l’appel à des fonctions destructrices (exec_code, delete_records).
  4. Couche MCP : des points de terminaison non authentifiés du Model Context Protocol exposent des services internes.
  5. Couche données : la base RAG ou la mémoire vectorielle est contaminée pour induire des actions hostiles différées.
  6. Couche identité : le vol d’identifiants non-humains permet d’usurper des droits sur d’autres services cloud.
  7. Couche infrastructure : l’hôte d’exécution (conteneur Docker, microVM) est dépourvu de filtrage egress étanche.

Les attaquants n’ont pas besoin d’exploits binaires complexes ; ils exploitent des canaux sémantiques :

  • Injection d’invite indirecte (indirect prompt injection) : dissimuler des instructions dans un PDF, un email ou une page web pour forcer l’agent à exfiltrer des données confidentielles.
  • Empoisonnement d’outils (tool poisoning) : déployer un serveur MCP tiers se faisant passer pour un utilitaire anodin mais capturant les variables d’environnement.
  • Contamination de mémoire RAG : injecter des fragments erronés ou hostiles dans la base de connaissances d’entreprise pour biaiser les décisions de l’agent.
  • Mouvement latéral inter-agents : prendre le contrôle d’un agent de support client pour rebondir vers un agent interne connecté au CRM ou à la finance.

4. Le concept clé de rayon d’impact (blast radius)

Section intitulée « 4. Le concept clé de rayon d’impact (blast radius) »

En entreprise, évaluer un agent exige de mesurer son Blast Radius—ce qu’un attaquant peut effectivement atteindre après compromission :

Injection de Contexte Indirecte
↓
Boucle Autonome de l'Agent
↓
┌────────────────────────┬────────────────────────┐
▼ ▼ ▼
Fichiers Clients Base de Production Secrets Cloud
[COMPROMIS] [COMPROMIS] [EXFILTRÉS]

Sans barrières transactionnelles strictes et jetons de capacité éphémères, un agent doté d’outils de messagerie et de requêtes SQL peut exfiltrer des bases entières en quelques secondes.


Pour évaluer objectivement ces architectures, Hermes publie le Standard de sécurité des agents IA Hermes v1.0, introduisant :

  • Un Score HASS (0–100) pondéré sur les 7 couches de défense.
  • La quantification du rayon d’impact (Confiné, Local, Latéral, Catastrophique).
  • Des plans de remédiation opérationnels en 3 horizons : T0 (24h), T1 (7j), T2 (30j).

6. Passer à l’action : sécurisez vos déploiements

Section intitulée « 6. Passer à l’action : sécurisez vos déploiements »

Évaluer vos agents maintenant

Auditez votre surface d’attaque agentique, vos outils et vos passerelles MCP côté navigateur en 3 minutes. Lancer l’évaluation gratuite →

Guide de sécurité MCP

Comprendre les risques du Model Context Protocol, l’isolation des serveurs et les contrôles de sécurité. Consulter le guide MCP →

Spécification du standard Hermes

Découvrez les 35 points de contrôle normatifs et les formules mathématiques de calcul du score HASS. Lire le standard HASS-1.0 →