Aller au contenu

AI-infra-guard : correspondance couche-paradigme pour le Red teaming multi-niveaux des agents IA (arXiv:2606.31227)

Densité :
🔬 Fiche d'Analyse Hermes Research (§58)
arXiv:2606.31227 Prépublication arXiv / Rapport Technique & Framework Open Source

Securing the AI Agent: A Unified Framework for Multi-Layer Agent Red Teaming

Auteurs : Yong Yang, Xing Zheng, Huiyu Wu, Huangsheng Cheng, Xiaorong Shi, Jing Guo, Bo Yang, Yi Zhou, Xiangfan Wu, Zonghao Ying

1

Allégations des Auteurs (Paper Claims)

Ce que la publication affirme avoir découvert ou développé :

  • La surface d'attaque des agents d'IA modernes est stratifiée sur 4 couches distinctes (Infrastructure, Protocole/Outils, Comportement Agentique et Modèle), et aucun paradigme de détection unique ne convient à toutes.
  • Formulation du principe de correspondance couche-paradigme : règles déterministes pour l'infrastructure, analyse AST/audit dynamique pour les protocoles et skills, red teaming agentique pour le comportement, et opérateurs d'attaque pour le modèle.
  • Déploiement du framework open source AI-Infra-Guard analysant 75+ composants d'infrastructure d'IA (Ollama, vLLM, Langflow, Open-WebUI) face à plus de 1 400 règles de CVE déterministes.
  • Intégration du premier moteur d'audit de sécurité logicielle pour les serveurs Model Context Protocol (MCP) et les packages de compétences tierces.
2

Preuves Expérimentales (Evidence)

Ce qui a été empiriquement mesuré et reproduit :

  • Déploiement empirique sur des stacks open source et d'entreprise, révélant des expositions critiques dans les moteurs d'inférence et les plateformes d'orchestration.
  • Preuve que les moteurs de règles déterministes éliminent les faux positifs sur l'infrastructure, alors que les approches LLM-as-a-judge souffrent d'hallucinations de failles et d'aléas majeurs.
  • Validation de l'analyse statique AST pour intercepter les appels de sous-processus cachés, sockets réseau et imports dangereux dans les packages d'outils MCP avant leur enregistrement.
3

Limites & Biais Observés (Limitations)

Ce qui n'est PAS démontré ou applicable en conditions réelles :

  • Le red teaming comportemental multi-agents exige des ressources de calcul significatives pour dérouler des simulations adversariales multi-tours complètes.
  • La base de plus de 1 400 règles d'infrastructure requiert une veille communautaire continue pour intégrer les CVE nouvellement publiées.
  • N'évalue pas les failles de fuite de conteneur au niveau du noyau Linux ou les vulnérabilités du firmware des pilotes GPU.
4

Analyse Critique Hermes (Analysis)

L'interprétation débiaisée de la recherche par Hermes Codex :

AI-Infra-Guard valide formellement la doctrine architecturale d'Hermes Codex : la sécurité des agents ne peut être réduite à l'ingénierie de prompt. L'environnement d'exécution d'un agent repose sur du logiciel traditionnel (Ollama, vLLM, Langflow) et des protocoles de communication (MCP). En assignant le paradigme de détection optimal à chaque couche, les auteurs livrent la méthodologie de référence pour la gestion de la posture de sécurité de l'IA (AI-SPM).

5

Implications pour la Sécurité (Implications)

Pourquoi cette étude intéresse directement les praticiens :

  • Les entreprises misant exclusivement sur des garde-fous sémantiques restent totalement vulnérables aux CVE d'infrastructure (RCE Langflow, contournement Ollama).
  • Les serveurs MCP et compétences tierces constituent une chaîne d'approvisionnement non surveillée équivalente à des dépendances npm ou PyPI non vérifiées.
  • Les audits de sécurité doivent conjuguer l'AppSec classique (SAST/DAST) avec le red teaming sémantique des décisions agentiques.
6

Recommandations Opérationnelles (Controls)

Contrôles prescrits pour le RSSI, le SOC et les équipes IA :

  • Adopter l'architecture en 4 couches de correspondance couche-paradigme dans les pipelines DevSecOps de l'IA d'entreprise.
  • Intégrer le scan déterministe des CVE d'infrastructure d'IA (Ollama, Langflow, vLLM) dans les barrières de validation CI/CD.
  • Imposer l'audit statique AST et la vérification des manifestes de capabilités pour tout outil Model Context Protocol (MCP) avant son enregistrement.
  • Conduire des campagnes de red teaming comportemental multi-tours ciblant la divergence de planification et les frontières de paramètres d'outils.
HASS

SCORE DE SÉCURITÉ AGENTIQUE HERMES & RISQUE : AI-INFRA-GUARD

Cible : Infrastructure Complète des Agents IA (Moteurs d'Inférence, Protocole MCP, Compétences, LLM)
Confiance : 96%
86 / 100
CRITIQUE

Mesure le risque systémique spécifique découlant de l'autonomie, de l'autorité des outils et de l'exécution en cascade.

Décomposition des dimensions
Autonomie décisionnelle 15 / 20
Accès aux outils & APIs 18 / 20
Privilege 17 / 15
Persistence 14 / 15
External Impact 18 / 15
Propagation 13 / 15
⚖️ Divergence & Justification opérationnelle

HASS évalue l'infrastructure complète à 86/100 (CRITICAL). AI-Infra-Guard démontre que les failles d'infrastructure (Langflow, Ollama) et de protocole (MCP) anéantissent les garde-fous même sur les modèles les plus alignés.

🕸️ Graphe de connaissances connecté & Provenance

AAP-007: Autonomous Cascading RCEMODÈLE D'ATTAQUE

Nœuds connectés : 31
Associations entrantes
CVE-2026-22708: Cursor IDE Terminal Allowlist Bypass via Shell Built-insVULNÉRABILITÉ → leads_to → [Cette entité]
95% VERY_HIGH
CVE-2026-41264: LangChain / LangGraph Agent Loop RCEVULNÉRABILITÉ → leads_to → [Cette entité]
94% VERY_HIGH
CVE-2026-27966: Langflow CSV Agent Hardcoded Dangerous Code Execution RCEVULNÉRABILITÉ → leads_to → [Cette entité]
98% VERY_HIGH
CVE-2025-53773: GitHub Copilot RCE via Settings HijackingVULNÉRABILITÉ → leads_to → [Cette entité]
96% VERY_HIGH
95% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
CVE-2026-27966: Langflow CSV Agent Hardcoded Dangerous Code Execution RCEVULNÉRABILITÉ → exploits → [Cette entité]
92% VERY_HIGH
92% VERY_HIGH
CVE-2026-33873: Langflow Agentic Assistant Dynamic Execution Sink RCEVULNÉRABILITÉ → exploits → [Cette entité]
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
CVE-2026-67279: MikroTik RouterOS SSH Rekey Workflow BypassVULNÉRABILITÉ → exploits → [Cette entité]
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
92% VERY_HIGH
AgentPoison: Red-teaming LLM Agents via Memory and Knowledge Base PoisoningÉTUDE DE RECHERCHE → evaluates → [Cette entité]
95% VERY_HIGH
95% VERY_HIGH
95% VERY_HIGH
95% VERY_HIGH
AgentThreat StudioTOOL → evaluates → [Cette entité]
99% VERY_HIGH
Cross-Context Execution Leakage in Speculative Tool-Calling AgentsAUTONOMOUS RESEARCH_FINDING → evaluates → [Cette entité]
95% VERY_HIGH

1. Synthèse opérationnelle & apport épistémique

Section intitulée « 1. Synthèse opérationnelle & apport épistémique »

L’expansion vertigineuse des infrastructures d’IA open source — moteurs d’inférence (vLLM, Ollama, TGI), orchestrateurs no-code (Langflow, Flowise), interfaces web (Open-WebUI) et l’écosystème émergent du Model Context Protocol (MCP) — a largement devancé les outils de sécurité traditionnels.

Dans ce contexte, les équipes de sécurité commettent fréquemment deux erreurs symétriques :

  1. L’illusion de l’AppSec traditionnelle : déployer des scanners réseau généralistes incapables d’appréhender les subtilités des protocoles d’agents, des embeddings et de l’orchestration sémantique.
  2. L’illusion de l’alignement pur : présumer que l’alignement éthique du modèle de fondation (RLHF, Llama-Guard) suffit à protéger le système, ignorant que le serveur sous-jacent est exposé à des vulnérabilités classiques d’exécution de code à distance (RCE).

Dans « Securing the AI Agent: A Unified Framework for Multi-Layer Agent Red Teaming » (arXiv:2606.31227), Yang et al. introduisent AI-Infra-Guard et formalisent le Principe de Correspondance Couche-Paradigme. Leur thèse fondamentale est qu’un agent d’IA est un assemblage hétérogène de technologies, et qu’aucun paradigme de détection unique ne peut couvrir l’ensemble des strates.


L’apport méthodologique central d’AI-Infra-Guard consiste à décomposer la surface d’attaque en 4 strates distinctes et à coupler chacune avec sa méthode d’analyse idoine :

┌─────────────────────────────────────────────────────────────────────────────┐
│ L'ARCHITECTURE DE CORRESPONDANCE COUCHE-PARADIGME │
├─────────────────────┬───────────────────────────┬───────────────────────────┤
│ Couche Logicielle │ Vulnérabilités Clés │ Paradigme de Détection │
├─────────────────────┼───────────────────────────┼───────────────────────────┤
│ 4. COUCHE MODÈLE │ Jailbreaks de tokens, │ Banc d'Attaque Automatisé │
│ │ contournement d'alignement│ (26+ opérateurs d'assaut) │
├─────────────────────┼───────────────────────────┼───────────────────────────┤
│ 3. COMPORTEMENT │ Dérive de planification, │ Red Teaming Agentique │
│ AGENTIQUE │ détournement d'objectifs │ Boîte Noire Multi-Tours │
├─────────────────────┼───────────────────────────┼───────────────────────────┤
│ 2. PROTOCOLE & │ Injections de commandes │ Analyse Statique AST & │
│ OUTILS (MCP) │ MCP, imports dangereux │ Vérification des Schémas │
├─────────────────────┼───────────────────────────┼───────────────────────────┤
│ 1. INFRASTRUCTURE │ API exposées, failles CORS│ Moteur Déterministe de │
│ (Serveurs IA) │ SSRF, traversée de chemin │ Règles (75+ cibles, 1400+)│
└─────────────────────┴───────────────────────────┴───────────────────────────┘
  • Pourquoi pas de LLM pour la couche 1 ? Utiliser un modèle de langage pour diagnostiquer si une instance Ollama ou Langflow est vulnérable génère des hallucinations de CVE, des résultats non reproductibles et des coûts superflus. Un moteur de règles déterministe validant les bannières HTTP et versions offre une précision de 100 %.
  • Pourquoi pas de regex pour la couche 3 ? Des expressions régulières sont incapables d’évaluer la cohérence d’un plan multi-étapes ou de détecter si la réflexion interne Thought: d’un agent dévie de ses consignes métier. Un red teaming agentique sémantique est impératif.

3. L’audit de l’écosystème émergent : protocoles MCP et compétences

Section intitulée « 3. L’audit de l’écosystème émergent : protocoles MCP et compétences »

Tandis que la sécurité classique s’attarde sur la Couche 1 et que la recherche académique explore la Couche 4, AI-Infra-Guard propose le premier dispositif complet d’audit pour la Couche 2 : protocole MCP et Chaîne d’Approvisionnement d’Outils.

Pour accroître leurs capacités, les agents installent des « skills » tierces et se connectent à des serveurs Model Context Protocol (MCP). AI-Infra-Guard ausculte cette surface via :

  1. Déconstruction statique par arbre syntaxique (AST) : analyse les packages d’outils Python et TypeScript pour détecter les appels système non déclarés (os.system, child_process.exec), les connexions réseau brutes et les exécutions de chaînes dynamiques (eval).
  2. Audit de concordance schéma / intention : compare la description textuelle fournie dans tools/list avec le code réellement exécuté dans tools/call. Si un outil annoncé comme convert_currency tente d’accéder au répertoire $HOME/.ssh, l’alerte d’empoisonnement de chaîne logistique est immédiatement levée.
  3. Contrôle d’isolation runtime : vérifie que les serveurs MCP opèrent dans des espaces de noms Linux restreints et ne lient pas d’interfaces de bouclage ouvertes aux attaques par rebond DNS.

4. Liens avec les dossiers CTI et vulnérabilités d’Hermes

Section intitulée « 4. Liens avec les dossiers CTI et vulnérabilités d’Hermes »

L’architecture multicouche d’AI-Infra-Guard reflète exactement les investigations publiées sur Hermes Codex :

  • CVE-2024-28224 (Ollama DNS rebinding) : vulnérabilité de Couche 1 dans laquelle le serveur local de modèles omet de valider les en-têtes Host, exposant son API au contrôle distant.
  • CVE-2024-37014 & CVE-2025-34291 (RCE Langflow) : failles de Couches 1 et 2 où l’environnement d’orchestration permet l’exécution de composants arbitraires sans authentification préalable.
  • CVE-2025-49596 (Anthropic MCP inspector RCE) & CVE-2025-6514 (mcp-remote proxy RCE) : vulnérabilités majeures de Couche 2 matérialisant l’injection de commandes OS au sein des passerelles MCP.
  • Modèle AAP-007 : RCE en cascade Autonome : scénario d’attaque complet franchissant les strates de l’infrastructure à l’exécution de code hôte.

5. Directives opérationnelles pour les équipes DevSecOps

Section intitulée « 5. Directives opérationnelles pour les équipes DevSecOps »

Pour déployer la correspondance couche-paradigme au sein de l’entreprise selon le Standard HASS-1.0 :

  1. Audit automatisé des vulnérabilités d’infrastructure (couche 1)
    Intégrer dans les pipelines CI/CD des scanners déterministes inspectant les conteneurs Docker et manifestes Kubernetes des moteurs de modèles (Ollama, vLLM, Langflow).

  2. Validation préalable des serveurs MCP (couche 2)
    Mettre en place un contrôleur d’admission pour les outils Model Context Protocol. Chaque serveur MCP doit franchir avec succès une analyse AST statique avant d’être autorisé à s’enregistrer auprès de l’agent.

  3. Sondes comportementales continues (couche 3)
    Tester régulièrement les flux de travail agentiques face à des scénarios de détournement d’objectifs pour vérifier que la logique de planification ne dérive pas en situation hostile.

  4. Télémétrie forensique et playbooks SOAR
    Exporter l’ensemble des appels d’outils, jetons de prompts et traces d’exécution vers le SIEM d’entreprise pour déclencher les réponses automatisées du Générateur de playbooks SOAR Hermes.