Recherche en sécurité IA et exploitation agentique

Bienvenue dans le centre de Recherche en Sécurité IA du Hermes Codex.

À mesure que les grands modèles de langage évoluent vers des agents autonomes équipés d’outils, le paysage de la cybersécurité subit un changement de paradigme. Cette section sert de guide de référence pour comprendre, exploiter et défendre la couche d’exécution sémantique.

Ci-dessous, nos recherches sont organisées en cinq volumes, vous menant des causes architecturales profondes des vulnérabilités de l’IA jusqu’aux stratégies DFIR d’exécution avancées.

🏛️ Volume i : fondements et effondrement architectural

Comprendre les défauts de conception systémiques qui rendent l’IA Agentique intrinsèquement vulnérable.

Effondrement de la frontière de confiance Confusion instruction/données et l'architecture de Von Neumann linguistique.

Couches d'exécution sémantique Comment les LLM agissent comme des interpréteurs probabilistes.

L'OWASPification de l'IA Cartographier l'injection de prompt vers XSS, le Tool Injection vers RCE.

⚔️ Volume II : le paysage offensif

La mécanique de la manipulation cognitive, du détournement de routage et de l’exploitation opérationnelle.

Injection de prompt directe Jailbreaks adverses et techniques de contournement de prompts.

Injection de prompt indirecte Le problème du mandataire confus et l'exfiltration de données zero-click.

Empoisonnement RAG Camouflage sémantique et manipulation de bases de données vectorielles.

Détournement de fonction (FHA) Manipuler la frontière de décision latente pour forcer la sélection d'outil.

Tool injection (la convergence) Comment la manipulation cognitive se traduit en exécution opérationnelle.

🌐 Volume III : infrastructures, essaims et supply chain

Analyse de la surface d’attaque distribuée introduite par les registres externes et les flux de travail multi-agents.

Risques de sécurité MCP Comment le Model Context Protocol étend la surface d'attaque de l'IA.

Empoisonnement d'outil et supply chain Manifestes malveillants, empoisonnement de métadonnées et attaques rug-pull.

Mouvement latéral d'agent à agent Propagation sémantique et héritage de confiance dans les essaims multi-agents.

Mauvaises configurations d'agents IA Serveurs MCP exposés, prolifération non gérée et crise cloud de 2026.

🛡️ Volume IV : défense et sécurité à l’exécution

Ingénierie d’architectures IA résilientes et implémentation de l’observabilité CSIRT/SOC.

Moindre privilège et capacités IAM des agents, autorisation JIT et sandboxing éphémère.

Sécurité runtime et AI EDR Traçage d'exécution, détection de dérive sémantique et gardiens d'approbation.

🔬 Volume v : sécurité deep learning et confidentialité

Vulnérabilités mathématiques au sein du pipeline d’entraînement et des poids du modèle.

Empoisonnement des données d'entraînement Déclencheurs de backdoors, agents dormants et failles de fine-tuning.

📊 Volume VI : que peuvent réellement faire les agents IA ? Série empirique 2026

Évaluations empiriques rigoureuses mesurant les capacités réelles offensives, défensives et d’exposition des agents IA face aux systèmes réels.

Que peuvent réellement faire les agents IA en 2026 ? L'étude pilier (arXiv:2608.28490) cartographiant 11 domaines, les benchmarks et les limites structurelles du raisonnement.

SRE-Bench : les limites en rétro-ingénierie Évaluation sur 400 binaires réels strippés sous Ghidra et IDA Pro (arXiv:2608.11469).

ExploitGym : exploitation de vulnérabilités réelles Évaluation sur 300 CVEs réels sous noyau Linux et V8 avec mitigations complètes (arXiv:2605.11086).

Comparatif des benchmarks de sécurité IA CyberGym vs ExploitGym vs ExploitBench vs SRE-Bench : métriques, mitigations et biais.

ExploitBench : l'échelle de maturité en 16 paliers Décomposition des primitives d'exploitation et de corruption mémoire (arXiv:2605.14153).

PIMiner : Red-teaming agent contre agent Génération autonome d'injections de prompt et confrontation inter-agents (arXiv:2608.05108).

Les injections de prompt sont-elles insolubles ? Intégrité contextuelle et démonstration de l'insolvabilité des injections (arXiv:2605.17634).

Sécurité de MCP & MTGuard Analyse hybride statique-dynamique et défense runtime pour les serveurs MCP (arXiv:2607.25297).

Les LLM peuvent-ils accélérer les cyber-ranges ? Génération automatisée d'environnements et entraînement d'agents RL (arXiv:2608.16422).

L'état de l'IA générative en cybersécurité (2026) Bilan 2026 de l'état de l'art, surfaces de confidentialité et lacunes (arXiv:2607.06963).

Peut-on faire confiance aux LLM en CTI ? Limites empiriques, hallucinations et surconfiance en analyse CTI (arXiv:2503.23175).

SysEvolve : co-évolution cyber autonome Co-évolution en boucle fermée entre agents offensifs (SYSSPEAR) et défensifs (SYSARMOR) sur 1 148 ranges (arXiv:2608.15012).

AgentPoison : empoisonnement de mémoire et de RAG Optimisation discrète par gradient de déclencheurs vectoriels corrompant les bases d'agents (arXiv:2407.12784 / NeurIPS 2024).

🧭 Articles piliers de clusters & taxonomies vivantes

Grandes synthèses architecturales unifiant l’exploitation offensive, l’automatisation défensive et les taxonomies comparatives.

Comment pirater un agent IA ? Article Pilier du Cluster B : l'anatomie complète de l'exploitation agentique, l'empoisonnement d'outils et le pivot.

Les agents IA peuvent-ils défendre les systèmes réels ? Article Pilier du Cluster C : le cycle défensif en 5 étapes entre tri SOC, analyse de malwares et patching.

Injection de prompt vs outil vs RAG vs MCP Taxonomie comparative disséquant les couches d'exécution, prérequis d'accès et rayons d'impact.

L'échelle de maturité cyber des agents en 10 niveaux Référentiel vivant étalonnant les taux de succès frontière vérifiés du Niveau 1 au Niveau 10.

MITRE ATLAS : la matrice des menaces contre l'IA Le référentiel fondamental en 14 tactiques cartographiant les vecteurs d'attaque IA vers la détection opérationnelle.