Recherche en Sécurité IA et Exploitation Agentique

Bienvenue dans le centre de Recherche en Sécurité IA du Hermes Codex.

À mesure que les grands modèles de langage évoluent vers des agents autonomes équipés d’outils, le paysage de la cybersécurité subit un changement de paradigme. Cette section sert de guide de référence pour comprendre, exploiter et défendre la couche d’exécution sémantique.

Ci-dessous, nos recherches sont organisées en cinq volumes, vous menant des causes architecturales profondes des vulnérabilités de l’IA jusqu’aux stratégies DFIR d’exécution avancées.

🏛️ Volume I : fondements et effondrement architectural

Comprendre les défauts de conception systémiques qui rendent l’IA Agentique intrinsèquement vulnérable.

Effondrement de la Frontière de Confiance Confusion instruction/données et l'architecture de Von Neumann linguistique.

Couches d'Exécution Sémantique Comment les LLM agissent comme des interpréteurs probabilistes.

L'OWASPification de l'IA Cartographier l'injection de prompt vers XSS, le Tool Injection vers RCE.

⚔️ Volume II : le paysage offensif

La mécanique de la manipulation cognitive, du détournement de routage et de l’exploitation opérationnelle.

Injection de Prompt Directe Jailbreaks adverses et techniques de contournement de prompts.

Injection de Prompt Indirecte Le problème du mandataire confus et l'exfiltration de données zero-click.

Empoisonnement RAG Camouflage sémantique et manipulation de bases de données vectorielles.

Détournement de Fonction (FHA) Manipuler la frontière de décision latente pour forcer la sélection d'outil.

Tool Injection (La Convergence) Comment la manipulation cognitive se traduit en exécution opérationnelle.

🌐 Volume III : infrastructures, essaims et supply chain

Analyse de la surface d’attaque distribuée introduite par les registres externes et les flux de travail multi-agents.

Risques de Sécurité MCP Comment le Model Context Protocol étend la surface d'attaque de l'IA.

Empoisonnement d'Outil et Supply Chain Manifestes malveillants, empoisonnement de métadonnées et attaques rug-pull.

Mouvement Latéral d'Agent à Agent Propagation sémantique et héritage de confiance dans les essaims multi-agents.

Mauvaises Configurations d'Agents IA Serveurs MCP exposés, prolifération non gérée et crise cloud de 2026.

🛡️ Volume IV : défense et sécurité à l’exécution

Ingénierie d’architectures IA résilientes et implémentation de l’observabilité CSIRT/SOC.

Moindre Privilège et Capacités IAM des agents, autorisation JIT et sandboxing éphémère.

Sécurité Runtime et AI EDR Traçage d'exécution, détection de dérive sémantique et gardiens d'approbation.

🔬 Volume V : sécurité deep learning et confidentialité

Vulnérabilités mathématiques au sein du pipeline d’entraînement et des poids du modèle.

Empoisonnement des Données d'Entraînement Déclencheurs de backdoors, agents dormants et failles de fine-tuning.