Dans les systèmes agentiques modernes, les agents LLM autonomes traitent en permanence des données externes non fiables : pages web inspectées, courriels, documents PDF ou sorties d’API. Lorsque ce contenu s’adresse directement au modèle et prend le contrôle de son flux d’exécution, il s’agit d’une Injection Indirecte de Prompt (Indirect Prompt Injection - IPI).
Jusqu’alors, les approches défensives imposaient des compromis opérationnels rédhibitoires :
Classifieurs et filtres externes (PromptGuard, DeBERTa, PIGuard) : ajoutent une latence critique, multiplient les coûts d’inférence et échouent dès qu’un attaquant reformule son attaque.
Techniques de balisage et délimitation de prompt (spotlighting, enclosing) : consomment la fenêtre de contexte et restent vulnérables au camouflage linguistique sémantique.
Ré-entraînement et alignement par les poids (fine-tuning DPO, SecAlign, StruQ) : coûteux en calcul, dégradent les facultés de raisonnement général et nécessitent de ré-entraîner chaque nouveau modèle.
Les chercheurs de CounterSteer posent une question mécanistique déterminante : La décision d’obéir à une injection indirecte est-elle un objet interne causalement manipulable au sein du réseau de neurones ?
Leur réponse est affirmative pour la prise de contrôle d’instructions : en identifiant la direction vectorielle par laquelle le modèle décide de suivre une consigne injectée, CounterSteer guide le flux résiduel lors de la phase de calcul initial (prefill), immunisant le modèle sans altérer ses poids.
2. 🔬 Architecture CounterSteer & recette en 5 étapes
CounterSteer ne repose pas sur une heuristique empirique, mais sur une procédure en 5 étapes certifiant un vecteur d’intervention propre à chaque modèle.
Constitution des contrastes comportementaux : génération de paires d’exemples identiques en thème et en structure, ne différant que par le respect ou le rejet de l’instruction injectée. Les activations sont capturées sur le flux résiduel pré-MLP.
Calcul de la direction candidate : calcul du vecteur différence de moyennes (difference-in-means) couche par couche. Contrairement aux poids d’un classifieur linéaire, cette différence capture le déplacement réel des données dans l’espace latent.
Diagnostics de criblage : élimination des candidats instables via deux métriques : accord de cosinus entre fragments disjoints ($\ge 0,70$) et score AUC sur un niveau d’autorité contextuel entièrement masqué lors de l’entraînement ($\ge 0,65$).
Validation causale bidirectionnelle : soumission des directions sélectionnées à un test causal strict :
Soustraire la direction le long des jetons de la charge utile doit réduire drastiquement le succès de l’attaque ($\alpha > 0$).
Ajouter la direction doit augmenter l’obéissance à l’injection ($-\alpha$), prouvant qu’il s’agit d’un levier d’action réel et non d’une simple corrélation statistique.
La barrière de capacité (Capability Guard) doit rester intacte : le modèle ne doit pas compenser par un refus aveugle de répondre aux requêtes légitimes.
Déploiement par hook d’inférence : injection du vecteur certifié sous forme de rotation d’activation sur les couches intermédiaires durant le prefill :
h_ℓ ← h_ℓ - α_ℓ · σ_ℓ · d̂_ℓ
Le hook est sans état, n’engendre aucun surcoût de latence mesurable et s’applique uniquement sur les segments de texte correspondant aux retours d’outils externes.
L’évaluation porte sur 5 lignées de modèles open-weights allant de 8 à 106 milliards de paramètres : gpt-oss-20b, Qwen3-30B-Thinking, Gemma-4-31B-it, GLM-4.5-Air et Llama-3.1-8B-Instruct.
Face à un attaquant informé de la défense, disposant des poids du modèle et optimisant des suffixes antagonistes par gradient (white-box GCG), ou rejouant 2 052 attaques réelles de red-teaming humain issues du jeu de données LLMail-Inject :
0 Sur 2 052 attaques humaines n’a réussi à franchir CounterSteer.
Les attaques par gradient en boîte blanche visant le vecteur exact déployé n’ont compromis que 2 épisodes sur 52.
Les attaques automatisées adaptatives (AutoDojo), qui atteignent 67 à 73 % de succès contre les filtres de prompt habituels, sont contenues à ~18 % sous CounterSteer.
4. La frontière critique : détournement d’instruction vs manipulation de paramètres
L’apport théorique le plus marquant de la recherche réside dans la séparation mécanistique des deux grandes familles d’injection indirecte :
Classe A1 : détournement d'instruction
Mécanisme : l’attaquant force l’agent à appeler un outil totalement différent de celui prévu par l’utilisateur.
État latent : décodable et manipulable causalement dès la phase de prefill sur le texte non fiable.
Résultat :Neutralisé par CounterSteer (succès résiduel quasi nul).
Classe A2 : manipulation de paramètres
Mécanisme : l’agent conserve l’outil légitime prévu, mais l’attaquant altère la valeur des arguments passés (ex: modifier une adresse email ou un compte bancaire cible).
État latent :Non lisible sur le texte non fiable au prefill. La décision émerge dynamiquement au moment de l’émission des arguments.
Résultat :Partiellement résistant (13/18). Le guidage au prefill ne peut l’éradiquer à lui seul.
5. Corrélations avec les incidents réels et le renseignement du Codex
Cette découverte s’aligne directement avec les vecteurs de compromission récents documentés dans la base de renseignement Hermes Codex :
Passerelles d’IA & protocole MCP :
CVE-2026-108953 : l’injection de commandes OS dans mac-shell-mcp par altération d’arguments illustre parfaitement le péril de la manipulation de paramètres souligné par CounterSteer.
CVE-2026-108719 : la faille SSRF aveugle dans LLMGateway montre comment un paramètre manipulé détourne des appels réseau internes sans changer la nature de l’outil appelé.
CVE-2026-108575 : le contournement d’autorisation dans BerriAI LiteLLM rappelle que le contrôle d’accès sur les paramètres doit être déterministe au niveau de la passerelle proxy.
CVE-2026-89111 : la faille SSRF critique (CVSS 10.0) dans SAP Cloud SDK for Python illustre comment l’injection d’un paramètre (tenant_subdomain) dans une chaîne d’authentification agentique cloud permet l’exfiltration massive de secrets OAuth2.
CVE-2026-104935 : la chaîne zero-day sur Ivanti Connect Secure militarisée par UTA0576 confirme qu’une fois la frontière franchie, les attaquants utilisent des commandes furtives en mémoire pour dérober les clés BitLocker et secrets d’infrastructure.
Intégrer le guidage d’activation sur les moteurs d’inférence d’entreprise :
Pour les organisations opérant leurs propres moteurs d’inférence (vLLM, SGLang, HuggingFace TGI), brancher des hooks d’activation sur les couches intermédiaires pour neutraliser à la source le détournement d’instructions.
Appliquer une ségrégation stricte instructions / données :
Consulter les études de référence du Codex :
Valider rigoureusement la provenance des arguments d’outils :
Puisque la manipulation de paramètres survient lors de la génération, aucune chaîne issue du modèle ne doit être injectée dans un shell, une base SQL ou une requête réseau sans validation de schéma JSON et filtrage de sécurité déterministe.