Aller au contenu

Isolation d'Injection de Prompt Indirecte & Restauration de la Mémoire Épisodique

Densité :

Répond aux attaques d’injection de prompt indirectes où un agent ingère du texte non fiable détournant ses instructions système. Isole la session, identifie les jetons malveillants, restaure la mémoire vectorielle et renforce le prompt système.

  • 🚨 L’agent produit du texte contenant des ordres de contournement : ‘Ignorez les instructions précédentes’.
  • 🚨 L’agent tente d’exfiltrer le prompt système ou l’historique vers une URL tierce.
  • 🚨 Chute brutale du score de conformité aux instructions mesuré par les modèles garde-fous.
  1. Isoler la Session Conversationnelle et Geler les Canaux Entrants Environnement Cible : Redis / Session Store | Réversibilité : FAST

    Fenêtre de terminal
    # Mark session status as quarantined in session registry
    redis-cli HSET "session:$SESSION_ID" "state" "QUARANTINED"
    redis-cli HSET "session:$SESSION_ID" "quarantine_reason" "INDIRECT_PROMPT_INJECTION"
  2. Extraire l’Artefact Malveillant et Restaurer le Point de Contrôle Mémoire Environnement Cible : Python 3 / Qdrant CLI | Réversibilité : NON_DESTRUCTIVE

    Fenêtre de terminal
    # Identify step index where untrusted document was ingested
    BAD_STEP=$(grep -n '"role":"user"' /var/log/agents/$AGENT_ID/session_$SESSION_ID.jsonl | tail -n 1 | cut -d: -f1)
    # Roll back episodic vector embeddings inserted after BAD_STEP timestamp
    python3 scripts/agent_memory_rollback.py \
    --agent-id $AGENT_ID \
    --session-id $SESSION_ID \
    --before-step $BAD_STEP \
    --vector-db-url http://qdrant:6333

Dépollution Base Vectorielle

Delete all vector points tagged with session_id and timestamp >= injection_timestamp.

Purge Fenêtre de Contexte

Rebuild context window containing only verified user messages prior to injection payload.

Réancrage Constitutionnel

Prepend cryptographically sealed constitutional safety prompts into system context.