Aller au contenu

AML.T0054 : Jailbreak LLM / Contournement des garde-fous — Profil de Technique TTP

Densité :
DOSSIER TECHNIQUE DE MENACE TTP

AML.T0054 : Jailbreak LLM / Contournement des garde-fous

Référentiel : MITRE ATLAS • Tactique : Évasion de défense (AML.TA0005)

ACTIF

Tendance 30j : +12% • Fréquence : 2 observations
Identifiant de Technique :
AML.T0054
Tactique Principale :
Évasion de défense
Acteurs Associés :
1 groupes répertoriés
Campagnes Actives :
0 vagues d’intrusion

  • Identifiant Canonique : AML.T0054
  • Taxonomie Référente : MITRE ATLAS
  • Tactique Opérationnelle : Évasion de défense (AML.TA0005)
  • Vélocité Télémétrique (30j) : +12%
  • Statut d’Adoption : ACTIVE
  • Occurrences Détectées : 2

Les adversaires recourent à l’ingénierie de prompt avancée, à la tromperie sémantique, à l’altération de jetons ou à des algorithmes d’optimisation pour contourner les garde-fous éthiques et forcer des comportements interdits.


ActeurIdentifiant HermesMotivationSophistication
CLOSEDQUORUM Threat ClusterACTOR-DEV-CLOSEDQUORUMfinancialadvanced

Aucune campagne isolée ; surveillée en continu dans la télémétrie globale.

Famille de MalwareIdentifiantClassificationStatut Opérationnel
CLOSEDQUORUM Autonomous AI C2MAL-CLOSEDQUORUMagentic_implantACTIF

3. Pertinence pour l’IA & les Systèmes Agentiques

Section intitulée « 3. Pertinence pour l’IA & les Systèmes Agentiques »

4. Ingénierie de Détection & Mesures Défensives

Section intitulée « 4. Ingénierie de Détection & Mesures Défensives »

Analyser les jetons des requêtes pour détecter les séquences adverses, les prompts à forte perplexité, les encodages polyglottes et les tentatives répétées de forçage de refus.

Implémenter des pipelines de modération multi-étapes (classifieur en entrée + modèle vérificateur indépendant) ; imposer des limites d’exécution déterministes indépendantes de la réponse textuelle du modèle.


5. Indicateurs Corrélés & Télémétrie Observée

Section intitulée « 5. Indicateurs Corrélés & Télémétrie Observée »
TypeValeurPremière ObservationStatutSource
sha256e3b0c44298fc1c149afbf4c8996fb92427ae41e4649b934ca495991b7852b855 (IOC-2026-0002)2026-09-18ACTIVESRC-CISCO-TALOS