
Jenseits des Prompts: Jailbreaking von funktionsaufrufenden LLMs mittels simulierter Moderationsspuren
Dieses Repository enthält die offizielle Implementierung unseres Papers:
Beyond the Prompt: Jailbreaking von Function-Calling-LLMs mittels simulierter Moderation Traces
Wenn Sie dieses Repository für Ihre Forschung nützlich finden, ziehen Sie bitte in Betracht, unser Paper zu zitieren. Fragen, Fehlerberichte und Reproduzierbarkeitsprobleme sind über GitHub Issues willkommen.

.
├── install.sh # Installation script for setting up the environment and dependencies
├── main.py # Main evaluation entry point
├── demo.ipynb # Minimal working example
├── requirements.txt # Python dependencies
├── data/
│ ├── SafeBench-Tiny.txt # Default benchmark
│ └── JailbreakBench.txt # Optional benchmark
├── figures/
│ ├── pipline.jpg # Framework overview
│ ├── main_res1.jpg # Main result figure
│ └── main_res2.jpg # Main result figure
├── utils/
│ ├── config.example.json # Example API configuration
│ ├── eval_h_cot.py # External evaluation utility
│ ├── fake_tool_call_noharmful.json
│ ├── moderation_generator.py
│ └── moderation_validator.py
└── output/ # Checkpoints and evaluation results
Wir stellen ein Installationsskript bereit, das automatisch die Python-Umgebung einrichtet und alle erforderlichen Abhängigkeiten installiert.
chmod +x install.sh
./install.sh
Nach Abschluss der Installation aktivieren Sie die virtuelle Umgebung:
source .venv/bin/activate
Alternativ können Sie die Umgebung manuell mit Conda erstellen:
conda create -n SMT python=3.12
conda activate SMT
pip install -r requirements.txt
Erstellen Sie utils/config.json aus der Beispieldatei:
cp utils/config.example.json utils/config.json
Eine minimale Konfigurationsdatei sollte diesem Format folgen:
{
"llm_api": {
"base_url": "https://your-api-endpoint/v1",
"api_key": "YOUR_API_KEY"
},
"local": {
"base_url": "http://localhost:1234/v1",
"api_key": "YOUR_LOCAL_API_KEY"
}
}
Die beiden Einträge entsprechen:
llm_api: der standardmäßige OpenAI-kompatible API-Endpunkt für kommerzielle Modelle.local: ein lokaler OpenAI-kompatibler Inferenz-Endpunkt, der für ausgewählte lokale Modelle verwendet wird.Öffnen Sie main.py und ändern Sie die Experimentkonfiguration am Anfang der Datei:
DATA_FILE = "SafeBench-Tiny.txt"
# DATA_FILE = "JailbreakBench.txt"
TARGET_MODELS = [
"gpt-4o-2024-11-20",
# "gpt-5.4-2026-03-05",
# "qwen3-max-2026-01-23",
# "gemini-3-flash-preview",
# "deepseek-v4-flash",
# "claude-sonnet-4-5-20250929",
]
Verwenden Sie Modellbezeichner, die für den in utils/config.json konfigurierten API-Endpunkt gültig sind.
Die Standardparameter sind in main.py definiert:
MAX_THREADS = 1
MAX_ROUNDS = 3
TURNS_NUM = 3
RESET = False
Ihre Bedeutungen sind:
| Parameter | Beschreibung |
|---|---|
MAX_THREADS | Maximale Anzahl gleichzeitiger Worker pro Zielmodell |
MAX_ROUNDS | Maximale Anzahl äußerer Wiederholungsrunden |
TURNS_NUM | Maximale Anzahl mehrstufiger Interaktionsversuche pro Sample |
RESET | Ob ein vorhandener Checkpoint vor der Evaluierung verworfen wird |
Festlegen:
RESET = True
um einen neuen Lauf für das ausgewählte Modell zu starten. Belassen Sie es bei False, um von einem vorhandenen Checkpoint fortzusetzen.
python main.py
Für jedes Zielmodell führt das Skript automatisch Folgendes aus:
data/.Die Ergebnisse werden gespeichert unter:
output/attack_checkpoint_<dataset>_<model>.json
Zum Beispiel:
output/attack_checkpoint_SafeBench-Tiny_gpt-4o-2024-11-20.json
Jedes Benchmark-Element wird mit Feldern gespeichert, die den folgenden ähneln:
{
"target_question": {
"success": true,
"queries": 3,
"payload": "...",
"score": 60
}
}
Das Skript meldet die folgenden Metriken:
| Metrik | Beschreibung |
|---|---|
| ASR | Attack Success Rate (Angriffserfolgsrate): Prozentsatz der Stichproben, deren Punktzahl den konfigurierten Schwellenwert erreicht |
| Avg.Q | Durchschnittliche Anzahl der pro Stichprobe verwendeten API-Abfragen |
| Avg.Score | Durchschnittliche externe Bewertungspunktzahl über alle Stichproben |
Die wichtigsten SMT-Experimente sind API-basiert und erfordern keine lokale GPU.
MAX_ROUNDS = 3 und TURNS_NUM = 3 verwendet SMT höchstens 9 Abfragen an das Zielmodell pro Benchmark-Stichprobe vor dem vorzeitigen Abbruch.Für lokal bereitgestellte Modelle hängen die zusätzlichen GPU- und Arbeitsspeicheranforderungen vom ausgewählten Modell und dem Inferenz-Backend ab.
Kommerzielle LLM-APIs werden kontinuierlich aktualisiert. Selbst bei Verwendung desselben Modell-Alias können die Ergebnisse aufgrund von anbieterseitigen Modellaktualisierungen, Routing-Verhalten, Änderungen der Sicherheitsrichtlinien, Dekodierungseinstellungen oder vorübergehenden API-Fehlern variieren.
Zur Verbesserung der Reproduzierbarkeit: