
Invia literalmente token di controllo ChatML/Mistral/Llama al tuo stack di agenti self-hosted e dimostra la falsificazione dei ruoli prima che lo faccia un attaccante (CVE-2026-61732).
Dimostra che il tuo stack di agenti è vulnerabile alla falsificazione dei ruoli — prima che lo faccia un attaccante.
Una sonda pronta all'uso che invia un corpus di letterali di token di controllo ChatML / Mistral / Llama al percorso del testo non attendibile del tuo stack di agenti self-hosted e segnala se il tokenizer o il server li trasformano in veri token di controllo — la primitiva alla base della falsificazione del system prompt tramite prompt injection.
Il 2026-09-24, CVE-2026-61732 (CVSS 10.0) ha dimostrato l'attacco che questo strumento rileva: le stesse parole iniettate, avvolte nei token di controllo ChatML, sono state eseguite dal modello — mentre la versione in inglese semplice veniva rifiutata. Le API ospitate rimuovono questi letterali, ma vLLM, SGLang e Ollama NON li rimuovono per impostazione predefinita — quindi qualsiasi stack self-hosted che concatena testo non attendibile nei prompt è falsificabile finché non si dimostri il contrario.
Fonte: Prompt Injection Your AI Guardrail Never Reads (AGTech Consulting, 2026-09-24).
pip install .
# --tokenizer mode additionally needs: pip install tokenizers
Richiede Python 3.10+. Solo libreria standard per --selftest e --server.
# 1. Demonstration: two built-in mock tokenizers
# (hardened stripper -> all PASS, naive passthrough -> all FORGEABLE)
chatml-role-token-probe probe --selftest
# 2. Probe a real Hugging Face tokenizer
chatml-role-token-probe probe --tokenizer meta-llama/Meta-Llama-3-8B-Instruct
# 3. Probe your running server's /tokenize endpoint
# (POST {"text": ...} -> JSON {"ids": [...]})
chatml-role-token-probe probe --server http://localhost:8000/tokenize
chatml-role-token-probe probe --server http://localhost:8000/tokenize \
--known-control-ids control-ids.json --json
Output di esempio:
Probed 11 control-token literals: 11 FORGEABLE, 0 PASS/INCONCLUSIVE.
[FORGEABLE] llama_bot_eot (llama3): marker '<|start_header_id|>' encodes to control token ids [128006] inside the literal.
...
Il codice di uscita è 1 quando qualcosa è FORGEABLE — inseriscilo nella CI per far fallire le build che regrediscono l'igiene dei token.
Per ogni letterale del corpus (ad es. <|im_start|>system) la sonda confronta:
| Confronto | Verdetto |
|---|---|
il letterale viene tokenizzato in modo identico al suo testo interno semplice (system) | PASS — marcatori rimossi/ignorati |
| gli id dei token isolati di un marcatore compaiono all'interno degli id del letterale | FORGEABLE — token di controllo reale |
| diverso dal testo semplice, ma nessuna corrispondenza confermata con un token di controllo | INCONCLUSIVE — revisione manuale |
Il corpus (src/roleprobe/corpus.json, 11 letterali) copre ChatML (<|im_start|>, <|im_end|>), Mistral ([INST], <<SYS>>), Llama 3 (<|begin_of_text|>, <|start_header_id|>, <|eot_id|>) e parole di ruolo nude (system:, assistant:).
--tokenizer testa solo il tokenizer, non il template di chat o la gestione del system-prompt del tuo stack di serving — un PASS qui non dimostra che il tuo endpoint distribuito sia sicuro; usa --server contro il percorso reale.--server richiede che il tuo endpoint esponga gli id dei token; se restituisce solo testo, questo strumento non può confermare lo stato del token di controllo (INCONCLUSIVE).tokenizers e il port Python di un framework — sonda esattamente lo stack che distribuisci.PYTHONPATH=src pytest -q
Parte della suite della piattaforma Ingenious AI — strumenti di sicurezza per l'era degli agenti AI:
MIT — vedi LICENSE.
Scopri gli strumenti più utilizzati dalla nostra community.
Nessun dato di popolarità ancora.