Skip to content
KitploitKITPLOIT
도구익스플로잇블로그
Log in
제출
도구익스플로잇블로그
제출

해킹, 침투 테스트 및 사이버 보안 도구를 당신의 보안 무기고에!

Kitploit은 해킹, 사이버 보안 및 침투 테스트 도구 디렉토리입니다. 최신 프로젝트 업데이트를 발견하여 취약점을 찾고, 시스템을 분석하고, 테스트를 자동화하고, 보안을 강화하세요.

피드문의개인정보© 2026 Kitploit

도구 디렉토리

카테고리

모든 카테고리 보기
Loading categories
chatml-role-token-probe — 자체 호스팅 에이전트 스택에 ChatML/Mistral/Llama 제어 토큰 리터럴을 발사하여 공격자가 하기 전에 역할 위조를 입증하세요 (CVE-2026-61732). | Kitploit
도구/GitHubGitHub/iceman2050/chatml-role-token-probe
Defensive ToolsVulnerability ScannersVulnerability AnalysisPenetration TestingDevSecOpsAI Security
GitHubiceman2050/chatml-role-token-probe

chatml-role-token-probe

자체 호스팅 에이전트 스택에 ChatML/Mistral/Llama 제어 토큰 리터럴을 발사하여 공격자가 하기 전에 역할 위조를 입증하세요 (CVE-2026-61732).

공유
저장소 보기웹사이트
11개월 전아직 검토되지 않음

chatml-role-token-probe

공격자가 하기 전에, 당신의 에이전트 스택이 역할 위조(role-forgery)에 취약한지 입증하세요.

자체 호스팅 에이전트 스택의 신뢰할 수 없는 텍스트 경로에 ChatML / Mistral / Llama 제어 토큰 리터럴 코퍼스를 발사하고, 토크나이저나 서버가 이를 실제 제어 토큰으로 변환하는지 보고하는 즉시 사용 가능한 프로브입니다. 이는 프롬프트 인젝션을 통한 시스템 프롬프트 위조의 근간이 되는 원시 요소입니다.

존재 이유 (뉴스 훅)

2026-09-24에 **CVE-2026-61732 (CVSS 10.0)**는 이 도구가 탐지하는 공격을 입증했습니다. ChatML 제어 토큰으로 감싼 동일한 주입 단어가 모델에 의해 실행된 반면, 일반 영어 버전은 거부되었습니다. 호스팅 API는 이러한 리터럴을 제거하지만, vLLM, SGLang, Ollama는 기본적으로 이를 제거하지 않습니다 — 따라서 신뢰할 수 없는 텍스트를 프롬프트에 연결하는 모든 자체 호스팅 스택은 반증될 때까지 위조 가능합니다.

출처: Prompt Injection Your AI Guardrail Never Reads (AGTech Consulting, 2026-09-24).

설치

pip install .
# --tokenizer mode additionally needs: pip install tokenizers

Python 3.10 이상이 필요합니다. --selftest 및 --server에는 표준 라이브러리만 사용합니다.

사용법

# 1. Demonstration: two built-in mock tokenizers
#    (hardened stripper -> all PASS, naive passthrough -> all FORGEABLE)
chatml-role-token-probe probe --selftest

# 2. Probe a real Hugging Face tokenizer
chatml-role-token-probe probe --tokenizer meta-llama/Meta-Llama-3-8B-Instruct

# 3. Probe your running server's /tokenize endpoint
#    (POST {"text": ...} -> JSON {"ids": [...]})
chatml-role-token-probe probe --server http://localhost:8000/tokenize
chatml-role-token-probe probe --server http://localhost:8000/tokenize \
    --known-control-ids control-ids.json --json

예시 출력:

Probed 11 control-token literals: 11 FORGEABLE, 0 PASS/INCONCLUSIVE.
  [FORGEABLE] llama_bot_eot (llama3): marker '<|start_header_id|>' encodes to control token ids [128006] inside the literal.
  ...

Exit code는 무언가 FORGEABLE일 때 1입니다 — CI에 넣으면 토큰 위생이 퇴행하는 빌드를 실패시킬 수 있습니다.

판정 방식

각 코퍼스 리터럴(예: <|im_start|>system)에 대해 프로브는 다음을 비교합니다:

비교판정
리터럴이 순수 내부 텍스트(system)와 동일하게 토큰화됨PASS — 마커가 제거/무시됨
마커의 격리된 토큰 id가 리터럴의 id 안에 나타남FORGEABLE — 실제 제어 토큰
순수 텍스트와 다르지만 확인된 제어 토큰 일치가 없음INCONCLUSIVE — 수동 검토 필요

코퍼스(src/roleprobe/corpus.json, 11개 리터럴)는 ChatML(<|im_start|>, <|im_end|>), Mistral([INST], <<SYS>>), Llama 3(<|begin_of_text|>, <|start_header_id|>, <|eot_id|>), 그리고 맨 역할 단어(system:, assistant:)를 포함합니다.

범위 관련 참고 (솔직하게)

  • --tokenizer는 토크나이저만 테스트하며, 서빙 스택의 채팅 템플릿이나 시스템 프롬프트 처리는 테스트하지 않습니다 — 여기서의 PASS는 배포된 엔드포인트가 안전하다는 것을 증명하지 않습니다; 실제 경로에 대해서는 --server를 사용하세요.
  • --server는 엔드포인트가 토큰 id를 노출해야 합니다; 텍스트만 반환한다면 이 도구는 제어 토큰 상태를 확인할 수 없습니다(INCONCLUSIVE).
  • 토크나이저 동작은 tokenizers Rust 포트와 프레임워크의 Python 포트 간에 다를 수 있습니다 — 실제로 배포하는 정확한 스택을 프로브하세요.

테스트

PYTHONPATH=src pytest -q

Ingenious AI 제작

AI 에이전트 시대를 위한 보안 도구 모음인 Ingenious AI 플랫폼 제품군의 일부입니다:

  • DisclosureGuard
  • ModelMinder
  • TermsWatch
  • Vibe-Code Audit
  • Rogue-Agent Defense
  • BreachHunter
  • ChatBreaker
  • Agent Flight Recorder
  • Agent Auth Gateway
  • DomainGuard
  • ContentCraft AI

라이선스

MIT — LICENSE를 참조하세요.

도구 다운로드

인기

모두 보기 →

커뮤니티에서 가장 많이 사용되는 도구를 찾아보세요.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 궁극의 OSINT 툴킷: 조사 그래프, 신뢰도 점수 산정, 별칭 패밀리, 지도, 타임라인 및 보고서. 49개 모듈, 400개 이상 사이트, API 키 불필요.

    755
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # GhostLock 원탭 실행 앱 (CVE-2026-43499)

    510
  • 3

    ARTEX

    baarai/artex

    LLM 멀티 에이전트 자율 침투 테스트 플랫폼으로, 플래너/워커 에이전트, 자산 및 탐색 그래프, MITM 트래픽 기록, 취약점 재테스트 기능을 제공합니다.

    415
  • 4

    redforge

    cybersecurity91/redforge

    브라우저 측 레드 팀 툴킷으로, 정찰, 페이로드 생성, 자격 증명 공격, 암호화, 인코딩 및 참여 보고를 위한 102개의 오프라인 도구를 제공합니다.

    343
  • 5

    antifox

    antifox-ai/antifox

    정찰, 공격 표면 탐색, 익스플로잇 검증, 증거 기반 보고서 전달을 수행하는 AI 멀티 에이전트 자율 침투 테스트 플랫폼입니다.

    259
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AI 네이티브 사이버보안을 위한 행동 체계—의도가 통제된 실행이 되고, 증거가 운영 메모리가 되며, 모든 운영이 다음 운영을 개선하는 곳.

    258

모든 도구 탐색

도구 컬렉션을 둘러보세요

모든 도구 보기 →