#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

멀티모달 LLM을 대상으로 시각적 맥락 탈옥(jailbreak)을 구현하는 연구 파이프라인: T2I 프롬프트 추출, SD3.5 이미지 렌더링, 다중 라운드 스푸핑 맥락 구성, GPT-4o가 판정하는 ASR 평가.
2026년 레드 팀 작전을 위한 명령 및 제어 프레임워크를 엄선한 카탈로그로, 임플란트, 리스너, 페이로드, 회피 기능에 대한 도구별 분석을 제공합니다.

학습된 사이버 방어 벤치마크를 감사하기 위한 재현 하네스, 패치 및 분석 도구: 에이전트 트레이스를 캡처하고, 레드 에이전트 제거 실험을 실행하며, 공개된 데이터로부터 모든 논문 그림을 재계산합니다.

Benchmark harness that evaluates LLM agent tool-calling security under long-horizon tasks, generating prompt-injection and tool-poisoning attacks and…

A post exploitation framework / C2 for advanced Red Team operations

Local test range for agent memory poisoning - watch a planted memory steer an agent, then prove the repair. Synthetic targets, scripted deterministic…

CVE-2026-47644에 대한 개념 증명 및 전체 분석 문서: 첨부 파일 태그 이탈을 통한 Edge Copilot 프롬프트 인젝션으로, 렌더링된 이메일 이미지를 통해 탭 간 데이터 유출로 이어짐.

LLM 에이전트의 지속 메모리 오염(persistent-memory poisoning)을 위한 결정론적 벤치마크 및 평가 하네스로, 정상/오염 사례를 쌍으로 구성하고 LangChain/LlamaIndex 러너와 방어 기법을 제공합니다.

"7개의 대규모 언어 모델 전반에 걸친 적대적 탈옥 공격 및 방어의 체계적 평가"를 위한 코드

그래프 신경망에서 단일 블랙박스 프로토콜 아래 모델 추출 공격과 소유권 방어(워터마킹, 출력 교란, 쿼리 탐지)를 평가하기 위한 벤치마크 및 라이브러리입니다.

프롬프트를 넘어서: 시뮬레이션된 검열 흔적을 통한 함수 호출 LLM의 탈옥

결합된 목적 함수와 EMA 기반 가중치 드리프트 가드를 통해 치명적 과적합을 방지하는 빠른 적대적 학습 방법의 PyTorch 참조 구현으로, AutoAttack 평가를 포함합니다.

언어 모델의 백도어를 탐지하고 제거하기 위한 연구 프레임워크로, BERT, BART, LLaMA, Qwen 전반에 걸쳐 특징 기반 이상 탐지와 LoRA 기반 언러닝을 결합한다.

삽입할 때마다 불투명한 키를 사용하는 가역적 HTML 및 JavaScript 프롬프트 미끼입니다.

QAI 2026 논문에서 시뮬레이션에서 IBM 양자 하드웨어로의 FGSM 공격 전이성에 관한 코드와 결과입니다.

RAG 포이즈닝 방어를 위한 경량 평가 하네스로, 네 가지 조건의 정상/포이즈닝 레코드를 생성하고 방지된 타깃, 순 감소량, 정상 측 부작용, 감사 패킷을 보고합니다.

AI 리버스 엔지니어링 에이전트로부터 바이너리, Electron ASAR, JS, WASM, Python 및 모델 파일을 디코이 메타데이터, 예산 소진 및 런타임 동등 방어막을 사용하여 강화합니다.

MITRE ATT&CK를 위한 SQLite 관계형 데이터 모델과 Red Canary ATOMIC 테스트 및 APT3 에뮬레이션 계획으로 강화된 적대자 에뮬레이션 계획 도구.