#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

GPU 타임스탬프 쿼리 차이를 측정하여 교차 출처 iframe의 픽셀 값을 유출하는 WebGPU 타이밍 사이드 채널인 CVE-2026-2828을 시연하는 브라우저 PoC.

코드 리뷰 봇의 프롬프트 인젝션으로, 해당 봇은 샌드박스에서 AI가 생성한 수정 사항을 실행합니다. 샌드박스는 위험한 명령을 차단하기 위해 블랙리스트를 사용하지만, 폴리글랏 페이로드가 필터를 우회하여 원격 코드 실행에 성공합니다.

Windows 아카이버의 Mark of the Web(MOTW) 전파 지원을 비교하여, 팀이 어떤 도구가 MOTW를 보존하는지 평가하고 매크로 기반 악성코드 전달을 완화할 수 있도록 지원합니다.

고급 CVE-2023-44487 HTTP/2 Rapid Reset 취약점 악용 프레임워크. 다중 연결 동시 공격, 적응형 속도 제어, 무작위 헤더를 사용한 스텔스 모드, 실시간 메트릭 및 위험 평가 보고 기능을 갖추고 있습니다. 승인된 침투 테스트 전용입니다.…

CVE-2026-54121(Certighost) AD CS DC-impersonation PoC. 패치된 SAN 처리 + MAQ-safe 계정 재사용.

LLM이 정서적 맥락 침식(ACE) 및 관련 리미널 공격 벡터에 대한 취약성을 측정하기 위한 진단 프레임워크입니다. **Delirium**은 익스플로잇 도구가 아닙니다. 시스템 프롬프트를 따르는 것에서 새롭게 출현하는 대인 관계 패턴을 따르는 것으로 언어 모델의…

오픈소스 크로스 모달 및 멀티모달 프롬프트 인젝션 테스트 스위트. 텍스트, 이미지, 문서, 오디오 모달리티 전반에 걸친 250,000개 이상의 공격 페이로드. OWASP LLM Top 10, CrossInject (ACM MM 2025), FigStep (AAAI…

Project Mantis: AI 해커에게 역공격하기; LLM 기반 사이버 공격에 대한 방어 수단으로서의 프롬프트 인젝션

2단계 프롬프트 인젝션 및 제일브레이크 탐지기: 정규식 게이트와 양자화된 DeBERTa-v3 ONNX 분류기를 결합, 이미지, 문서, 오디오 지원. Bordair/bordair-multimodal 데이터로 훈련되었으며, 실제 레드팀 게임의 공격을 대상으로 테스트됨.

Gemini의 SynthID 탐지 리버스 엔지니어링

LLM 가드레일을 위한 정렬 연구 스캐폴드(자동 연구 스타일): 단일 policy.md 표면에 대한 검색

웹 에이전트를 위한 프롬프트 인젝션 탐지 벤치마킹.

Kali365 - EvilTokens Replica

중심성 기반 허브성(hubness)을 통해 벡터 데이터베이스 인덱스를 오염시키는 블랙홀 공격(Black-Hole Attack)의 연구 구현으로, FAISS 파이프라인과 탐지/완화 방어 평가를 포함한다.

블랙박스 공격 프레임워크로, 에이전트 기반 검색 증강 생성(RAG) 시스템에서 추론을 탈취하기 위해 오염된 문서를 주입하며, 여러 공격 방법과 데이터셋을 지원합니다.

언어 모델을 위한 완전 자동 검열 제거

Claude, Gemini, ChatGPT의 메모리 기능을 통한 지속적 프롬프트 인젝션 연구로, 재현 단계, 데이터셋, 그리고 프라이버시·무결성·가용성 공격에 대한 증명을 포함합니다.