#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

파인튜닝된 LLM 분류기에서 단일 KV-cache 비트를 뒤집고 클래스별 공격 성공률을 측정하는 그레이박스 트로이 목마 공격을 위한 연구 코드.

Apple Neural Engine(ANE)용으로 리버스 엔지니어링된 Linux 커널 드라이버와 사용자 공간 라이브러리로, Linux 시스템에서 하드웨어 접근과 분석을 가능하게 합니다.

SHAREM은 쉘코드 분석 프레임워크로, 45,000개 이상의 WinAPI와 사실상 모든 Windows 시스템 콜을 에뮬레이션할 수 있습니다. 또한 자체 맞춤형 디스어셈블러를 포함하고 있으며, 인코딩된 쉘코드의 디난독화된 디스어셈블리를 보여주거나 에뮬레이션 데이터를…

AgentField에서 실행되는 AI 네이티브 코드 보안 감사 도구로, 판정, 추적 기록, 조치 가능한 증거를 통해 악용 가능성을 입증합니다.

당신의 에이전트는 보안 위험이므로 그렇게 취급하세요. yoloAI는 AI 에이전트 샌드박싱을 제대로 구현합니다.

CVE-Factory

사이버 보안 운영에서의 AI를 위한 오픈 하네스 및 벤치마크

모바일 카메라 기반 애플리케이션으로, 인간에게는 유용성을 유지하면서 얼굴 인식 시스템에는 사용할 수 없도록 사진을 변형하려고 합니다.

ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)의 코드

[CVPR 2025-ADVML] `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks` 공식 저장소

LLM 프롬프트 인젝션, 데이터 유출, 탈옥(jailbreak), 안전하지 않은 에이전트/도구 취약점을 코드베이스에서 스캔하는 정적 분석 CLI입니다. 완전히 오프라인으로 실행되며, CI/CD와 통합되고, 콘솔, JSON, SARIF 보고서를 출력합니다.

AI가 비밀번호 공격을 무작위 열거에서 적응형 캠페인으로 전환하는 방식과 이를 막는 탐지 규칙 및 대응책을 다룹니다. 연구 및 방어 내용만 포함하며, 실제 동작하는 공격 코드는 없습니다.

CVE-2025-32434에 대한 개념 증명 익스플로잇으로, PyTorch의 weights_only 모드에서 pickle 역직렬화 취약점을 악용하여 악성 tar 파일 생성 및 실행을 시연합니다.

CVE(CVE-2025-54136) 중독, 프롬프트 인젝션을 통한 Claude Code/Copilot/Gemini 하이재킹, 인증 없이 노출된 수백 개의 MCP 서버를 방지하는 경량 MCP입니다. 이 MCP는 대부분의 MCP 서버가 실제로 실행되는 개별 개발자의…

통제형 에이전틱 AI 운영 체제 — Rust + Tauri 2.0 | 65 crates, 658 명령어, 84 페이지, 5,029 테스트, 10/10 OWASP

코딩 에이전트(Claude Code, Codex, Cursor, Copilot)에서 저장소가 코드를 실행할 수 있게 하는 요소를 검사하는 읽기 전용 스캐너: git 설정, 훅, 그리고 커밋된 MCP 서버 정의 및 에이전트 설정. SARIF 출력. 의존성 없음,…

OpenClaw 에이전트 플랫폼에서 요청 측 프롬프트 인젝션을 통한 원격 코드 실행을 입증하는 개념 증명으로, 무결성 검증 부재를 악용하여 MCP 도구를 통해 승인되지 않은 터미널 명령을 실행합니다.

AI 에이전트를 위한 copy-on-write 포킹을 통한 서브 밀리초 VM 샌드박스