#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

rep+ — 요청을 설명하고 공격을 제안하는 내장 AI를 갖춘 Chrome DevTools용 Burp 스타일 HTTP Repeater

머신러닝을 위한 Metasploit.

AI를 활용한 호스트 익스플로잇 자동화

AI 에이전트 작업을 샌드박싱하는 보안 런타임. 격리된 WebAssembly 환경에서 신뢰할 수 없는 코드를 실행합니다.

OWASP 보안 에이전트 플레이북 프로젝트

오픈소스 크로스 모달 및 멀티모달 프롬프트 인젝션 테스트 스위트. 텍스트, 이미지, 문서, 오디오 모달리티 전반에 걸친 250,000개 이상의 공격 페이로드. OWASP LLM Top 10, CrossInject (ACM MM 2025), FigStep (AAAI…

AI 에이전트를 위한 오픈소스 보안 게이트웨이 및 정적 스캐너입니다. 역할 기반 접근 제어(RBAC), 인간-인-더-루프 승인, 직무 분리, 암호학적으로 서명된 오프라인 검증 가능 감사 로그를 적용합니다.

Supabase를 위한 오픈소스 보안 감사 도구: 읽기 전용 MCP 서버, CLI 에이전트, Claude Skill. RLS 오구성, 노출된 키, 위험한 함수를 찾아내고 수정 SQL이 포함된 점수화된 보고서를 반환합니다. 호스팅 버전: Locksoup.

제한된 프로세스 흐름에서 Ollama를 사용하여 LLM을 오케스트레이션하는 작은 Go 하네스

제로트러스트 샌드박스로, AI 에이전트를 위해 커널 수준 파일시스템 감옥, 투명 네트워크 프록시, YAML 기반 정책 엔진을 통해 쉘 명령어, 파일 작업, 네트워크 요청을 차단 및 제어합니다.

AI 기반의 반응형 웹사이트 방어 시스템으로, 공격을 탐지하고 분석한 후 LLM 에이전트를 사용하여 실시간으로 소스 코드를 자체 패치합니다.

VulnAgent-X: 저장소 수준의 취약점 탐지를 위한 계층적 에이전트 기반 프레임워크

CVE-2026-49042(Apache Camel camel-langchain4j-tools)용 PoC 재현 코드: 프롬프트 주입된 LLM의 도구 호출 인자가 필터링되지 않은 Exchange 헤더가 되어 도구 라우트의 exec: 싱크를 가로채 RCE를 유발합니다.…

Serverless Framework MCP 서버 (CVE-2025-69256) 기본 점수: 9.4/10 → CTT 강화 점수: 9.9/10 Serverless Framework의 MCP(Model Context Protocol) 서버에서 발견된 심각한 명령 주입…

"7개의 대규모 언어 모델 전반에 걸친 적대적 탈옥 공격 및 방어의 체계적 평가"를 위한 코드

언어 모델의 백도어를 탐지하고 제거하기 위한 연구 프레임워크로, BERT, BART, LLaMA, Qwen 전반에 걸쳐 특징 기반 이상 탐지와 LoRA 기반 언러닝을 결합한다.

그래프 신경망에서 단일 블랙박스 프로토콜 아래 모델 추출 공격과 소유권 방어(워터마킹, 출력 교란, 쿼리 탐지)를 평가하기 위한 벤치마크 및 라이브러리입니다.