#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

# 세 가지 Claude Code 취약점(훅 우회, MCP 주입, API 키 탈취)에 대한 교육용 데모로, 공격자 서버, MITM 프록시, 공급망 보안 학습을 위한 탐지 스캐너를 포함합니다.

Burp Suite 확장 기능으로, 인공지능을 통한 수동적 취약점 탐지를 통합합니다.

웹 에이전트를 위한 프롬프트 인젝션 탐지 벤치마킹.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: AI 텍스트를 적대적으로 의역하여 탐지기 견고성을 스트레스 테스트하는 RL 프레임워크.

AI 기반의 자동 위협 분석 파이프라인으로, 파일, URL, IP, 도메인 또는 이미지를 전문 보안 분석 도구로 라우팅하고 통합된 YARA 및 Sigma 규칙을 사용하여 전문적인 PWNDoc 보고서를 생성합니다.

TorchServe 인스턴스가 CVE-2023-43654에 취약한지 확인하는 도구

MCP는 빠르게 채택되고 있습니다. 보안 지침은 뒤처져 있습니다. 이 체크리스트는 보안 엔지니어, 플랫폼 팀, 기술 리더에게 내부 도구든 고객 대상 AI 에이전트든 MCP 배포를 보호하기 위한 명확하고 실행 가능한 기준선을 제공합니다.

AI 채팅에서 PII와 민감한 데이터를 탐지하고, 전송 전에 플레이스홀더로 마스킹하며, 답변에서 원본을 복원하는 브라우저 확장 프로그램—모두 로컬에서 처리됩니다.

현대 AI 시대의 보안: 악성 AI 에이전트 및 악의적인 npm 패키지로부터 방어

Noisegate: 신뢰할 수 없는 LLM 에이전트가 MCP(Model Context Protocol)를 통해 민감한 데이터를 쿼리할 수 있게 해주는 차등 프라이버시 게이트웨이로, 에이전트가 적대적이더라도 개인의 기록이 유출될 수 없다는 형식적 보장을 제공합니다.…

머신러닝 알고리즘을 적대적 공격과 편향으로부터 감사하는 프레임워크로, 교육 도구와 학술 논문을 제공하여 사이버보안 전문가를 위한 ML 보안 지식 격차를 해소합니다.

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

적대적 AI 에이전트에 대한 비대칭 방어. VeilGate는 각 수신 요청을 평가하고, 의심되는 에이전트를 IP별 일관된 허니팟 환경으로 리디렉션하며, 공격자에게 부과된 계산 비용을 정량화합니다.

ChromaDB 및 Claude Code용 MCP를 이용한 OWASP Web Security Testing Guide RAG 시스템

LLM 기반 위험을 줄이기 위해 정적 분석, 구성 감사, 런타임 모니터링 및 공급망 검증을 제공하는 자율 에이전트를 위한 모듈식 보안 툴킷입니다.

LLM 앱을 위한 설명 가능한 보안 게이트 — 프롬프트 인젝션을 차단하며 모든 결정에 대한 감사 가능한 사유를 제공합니다.

코딩 에이전트의 컨텍스트 압축에 관한 보안 연구: 신뢰할 수 없는 콘텐츠에 위조된 역할 레이블이 요약 과정을 거쳐 어떻게 살아남아 실행되는지를 측정, 데모, 수정 방안과 함께 보여줍니다.