#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

Claude Code, Codex 및 Cursor용 무료 보안 기준 규칙: MCP 도구 설명을 신뢰할 수 없는 입력으로 취급합니다(OWASP MCP Top 10 MCP03, CVE-2025-54136).
CVE-2026-44246을 재현하는 도구로, nnU-Net의 GitHub Actions 트라이지(triage) 에이전트에서 발생하는 프롬프트 인젝션 취약점을 보여주며, 이슈 콘텐츠가 AI 프롬프트에 인라인되는 방식을 시연합니다.

AI 에이전트에 대해 서명되고 범위가 지정된 자격 증명으로 최소 권한 위임을 적용합니다. 하위 에이전트에 좁은 기능과 리소스를 부여하고, 실행 전에 작업을 검증하며, 권한 상승을 방지합니다.

코드 diff를 컨텍스트와 함께 스캔하여 영향 그래프를 구축하고 LLM을 사용해 취약점을 찾아내며, 다중 저장소 스캔과 SARIF 출력을 통한 CI 게이팅을 지원합니다.

공개 데이터로 실시간 지식 그래프를 구축하는 AI 기반 OSINT 및 보안 연구 에이전트로, 승인된 조사를 위한 정찰 도구와 공격 보안 플레이북이 함께 제공됩니다.

자율적 공격형 LLM 에이전트를 위한 결정론적 하네스 및 핸드북으로, 인가, 범위, 증거 게이트를 강제하여 재현 가능하고 정직한 침투 테스트를 보장합니다.

AI 보안 기초, 위협 모델링, 레드팀 공격 기법, 블루팀 방어를 다루는 구조화된 지식 베이스로, LLM 보안, 적대적 ML, 딥페이크 대응 조치를 포함합니다.

컴퓨터 사용 에이전트의 안전 위험을 평가하기 위한 벤치마크로, 7가지 악성 범주에 걸친 104개의 현실적인 오용 시나리오를 포함하며, 터미널 접근 및 토큰 비용 추적을 지원합니다.


PGM-인덱스에 대한 포이즈닝 공격 연구 코드로, 학습된 인덱스 성능을 저하시키기 위해 적대적 데이터를 구성하는 방법을 시연합니다.

All-source 인텔리전스 융합 대시보드 — WiFi, 셀룰러, CCTV, ADS-B, 궤도 및 SDR 피드를 단일 전술 지도로 통합. 보안 연구 전용.

MCP 서버에서 LLM 에이전트를 레드팀 공격하기 위한 궤적 인식 진화 검색 프레임워크로, 위험 범주 전반에 걸쳐 취약점 지형을 매핑하기 위한 적대적 프롬프트를 생성합니다.

오픈소스 기반의 로컬 우선(local-first) 보안 테스트 플랫폼으로, 침투 테스터, AI 에이전트, CI/CD 파이프라인 및 팀을 위해 설계되었습니다.

방어 프레임워크로, 라우팅된 출처 정책을 강제하여 도구를 사용하는 LLM 에이전트의 간접 프롬프트 주입을 방지합니다. 결정적 출처 검사와 공격 성공률 및 유틸리티 유지율을 평가하기 위한 벤치마크 하네스를 포함합니다.

블랙박스 공격 프레임워크로, 에이전트 기반 검색 증강 생성(RAG) 시스템에서 추론을 탈취하기 위해 오염된 문서를 주입하며, 여러 공격 방법과 데이터셋을 지원합니다.

검색 증강 언어 모델에 대한 중독 공격의 연구 구현으로, 위장된 문서를 사용하여 필터링 방어를 우회하고 잘못된 답변을 유도합니다.

AI 에이전트의 안전성을 스킬 관련 컨텍스트에 내장된 공격에 대해 평가하기 위한 벤치마크로, 6개 위험 영역에 걸친 155개 사례를 통해 작업 성공률과 공격 저항성을 측정합니다.

자동화된 AI 기반 Facebook 인텔리전스 도구로, 대상 프로파일링, 네트워크 분석 및 위협 보고를 수행합니다. Ollama를 통해 전적으로 온디바이스에서 실행됩니다. 라이트 버전을 사용하려는 분은 아래 링크를 확인하세요.