#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

해킹 / 침투 테스트 리소스 모음집으로 여러분을 더 능숙하게 만들어 줍니다!

A search-first, profile-aware reverse-engineering workspace for AI agents — 735 tools across 36 domains in one MCP server.

도전 과제 기반 해커톤 모음으로, 학생 가이드, 코치 가이드, 강의 프레젠테이션, 샘플/교육용 코드 및 템플릿이 포함되어 있습니다. What The Hack 웹사이트(https://aka.ms/wth)를 방문해 주세요.

AI harness for long-running code audits, web pentests, and bug bounty hunting, built around how real investigations fail: anchored hypotheses, false…

LLM 에이전트 도구 출력에 대한 프롬프트 인젝션 탐지기 재평가 (논문 초안, 스크립트, 점수)

애플리케이션에 통합된 LLM을 대상으로 한 간접 프롬프트 인젝션 공격에 관한 개념 증명 데모 및 연구로, 데이터 유출, 원격 제어, 지속성, 코드 완성 중독을 다룹니다.

Autonomous AI pentesting engine, continuous offensive security across web, cloud, AD & Kubernetes. Agentic reasoning + real exploit execution deliver…

CoSAI 워크스트림 4, 에이전틱 시스템을 위한 보안 디자인 패턴 저장소

공식 빌드 및 검증된 릴리스 | 모든 발견 사항을 입증하는 오픈소스 AI 침투 테스터. 머신 오라클이 각 익스플로잇을 다시 실행하며, 검증된 버그는 직접 재현할 수 있는 증명 캡슐과 함께 제공됩니다.

LLM 기반 에이전트 집단 어그로 공격 프레임워크로, 적응형 다중 역할 전략을 사용하여 블랙박스 협업 필터링 추천 순위를 조작하면서 탐지를 회피합니다.

오프라인 및 보안 우선 방식으로 에이전트 스킬을 동기화하고 관리하기 위한 도구

에이전트형 LLM에서 히든 스테이트 프로빙을 통해 잠재적인 간접 프롬프트 인젝션 노출 신호를 탐지하기 위한 연구 파이프라인으로, 트레이스 수집, 레이블링, 피처화, 프로브 학습을 포함합니다.

나만의 상시 작동 AI 어시스턴트: 자체 호스팅, 오픈 소스, 경량. 각 에이전트는 선택한 하네스(Claude Code, Codex, Cursor, OpenCode)에서 내 머신의 자체 컨테이너에서 실행됩니다. Slack, WhatsApp, Telegram,…

LLM을 위한 자율 레드티밍 엔진. RedThread는 보안 수명주기 전체를 관리합니다: 적대적 공격 생성, 정밀 평가 실행, 안전한 자기 개선을 위한 검증된 가드레일 합성.

비전-언어 웹 에이전트에 대한 적대적 이미지 공격: 시각적 그라운딩부터 브라우저 실행까지

블랙박스 LLM 추출 공격, 방어 및 적응형 공격을 위한 수명 주기 벤치마크입니다.

LLM 기반 에이전트로, 구성 가능한 도구 사용과 최첨단 AI 모델을 통해 GitHub 이슈를 자동으로 수정하고, 사이버 보안 취약점을 찾으며, CTF 챌린지를 해결합니다.

A collection of awesome resources related AI security