#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

ENDGAME C2 FRAMEWORK — AI-powered command and control for professional red team operations
논문 "적응형 정책 셰이핑을 통한 자율 사이버 방어 에이전트의 정렬"을 위해 업데이트된 CybORG CAGE 2 환경

딥러닝 시스템용 프라이버시 테스트 라이브러리로, 멤버십 추론, 모델 추출, 모델 반전 공격에 대한 취약성 평가와 프라이버시 보호 기법 평가를 지원합니다.

책임감 있게 공개된 취약점에 대한 실제 AI/ML 익스플로잇 모음

에빙하우스 망각 곡선 감쇠를 적용한 에이전틱 AI 기억. LoCoMo에서 Mem0보다 16pp 더 나은 회상 성능.

강화 학습과 생성적 적대 신경망을 이용한 악성코드 변이

LLM 에이전트 기반의 concolic 실행 엔진으로, 소스 코드를 계측하고, 경로 제약 조건을 자연어로 요약하며, 모든 프로그래밍 언어에서 분기 커버리지를 최대화하는 테스트 케이스를 생성합니다.

NOVA - 프롬프트 인젝션 공격에 대응하는 Claude Code 보호 시스템

OWASP 표준을 따르는 의도적 취약 플랫폼으로, AI, LLM, RAG, MCP 및 에이전트형 AI 보안을 학습하고 테스트하기 위한 것

AIO 클라우드 관리 서버

Pre-install security for AI agents, npm packages, and MCP servers. Zero-dep local static analysis; normal scans never execute package code.

중심성 기반 허브성(hubness)을 통해 벡터 데이터베이스 인덱스를 오염시키는 블랙홀 공격(Black-Hole Attack)의 연구 구현으로, FAISS 파이프라인과 탐지/완화 방어 평가를 포함한다.

Claude Code 환경에서 CVE-2026-21852 사전 신뢰 실행, 훅 하이재킹, eBPF 잠금을 감사하는 보안 스캐너.

AI 스마트 계약 보안 분석 및 PoC 생성 프레임워크

AI 에이전트를 위한 실행 전 의도 검증. AI가 말하는 것이 아니라 앞으로 수행할 작업을 감사합니다. 의존성 제로, 결정론적, 해시 봉인.

오디오 워터마킹이 안티-스푸핑에 미치는 영향을 평가하기 위한 연구 코드 및 데이터셋(WSD)으로, wav2vec2 XLS-R과 지식 보존 학습을 사용합니다.

Azure 로그를 수집하고 LLM 추론을 사용하여 의심스러운 활동을 탐지하고, 위험을 평가하며, CLI 명령어가 포함된 복구 플레이북을 생성하는 자동화된 위협 헌팅 파이프라인입니다.

결합된 목적 함수와 EMA 기반 가중치 드리프트 가드를 통해 치명적 과적합을 방지하는 빠른 적대적 학습 방법의 PyTorch 참조 구현으로, AutoAttack 평가를 포함합니다.