#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

코딩 에이전트의 컨텍스트 압축에 관한 보안 연구: 신뢰할 수 없는 콘텐츠에 위조된 역할 레이블이 요약 과정을 거쳐 어떻게 살아남아 실행되는지를 측정, 데모, 수정 방안과 함께 보여줍니다.

LLM(대규모 언어 모델) 애플리케이션을 위한 OWASP Top 10

키워드, 정규식, 의미 유사도, LLM 평가 규칙을 결합하여 탈옥(jailbreak) 및 LLM 남용을 탐지하는 YARA에서 영감을 받은 프롬프트 패턴 매칭 엔진입니다.

GitLab Duo DevSecOps 루프로, 두 번째 AI가 AI가 작성한 모든 수정 사항을 다시 공격하고, 성공한 각 우회를 CI와 프로덕션에서 재생되는 영구 항체로 저장합니다.

중심성 기반 허브성(hubness)을 통해 벡터 데이터베이스 인덱스를 오염시키는 블랙홀 공격(Black-Hole Attack)의 연구 구현으로, FAISS 파이프라인과 탐지/완화 방어 평가를 포함한다.

당신이 요청하지 않아도 실행되는 코드를 찾습니다: 폴더를 열 때 실행되는 저장소 파일(VS Code 작업, 에이전트 훅, MCP, devcontainers)과 Python .pth/.start 시작 파일입니다.

decomp.wtf 포크: Windows PE 매칭, MinGW/clang-cl 툴체인, 그리고 선택적 REA MCP 브리지

[🎖️ HAIPS @COLM'26 우수상] LLM 에이전트가 부여받은 권한 범위에 얼마나 잘 부합하여 행동하는지 평가하는 최초의 벤치마크입니다.

AI 지원 위협 모델링을 위한 OWASP 프로젝트로, 팀이 시스템 설계에서 보안 위협과 완화책을 식별, 분석, 문서화하도록 지원합니다.

Instant, Concurrent, Secure & Lightweight Sandbox for AI Agents.

AI 지원 취약점 탐지 및 교정 플랫폼으로, Go 엔드포인트 에이전트, 중앙 집중식 대시보드, 취약점 인텔리전스 엔진을 갖추고 있습니다.

계획→실행→판정 루프, 범용 스킬, 파괴적 행위 게이트, 교체 가능한 LLM 제공자를 갖춘 독립형 자율 AI 침투 테스트 에이전트이며, 데모용 취약 API 타깃도 포함합니다.

C 재구현을 위한 결정론적 PyGhidra 추출, 트리아지 및 로컬 LLM 컴파일러 백엔드 파이프라인.

Local CVE triage engine aggregating 25 sources (NVD, EPSS, CISA KEV, OSV, Shodan) into 0-100 risk scores, with CLI, REST API, MCP server and…

링-0 Windows 드라이버와 Linux eBPF 사전 실행 차단, YARA 탐지, MITRE ATT&CK 매핑, P2P 메시 위협 공유를 결합한 자율 Rust 엔드포인트 보안 에이전트.

Linux 권한 상승 열거 도구로, 익스플로잇 가능성을 확인하고 정확한 root 셸 명령을 제공합니다 - GTFOBins를 검색할 필요가 없습니다. MCP 서버 + AI 에이전트 스킬 포함.

AI 기반 모듈형 Active Directory 레드팀 프레임워크로, 승인된 침투 테스트, AD 열거, 공격 경로 분석, Kerberos/ADCS 워크플로, 보고, 운영자 자동화, MCP 서버 통합을 지원합니다.

PostgreSQL 데이터베이스와 Jira 이슈에서 정규식, NER/ML, 선택적 자체 호스팅 LLM 탐지를 사용하여 PII를 스캔하며, 마스킹된 보고서와 감사 로깅을 제공합니다.