#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

C로 작성된 AI 챗박스 모의해킹 도구: 채팅 인터페이스에 언어 기반(SQLi/NoSQL/XSS/SSTI) 및 프롬프트 인젝션 페이로드를 발사하고, 실제로 먹히는 페이로드를 표시합니다
Sentinel — DeanWay Labs의 인바운드 거버너. AI 에이전트가 듣는 것을 보호합니다: 세상의 콘텐츠는 데이터일 뿐, 명령이 아닙니다. QuietOS의 거울입니다.

Rust로 작성된 안전한 영구 개인 비서 서버입니다. 단일 바이너리, 샌드박스 실행, 다중 제공자 LLM, 음성, 메모리, Telegram, WhatsApp, Discord, Teams 및 MCP 도구를 지원합니다. 설계상 안전하며 사용자 하드웨어에서 실행됩니다.

웹, API, LLM 애플리케이션 보안을 위한 로컬 우선 AI 레드팀. 공격자 스타일 추론, 증거 기반 발견, AI 코딩 에이전트를 위한 스킬.

DugganUSA의 IETF Hackathon 기여 위협 인텔리전스: 실제 환경의 에이전트 공격 벤치마크 벡터, CVE-2026-33697 증명 분석, MCP 검증.

LLM을 위한 자율 레드티밍 엔진. RedThread는 보안 수명주기 전체를 관리합니다: 적대적 공격 생성, 정밀 평가 실행, 안전한 자기 개선을 위한 검증된 가드레일 합성.

CVE-2026-57845에 대한 개념 증명 및 패치: Hugging Face datasets의 pandas 빌더에서 발생하는 pickle 역직렬화 RCE로, 재현 스크립트와 완화 지침을 포함합니다.

복잡한 침투 테스트 작업을 수행할 수 있는 완전 자율 AI 에이전트 시스템

코딩 에이전트의 컨텍스트 압축에 관한 보안 연구: 신뢰할 수 없는 콘텐츠에 위조된 역할 레이블이 요약 과정을 거쳐 어떻게 살아남아 실행되는지를 측정, 데모, 수정 방안과 함께 보여줍니다.

에이전트가 생성한 추론이 지속적인 메모리를 통해 인식론적 지위를 바꾸고 운영 권한을 획득하며 이후의 의사결정에 영향을 미칠 수 있는 방식을 다루는 감사 중심의 위험 모델입니다.

차세대 LLM 기반 JavaScript 식별자 복구.

웹, Android, iOS 프로젝트 전반에서 소스 코드 감사, 이슈 트리아지, 취약점 탐지를 위한 예시 AI 에이전트 작업 흐름 및 MCP 서버.

내장 MCP 도구, AI 지원 분석, 개인정보 보호 제어, 수동 및 능동 스캔 등을 추가하는 Burp Suite 확장 기능

Kubernetes를 위한 eBPF 기반 네트워크 관측성. 전체 K8s 컨텍스트로 L4/L7 트래픽을 인덱싱하고, 키 없이 TLS를 복호화합니다. MCP를 통해 AI 에이전트가, 대시보드를 통해 사용자가 조회할 수 있습니다.

스킬 증강 에이전트에서 스킬로 유도된 악성 공격을 탐지하고 차단하는 런타임 가드 스킬로, 롤아웃 피드백을 통해 가드 정책을 진화시키는 MCTS 루프를 갖추고 있습니다.

Bytebot의 최적화된 포크: 데스크톱 제어를 위한 AI 에이전트. 7GB에서 1.09GB로 축소되었고, CVE-2026-78250이 패치되었으며, 살아있는 문서(Obsidian)와 Human-in-the-loop 작업 프로토콜을 갖추고 있습니다.

AI 지원 위협 모델링을 위한 OWASP 프로젝트로, 팀이 시스템 설계에서 보안 위협과 완화책을 식별, 분석, 문서화하도록 지원합니다.

LLM을 대상으로 한 탈옥 공격 성공률(ASR 및 단계별 ASR)을 측정하기 위한 연구 코드로, GCG와 같은 공격의 구현 및 평가 스크립트를 포함합니다.