#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

AI 생성 앱(Lovable, v0, Bolt, Cursor)을 위한 출시 전 보안 체크리스트. Supabase RLS, 노출된 키, 프롬프트 인젝션을 다루는 69개 항목. CVE-2025-48757(170개 앱)과 Moltbook 유출(150만 개 API 토큰)의…

AI 에이전트를 실시간으로 모니터링, 관리 및 감사하는 통합 대시보드입니다. 예산을 강제하고, 정책 위반을 탐지하며, SOC 2 및 ISO 42001에 대한 규정 준수 보고서를 내보냅니다.

휴리스틱, LLM 기반 분석, vectorDB 공격 시그니처, 카나리 토큰 누출 탐지를 활용하는 AI 애플리케이션용 다중 계층 프롬프트 인젝션 탐지기.

리눅스(Parrot OS)에서 로컬 LLM을 사용하는 AI 기반 침투 테스트 도우미

A curated knowledge base to build, run and mature a SOC (including CSIRT).

AI Security Verification Standard (AISVS)는 개발자, 아키텍트, 보안 전문가가 AI 기반 애플리케이션의 보안을 검증할 수 있도록 구조화된 체크리스트를 제공하는 데 중점을 둡니다.

현대적인 사이버 레인지로, 웹, API, 클라우드, AI 및 블루팀 보안 트랙에 걸친 50개의 실습형 챌린지를 제공합니다. 안내된 공격 체인, 투명한 AI 시뮬레이터 및 침투 테스트와 방어 기술 학습을 위한 GRC 증거 보고 기능을 특징으로 합니다.

오버레이 네트워크 프로토콜로, AI 에이전트에 영구 주소, 인증된 암호화 터널, UDP 기반 신뢰 모델을 제공합니다. NAT 트래버설, 피어투피어 메시징, Node.js, Python 및 Swift용 SDK를 포함합니다.

C, C++ 및 Rust 프로젝트 9개에 걸쳐 실제로 취약점을 도입한 코드 변경 265건을 벤치마킹하며, 쌍을 이룬 리뷰 작업, Docker 샌드박스, 판정기, 평가 하네스를 제공합니다.

AI 지원 취약점 탐지 및 교정 플랫폼으로, Go 엔드포인트 에이전트, 중앙 집중식 대시보드, 취약점 인텔리전스 엔진을 갖추고 있습니다.

Rust로 작성된 안전한 영구 개인 비서 서버입니다. 단일 바이너리, 샌드박스 실행, 다중 제공자 LLM, 음성, 메모리, Telegram, WhatsApp, Discord, Teams 및 MCP 도구를 지원합니다. 설계상 안전하며 사용자 하드웨어에서 실행됩니다.

텍스트용 SynthID 리버스 엔지니어링

MCP 기반 LLM 에이전트가 CTF 챌린지를 자율적으로 해결하기 위한 연구 산출물로, ablation 데이터, 분석 스크립트, 6개 서버로 구성된 MCP 스택을 포함합니다.

Claude, Gemini, ChatGPT의 메모리 기능을 통한 지속적 프롬프트 인젝션 연구로, 재현 단계, 데이터셋, 그리고 프라이버시·무결성·가용성 공격에 대한 증명을 포함합니다.

CVE-2026-53075 조사에 사용된 출처 인식형 Linux 커널 취약점 연구 하네스

모바일 온디바이스 AI 시스템을 위한 공격 및 방어 연구의 엄선된 읽기 목록 및 분류 체계로, 적대적 공격, 백도어 공격, 모델 도난 공격, 에너지-지연 공격을 비롯해 난독화, TEE, 워터마킹 방어를 다룹니다.

패치되지 않은 llama.cpp 취약점(CVE-2026-43626 ~ CVE-2026-43632)에 대한 보안 패치 — Cyera Research

EmailXpose는 피싱, 스팸, 사기, 악성코드 및 사회공학 공격을 탐지하는 오픈소스 AI 기반 이메일 보안 시스템입니다. 자연어 처리, 행동 분석, 멀티모달 인텔리전스를 결합하여 텍스트, 이미지, 비디오 콘텐츠를 분석함으로써 기존 이메일 필터의 한계를…