#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

AI 에이전트에 대해 서명되고 범위가 지정된 자격 증명으로 최소 권한 위임을 적용합니다. 하위 에이전트에 좁은 기능과 리소스를 부여하고, 실행 전에 작업을 검증하며, 권한 상승을 방지합니다.
CVE-2026-73678 — MindsDB Minds Platform에서 scratchpad exec를 통한 비인증 RCE (CVSS 10.0). 실제 LLM으로 엔드투엔드 검증 완료.

ChatGPT를 활용한 AWS 고객 관리 정책 취약점 스캐너

Flow Integrity Deterministic Enforcement System. AI 에이전트를 정보 흐름 제어로 보호하기 위한 메커니즘.

에이전트를 위한 샌드박스

AI 런타임 인벤토리: 섀도우 AI 발견, LLM 호출 추적

2026년 6월 1일 Meta의 AI 지원 어시스턴트에서 추출된 시스템 프롬프트

100% Free & Open Source • Privacy-First Security Scanning and AI Code Review CLI

NVIDIA AI 컨테이너 런타임을 대상으로 하는 CVE-2025-23266(NVIDIAScape)용 개념 증명 익스플로잇입니다. GPU 드라이버 취약점을 통한 컨테이너 탈출을 시연합니다.

이 오픈소스 프로젝트는 엔터프라이즈 수준의 AI-SPM을 구현하는 데 전념합니다. 이를 통해 조직은 AI 시스템을 위협으로부터 사전에 보호하고, 데이터 노출을 최소화하며, AI 애플리케이션(에이전트, MPC 서버, 모델 등)의 신뢰성을 유지할 수 있습니다.

일부러 취약하게 설계된 머신러닝 모델로, 실습 중심 보안 교육을 위해 제작되었습니다. 안전한 랩 환경에서 일반적인 ML 취약점, 적대적 공격, 방어 기법을 탐구할 수 있습니다.

AI 기반 분석, 윤리적 준수 프레임워크 및 전문 보고 기능을 갖춘 고급 SQL 인젝션 스캐너

코드 보안 취약점 탐지에서 LLM 일반화 상한선을 문서화한 연구 저장소로, SQL 인젝션, 경로 탐색, 접근 제어 결함에 대해 합성 데이터셋과 실세계 데이터셋(Juliet, OWASP, CVEfixes, VUDENC)을 교차 평가합니다.

에이전트 스킬을 위한 보안 표준으로, 클라우드 및 API 환경에서 AI 기반 자율 에이전트를 보호하기 위한 가이드라인과 모범 사례를 제공합니다.

ServiceNow Virtual Agent 취약점(CVE-2025-12420)에 대한 연구 및 분석, 공격 흐름, MITRE ATT&CK 매핑, 탐지 전략 및 완화 권장 사항 포함.

프롬프트 인젝션, 탈옥 공격, 유해 콘텐츠로부터 AI 서비스와 상호작용할 때 보호 기능을 제공하는 서비스입니다.

MLflow REST API를 통해 등록된 모델을 오염시켜, 모델이 로드될 때 RCE를 트리거하는 악성 pickle을 삽입하는 개념 증명(Proof-of-concept).

OWASP 프로젝트로, AI 보안 분석을 위해 AI/ML 구성 요소, 종속성 및 공급망 위험을 문서화하는 AI 자재 명세서(AIBOM) 표준을 정의합니다.