#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

오디오 워터마킹이 안티-스푸핑에 미치는 영향을 평가하기 위한 연구 코드 및 데이터셋(WSD)으로, wav2vec2 XLS-R과 지식 보존 학습을 사용합니다.
AI 채팅 프롬프트에서 제한되고 검열된 콘텐츠를 우회하세요 😈

3D 패시브 얼굴 활성 탐지(안티-스푸핑) & 딥페이크 탐지. 단일 이미지만으로 활성 점수를 계산합니다. 당사 데이터셋에서 99,67% 정확도, 여러 공개 데이터셋(NUAA, CASIA FASD, MSU...)에서 완벽한 점수를 기록했습니다.

딥러닝 시스템용 프라이버시 테스트 라이브러리로, 멤버십 추론, 모델 추출, 모델 반전 공격에 대한 취약성 평가와 프라이버시 보호 기법 평가를 지원합니다.

웹 애플리케이션 보안을 자율적으로 평가하고, 도구 기반 실행을 조율하며 익스플로잇을 엔드투엔드로 검증하는 멀티 에이전트 LLM 시스템입니다.

CVE-2024-3660에 대한 PoC. Keras의 임의 코드 실행.

Claude AI의 고심각도 프롬프트 인젝션 결함은 가장 똑똑한 언어 모델조차도 단 몇 줄의 코드로 무기로 변할 수 있음을 증명합니다.

언어 모델의 백도어를 탐지하고 제거하기 위한 연구 프레임워크로, BERT, BART, LLaMA, Qwen 전반에 걸쳐 특징 기반 이상 탐지와 LoRA 기반 언러닝을 결합한다.

NVIDIA AI 컨테이너 런타임을 대상으로 하는 CVE-2025-23266(NVIDIAScape)용 개념 증명 익스플로잇입니다. GPU 드라이버 취약점을 통한 컨테이너 탈출을 시연합니다.

서브도메인 열거, 포트 스캔, 취약점 스캔, 그리고 침투 테스트 워크플로우를 위한 AI 기반 탐색을 통합한 자동화된 웹 도메인 정찰 및 보안 평가 도구입니다.

애플리케이션에 통합된 LLM을 대상으로 한 간접 프롬프트 인젝션 공격에 관한 개념 증명 데모 및 연구로, 데이터 유출, 원격 제어, 지속성, 코드 완성 중독을 다룹니다.

탈옥, 프롬프트 유출, 프롬프트 인젝션, LLM 공격. 대규모 언어 모델 공격 프롬프트 모음

본 연구는 Python pickle 역직렬화 취약점을 분석하며, Hugging Face Transformers의 TFAutoModel에서 발견된 CVE-2024-3568에 초점을 맞춥니다. 우리는 해당 익스플로잇을 재현하여 근본 원인, 공격 벡터 및 위험을 검토합니다.

자율적 LLM 기반 웹 에이전트를 제어하기 위한 간접 프롬프트 인젝션 공격의 연구 데모로, 트리거 최적화 및 평가 도구를 포함합니다.

Microsoft 365 Copilot의 치명적인 제로 클릭 AI 명령 주입 취약점인 CVE-2025-32711(EchoLeak)용 PowerShell 기반 탐지 및 수정 툴킷. 이메일 패턴, 감사 로그 및 보안 구성을 스캔하여 프롬프트 주입 공격을 식별하고…

Burp Suite 확장 기능으로, AI가 생성한 정규식 strike 규칙을 사용해 IDOR 및 접근 제어 결함을 탐지한 뒤 프록시 기록을 스캔하여 유사한 문제를 대규모로 찾아냅니다.

프롬프트 인젝션, 탈옥 공격, 유해 콘텐츠로부터 AI 서비스와 상호작용할 때 보호 기능을 제공하는 서비스입니다.

Langflow AI 원격 코드 실행 (비인증) 익스플로잇