#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

LLM 출력과 AI 생성 콘텐츠가 사용자 또는 다운스트림 시스템에 도달하기 전에 데이터 유출 신호(EchoLeak, CVE-2025-32711)를 스캔합니다.
오디오 워터마킹이 안티-스푸핑에 미치는 영향을 평가하기 위한 연구 코드 및 데이터셋(WSD)으로, wav2vec2 XLS-R과 지식 보존 학습을 사용합니다.

이 저장소는 대규모 언어 모델(LLM)용 검색 증강 생성(RAG)에 대한 실용적 중독 공격 기법인 POISONCRAFT의 공식 구현을 제공합니다.

LLM 생성 텍스트에 감지 가능한 신호를 삽입하면서 품질을 유지하는 최적 커플링 기반 무왜곡 텍스트 워터마킹 구현.

여러 대규모 언어 모델을 사용하는 소프트웨어 취약점 탐지 및 수리용 앙상블 프레임워크로, 정밀도-재현율 트레이드오프를 위한 합의 분석 및 평가 도구를 포함합니다.

[CVPR 2025-ADVML] `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks` 공식 저장소

자동화된 프레임워크로, 시뮬레이션된 추론 흔적과 반복적 프롬프트 정제를 통해 대형 추론 모델의 안전 추론을 하이재킹하여 효과적인 탈옥(jailbreak)을 생성합니다.

"Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models"의 코드 구현


[ICCV 2025] 허가되지 않은 개인 이미지 생성을 위한 변조 방지 보호

LLM에 대한 백도어 공격 및 방어 방법을 구현한 연구 코드로, IBSD, SLIP, BeDKD 및 BadApex 알고리즘을 포함합니다.

# DeeCLIP: AI 생성 이미지 탐지를 위한 강력하고 일반화 가능한 트랜스포머 기반 프레임워크 논문 구현

AI 에이전트를 위한 보안 프록시. 모든 메시지에서 프롬프트 인젝션, 개인정보(PII), 시크릿을 스캔합니다. 심층 방어: Go 프록시 + iptables 방화벽 + eBPF 커널 모니터. YAML 정책 엔진, 감사 로깅, RAG 지식 베이스를 갖춘 5개의 AI…

ISSTA 2026 논문의 공식 코드: "악성임을 아는 것"으로 충분한가? 정밀한 악성코드 행동 감사를 위한 LLM 평가

PISmith: 프롬프트 주입 방어를 위한 강화 학습 기반 레드 팀

# MCP 공격 체인을 위한 센티널 탐지 랩: CVE-2026-26118 SSRF 토큰 탈취, 도구 오염, 서버 간 데이터 유출, 신원 사후 침투. OWASP Agentic Top 10에 매핑됨. 분석 규칙 5개, 헌팅 쿼리 7개, 워크북 포함.…

'검열 조종하기: LLM "사고" 제어를 위한 표현 벡터 발견'

CVPR2023: 학습 불가능한 클러스터: 레이블 비의존적 학습 불가능 예제를 향하여