#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

# 증명 가능한 보안 언어 스테가노그래피 회전 범위 코딩을 통해 LLM 생성 텍스트에 비밀 메시지를 은닉하는 증명 가능한 보안 언어 스테가노그래피. 임베드, 추출, 왕복 검증 스크립트를 포함합니다.

C, C++ 및 Rust 프로젝트 9개에 걸쳐 실제로 취약점을 도입한 코드 변경 265건을 벤치마킹하며, 쌍을 이룬 리뷰 작업, Docker 샌드박스, 판정기, 평가 하네스를 제공합니다.

# 신경망을 위한 인증된 언러닝 논문 코드, ICML 2025

Google Tensor Cracks

자동화된 프레임워크로, 시뮬레이션된 추론 흔적과 반복적 프롬프트 정제를 통해 대형 추론 모델의 안전 추론을 하이재킹하여 효과적인 탈옥(jailbreak)을 생성합니다.

논문 "Random Embedding Perturbations를 통한 오픈 웨이트 LLM 탈옥"을 위한 코드, 응답 로그 및 레이블

이 저장소는 대규모 언어 모델(LLM)용 검색 증강 생성(RAG)에 대한 실용적 중독 공격 기법인 POISONCRAFT의 공식 구현을 제공합니다.

# Ghostsplice 저장소: 교차 채널 신뢰 분열 공격(Cross-Channel Trust Fragmentation Attack)에 대한 PoC

AI 에이전트를 위한 암호학적으로 서명된 위임 영수증. AI가 할 수 있는 것과 할 수 없는 것을 정확히 정의합니다 — 서명 가능, 검증 가능, 변조 방지.

OpenClaw 에이전트를 오염된 파일, 주입된 스킬, 오도하는 도구 메타데이터, 인코딩된 페이로드를 포함한 적대적 실행 컨텍스트에 대해 평가하는 보안 벤치마크입니다. 6개의 리스크 스위트에 걸친 42개의 리플레이 태스크와 공격 및 유틸리티 점수화를 포함합니다.

금융 도메인 특화 레드팀 벤치마크 평가 루브릭

VulTriage의 코드: LLM 기반 취약점 탐지를 위한 삼중 경로 컨텍스트 증강

Automated SBOM-to-VEX pipeline using a secure multi-agent AI system to analyze CVEs, reason about exploitability, and generate signed CycloneDX VEX…

LLM 출력과 AI 생성 콘텐츠가 사용자 또는 다운스트림 시스템에 도달하기 전에 데이터 유출 신호(EchoLeak, CVE-2025-32711)를 스캔합니다.

암호화된 트래픽 분류에 대한 실용적인 블랙박스 적대적 패킷 생성: 최소 오버헤드 및 완전한 패킷 복구 가능.

제한된 프로세스 흐름에서 Ollama를 사용하여 LLM을 오케스트레이션하는 작은 Go 하네스

# DeeCLIP: AI 생성 이미지 탐지를 위한 강력하고 일반화 가능한 트랜스포머 기반 프레임워크 논문 구현

음성 기반 탐정 심문 게임. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Mistral Worldwide Hackathon 2026용으로 제작됨.