#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

Curated collection of LLM jailbreak prompts and bypass techniques, documenting adversarial inputs that circumvent AI model safety guardrails.

🐢 LLM 에이전트용 오픈소스 평가 및 테스트 라이브러리

2026년 레드 팀 작전을 위한 명령 및 제어 프레임워크를 엄선한 카탈로그로, 임플란트, 리스너, 페이로드, 회피 기능에 대한 도구별 분석을 제공합니다.

AI 보안 관련 멋진 리소스 모음

Open-source AI security platform providing perimeter defense for LLMs and AI agents through swarm analysis, policy enforcement, adversarial testing,…

Local test range for agent memory poisoning - watch a planted memory steer an agent, then prove the repair. Synthetic targets, scripted deterministic…

LLM 에이전트의 지속 메모리 오염(persistent-memory poisoning)을 위한 결정론적 벤치마크 및 평가 하네스로, 정상/오염 사례를 쌍으로 구성하고 LangChain/LlamaIndex 러너와 방어 기법을 제공합니다.

LLM 에이전트 워크플로우를 위한 보안 스캐너

# Hands-on AI 보안 실습 플랫폼 프롬프트 인젝션, 에이전트 시스템 악용, 모델 조작, MCP 신뢰 경계 공격 등 50개 이상의 시나리오를 제공하는 실습형 AI 보안 랩 플랫폼입니다. Ollama + FastAPI + React를 사용하여 안전한 공격/방어…

LLM 보안을 평가하고 개선하기 위한 도구 모음입니다.

표 형식, 시계열, 그래프, 텍스트, 이미지, 오디오 데이터에 걸친 이상 탐지를 위한 Python 라이브러리입니다. 60개 이상의 탐지기, 벤치마크 기반의 ADEngine 오케스트레이션, 그리고 AI 에이전트를 위한 에이전틱 워크플로우를 제공합니다.

This repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…

AI Security Verification Standard (AISVS)는 개발자, 아키텍트, 보안 전문가가 AI 기반 애플리케이션의 보안을 검증할 수 있도록 구조화된 체크리스트를 제공하는 데 중점을 둡니다.

학습된 사이버 방어 벤치마크를 감사하기 위한 재현 하네스, 패치 및 분석 도구: 에이전트 트레이스를 캡처하고, 레드 에이전트 제거 실험을 실행하며, 공개된 데이터로부터 모든 논문 그림을 재계산합니다.

적대적 머신러닝 보안을 위한 Python 라이브러리로, 레드 팀과 블루 팀이 주요 ML 프레임워크 전반에서 회피, 중독, 추출, 추론 공격 및 방어를 실행할 수 있게 해줍니다.

토큰 하나하나, 타협되다: 통합 자기회귀 모델의 백도어 취약점 (NeurIPS'26)

"7개의 대규모 언어 모델 전반에 걸친 적대적 탈옥 공격 및 방어의 체계적 평가"를 위한 코드

스파이킹 신경망에 대한 rate, latency, jitter 트리거를 사용한 시간적 트리거 백도어 공격인 T-Backdoor를 구현한 연구 코드로, 공간적 교란 없이 동작한다.