#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

컴퓨터 사용 AI 에이전트를 다단계 간접 프롬프트 인젝션에 대해 평가하는 벤치마킹 프레임워크로, 자동 적대적 목표 분해와 AWS 샌드박스 테스트 환경을 제공합니다.

일부러 취약하게 설계된 머신러닝 모델로, 실습 중심 보안 교육을 위해 제작되었습니다. 안전한 랩 환경에서 일반적인 ML 취약점, 적대적 공격, 방어 기법을 탐구할 수 있습니다.

JSON으로 정의된 공격 경로를 위치 독립적인 셸코드 페이로드로 컴파일하여 고급 탐지 및 AI 기반 조사 에이전트를 검증하는 플레이북 기반 적대자 시뮬레이션 프레임워크입니다.

LLM에 대한 백도어 공격 및 방어 방법을 구현한 연구 코드로, IBSD, SLIP, BeDKD 및 BadApex 알고리즘을 포함합니다.

멀티모달 LLM을 대상으로 시각적 맥락 탈옥(jailbreak)을 구현하는 연구 파이프라인: T2I 프롬프트 추출, SD3.5 이미지 렌더링, 다중 라운드 스푸핑 맥락 구성, GPT-4o가 판정하는 ASR 평가.

# 퍼플 팀 훈련 프레임워크

NimicStack은 합법적인 프로그램을 모방하기 위한 Call Stack Spoofing 기법의 순수 Nim 구현입니다.

Windows Defender Killer | 레지스트리 기반 비활성화 + BYOVD 프로세스 종료 (C++)

인과적 맥락 귀속과 규칙 기반 모니터를 활용한 LLM 에이전트의 간접 프롬프트 인젝션 방어로, AgentDyn 및 기타 벤치마크에서 최첨단 성능을 달성합니다.

MCP 서버에서 LLM 에이전트를 레드팀 공격하기 위한 궤적 인식 진화 검색 프레임워크로, 위험 범주 전반에 걸쳐 취약점 지형을 매핑하기 위한 적대적 프롬프트를 생성합니다.

생성형 AI를 위한 Python 위험 식별 도구(PyRIT)는 보안 전문가와 엔지니어가 생성형 AI 시스템의 위험을 사전에 식별할 수 있도록 지원하기 위해 구축된 오픈 소스 프레임워크입니다.

AGLS

CEREBRO-RED v2: 고급 LLM 레드팀 연구 플랫폼 (PAIR 알고리즘 및 LLM-as-a-Judge 평가 포함)

오픈소스 프롬프트 인젝션 공격 콘솔. 분류된 공격을 모든 엔드포인트에 발사하여 AI 보안을 테스트하세요.

AI 보안 기초, 위협 모델링, 레드팀 공격 기법, 블루팀 방어를 다루는 구조화된 지식 베이스로, LLM 보안, 적대적 ML, 딥페이크 대응 조치를 포함합니다.

GraphRAG 파이프라인에서 LLM과 함께 구조적 보조 인덱싱 취약점을 노출하는 Hop-Decayed Influence(HDI)와 3S 공격 프레임워크의 연구 구현.

LLM에 대한 아키텍처 인식 적대적 공격을 사용하여 파인튜닝 기반 프롬프트 인젝션 방어(SecAlign, SecAlign++, StruQ)를 깨기 위한 공격 프레임워크.