AI / LLM 레드팀 현장 매뉴얼 및 컨설턴트 핸드북

대규모 언어 모델(LLM), AI 에이전트, RAG 파이프라인, AI 지원 애플리케이션에 대한 AI/LLM 레드팀 평가를 수행하기 위한 종합적인 운영 도구 키트입니다. 이 저장소는 전술적 현장 가이드와 전략적 컨설팅 프레임워크를 모두 제공합니다.

📖 GitBook 탐색: 전체 장 구조는 SUMMARY.md를 참조하세요.

📚 개요

이 저장소는 AI LLM 레드팀 핸드북의 골드 마스터 릴리스를 나타냅니다. 프롬프트 인젝션 및 탈옥에서 적대적 머신러닝 및 연합 학습 공격에 이르기까지 AI 보안의 전체 스펙트럼을 다루는 완전히 표준화된 46개 장 커리큘럼을 포함합니다.

핵심 리소스

AI LLM 레드팀 핸드북 (46개 장, 완료)
- 표준화된 메타데이터, 초록, 탐색을 포함한 전문 컨설팅 가이드.
- 윤리, 아키텍처, RAG 보안, 에이전트 위협, 규정 준수(EU AI Act/ISO 42001)를 다룹니다.
AI LLM 레드팀 현장 매뉴얼
- 현장 사용을 위한 간결한 운영 참조 자료(체크리스트, 페이로드, 방법론).
Python 테스트 프레임워크 (scripts/)
- 프롬프트 인젝션, 퍼징, 안전성 검증을 위한 자동화된 제품군.

📁 저장소 구조

ai-llm-red-team-handbook/
├── docs/                                   # 핸드북 (01-46장)
│   ├── archive/                            # 이전 버전
│   ├── assets/                             # 다이어그램, 차트 및 시각 자료
│   ├── field_manuals/                      # 운영 체크리스트 및 빠른 참조
│   ├── templates/                          # 보고서 및 SOW 템플릿
│   └── SUMMARY.md                          # 마스터 목차
├── scripts/                                # 자동화된 테스트 도구 (Python)
├── workflows/                              # CI/CD 및 자동화 워크플로우
├── .agent/                                 # 에이전트 메모리 및 컨텍스트
├── LICENSE                                 # CC BY-SA 4.0 라이선스
└── README.md                               # 이 파일

🚀 설치 및 사용법

1. 수동 탐색 (핸드북)

이 저장소를 사용하는 기본 방법은 참조용입니다.

SUMMARY.md에서 시작하여 모든 장을 둘러보세요.
작업 중 빠른 참조를 위해 현장 매뉴얼을 확인하세요.

2. 자동화된 테스트 환경

제공된 Python 스캐닝 및 퍼징 스크립트를 실행하려면:

사전 요구사항:

Python 3.8+
대상 LLM에 대한 API 액세스 (OpenAI, Anthropic 또는 로컬 Ollama)

설정:

# Clone the repository
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook

# Install dependencies
cd scripts
pip install -r config/requirements.txt

테스트 실행:

# Set up your environment variables (API Keys)
cp .env.example .env
nano .env

# Run the test runner
python examples/runner.py --target "gpt-4" --test "prompt_injection"

📖 장 로드맵 (완료)

이 핸드북은 8개의 전략적 파트로 나뉘어 있습니다. 모든 장은 이제 완료되었으며 감사 완료되었습니다.

Part I: 전문 기초

01-04장: 소개, 윤리, 마인드셋, 참여 규칙.

Part II: 프로젝트 준비

05-08장: 위협 모델링, 범위 설정, 실험실 설정, 관리 체인.

Part III: 기술 기초

09-11장: LLM 아키텍처, 토큰, 플러그인/API.

Part IV: 파이프라인 보안

12-13장: RAG 파이프라인, 공급망 보안.

Part V: 공격 및 기법

14-24장: 프롬프트 인젝션, 데이터 유출, 탈옥, API 악용, 회피, 중독, 모델 도난, DoS, 멀티모달, 사회공학.

Part VI: 방어 및 완화

25-30장: 적대적 ML, 공급망 방어, 연합 학습, 프라이버시, 모델 역전, 백도어.

Part VII: 고급 운영

31-39장: 정찰, 공격 프레임워크, 자동화, 방어 회피, 사후 악용, 보고, 수정, 지속적 레드팀, 버그 바운티.

Part VIII: 고급 주제

40-46장: 규정 준수 (EU AI Act), 업계 모범 사례, 사례 연구, 레드팀의 미래, 새로운 위협, 프로그램 구축, 결론.

🤝 기여하기

기여를 환영합니다.

저장소를 포크하세요.
기능 브랜치를 생성하세요 (git checkout -b feature/new-jailbreak).
변경 사항에 대한 명확한 설명과 함께 Pull Request를 제출하세요.
모든 새 콘텐츠는 docs/templates/의 장 템플릿을 따르도록 해주세요.

⚠️ 면책 조항

인가된 보안 테스트 전용입니다.

이 저장소에 설명된 기술과 도구는 교육 목적으로 제공되며, 인가된 보안 전문가가 자신이 소유하거나 테스트할 명시적 허가를 받은 시스템을 테스트하기 위해 사용됩니다.

서비스 약관을 준수하지 않고 공용 LLM(예: ChatGPT, Claude)에 이러한 도구를 사용하지 마십시오.
악의적인 목적으로 이러한 기술을 사용하지 마십시오.

저자와 기여자는 이 자료의 오용에 대해 책임을 지지 않습니다.

📬 연락처

이슈: GitHub Issues
라이선스: CC BY-SA 4.0

버전: 1.46.263

ai-llm-red-team-handbook

인기