shiva108/ai-llm-red-team-handbookПолевое руководство по Red Team для AI / LLM и справочник консультанта
Комплексный операционный набор инструментов для проведения AI/LLM red team оценок больших языковых моделей, AI-агентов, RAG-конвейеров и приложений на базе ИИ. Этот репозиторий предоставляет как тактические полевые руководства, так и стратегические консалтинговые фреймворки.
📖 Навигация по GitBook: См. SUMMARY.md с полной структурой глав.
Этот репозиторий представляет собой Gold Master релиз справочника AI LLM Red Team. Он содержит полностью стандартизированную учебную программу из 46 глав, охватывающую весь спектр безопасности ИИ — от инъекций в промпт и джейлбрейкинга до состязательного машинного обучения и атак на федеративное обучение.
scripts/)
ai-llm-red-team-handbook/
├── docs/ # The Handbook (Chapters 01-46)
│ ├── archive/ # Historical versions
│ ├── assets/ # Diagrams, charts, and visual aids
│ ├── field_manuals/ # Operational checklists and quick-refs
│ ├── templates/ # Report and SOW templates
│ └── SUMMARY.md # Master Table of Contents
├── scripts/ # Automated testing tools (Python)
├── workflows/ # CI/CD and automation workflows
├── .agent/ # Agentic memory and context
├── LICENSE # CC BY-SA 4.0 License
└── README.md # This file
Основной способ использования этого репозитория — в качестве справочника.
Для запуска предоставленных Python-скриптов сканирования и фаззинга:
Предварительные требования:
Настройка:
# Clone the repository
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook
# Install dependencies
cd scripts
pip install -r config/requirements.txt
Запуск тестов:
# Set up your environment variables (API Keys)
cp .env.example .env
nano .env
# Run the test runner
python examples/runner.py --target "gpt-4" --test "prompt_injection"
Этот справочник разделён на 8 стратегических частей. Все главы теперь завершены и проверены.
Мы приветствуем вклад, чтобы этот справочник оставался живым и развивающимся.
git checkout -b feature/new-jailbreak).docs/templates/.Только для авторизованного тестирования безопасности.
Методики и инструменты, описанные в этом репозитории, предназначены для образовательных целей и для использования авторизованными специалистами по безопасности для тестирования систем, которыми они владеют или на тестирование которых имеют явное разрешение.
Авторы и участники не несут ответственности за неправомерное использование этого материала.
Версия: 1.46.263