Manual de Campo y Manual del Consultor para Equipos Rojos de IA/LLM

Un completo kit de herramientas operativas para realizar evaluaciones de equipos rojos de IA/LLM en modelos de lenguaje grandes, agentes de IA, pipelines RAG y aplicaciones habilitadas para IA. Este repositorio proporciona tanto orientación táctica de campo como marcos estratégicos de consultoría.

📖 Navegación por GitBook: Consulta SUMMARY.md para la estructura completa de capítulos.

📚 Resumen

Este repositorio representa el lanzamiento Gold Master del Manual del Equipo Rojo de IA/LLM. Contiene un plan de estudios completamente estandarizado de 46 capítulos que abarca todo el espectro de la seguridad de la IA, desde inyección de instrucciones y jailbreaking hasta aprendizaje automático adversarial y ataques de aprendizaje federado.

Recursos Principales

1. Manual del Equipo Rojo de IA/LLM (46 Capítulos, Completado)
   • Guía profesional de consultoría con metadatos estandarizados, resúmenes y navegación.
   • Cubre Ética, Arquitecturas, Seguridad RAG, Amenazas de Agentes y Cumplimiento (EU AI Act/ISO 42001).
2. Manual de Campo del Equipo Rojo de IA/LLM
   • Referencia operativa compacta para uso en campo (listas de verificación, payloads, metodología).
3. Framework de Pruebas en Python (scripts/)
   • Suites automatizadas para inyección de instrucciones, fuzzing y validación de seguridad.

📁 Estructura del Repositorio

ai-llm-red-team-handbook/
├── docs/                                   # El Manual (Capítulos 01-46)
│   ├── archive/                            # Versiones históricas
│   ├── assets/                             # Diagramas, gráficos y ayudas visuales
│   ├── field_manuals/                      # Listas de verificación operativas y referencias rápidas
│   ├── templates/                          # Plantillas de informes y SOW
│   └── SUMMARY.md                          # Tabla de contenidos maestra
├── scripts/                                # Herramientas de pruebas automatizadas (Python)
├── workflows/                              # Flujos de trabajo CI/CD y automatización
├── .agent/                                 # Memoria y contexto de agente
├── LICENSE                                 # Licencia CC BY-SA 4.0
└── README.md                               # Este archivo

🚀 Instalación y Uso

1. Exploración Manual (El Manual)

La forma principal de usar este repositorio es como referencia.

• Comienza en SUMMARY.md para explorar todos los capítulos.
• Consulta el Manual de Campo para búsquedas rápidas durante un compromiso.

2. Entorno de Pruebas Automatizadas

Para ejecutar los scripts de escaneo y fuzzing de Python proporcionados:

Requisitos previos:

• Python 3.8+
• Acceso a la API de un LLM objetivo (OpenAI, Anthropic u Ollama local)

Configuración:

# Clonar el repositorio
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook

# Instalar dependencias
cd scripts
pip install -r config/requirements.txt

Ejecutar Pruebas:

# Configurar las variables de entorno (Claves API)
cp .env.example .env
nano .env

# Ejecutar el ejecutor de pruebas
python examples/runner.py --target "gpt-4" --test "prompt_injection"

📖 Hoja de Ruta de Capítulos (Completado)

Este manual está dividido en 8 partes estratégicas. Todos los capítulos están ahora completos y auditados.

Parte I: Fundamentos Profesionales

• Ch 01-04: Introducción, Ética, Mentalidad, Reglas de Compromiso.

Parte II: Preparación del Proyecto

• Ch 05-08: Modelado de Amenazas, Alcance, Configuración de Laboratorio, Cadena de Custodia.

Parte III: Fundamentos Técnicos

• Ch 09-11: Arquitecturas de LLM, Tokens, Plugins/APIs.

Parte IV: Seguridad de Pipelines

• Ch 12-13: Pipelines RAG, Seguridad de la Cadena de Suministro.

Parte V: Ataques y Técnicas

• Ch 14-24: Inyección de Prompts, Fuga de Datos, Jailbreaking, Explotación de API, Evasión, Envenenamiento, Robo de Modelo, DoS, Multimodal, Ingeniería Social.

Parte VI: Defensa y Mitigación

• Ch 25-30: ML Adversarial, Defensa de Cadena de Suministro, Aprendizaje Federado, Privacidad, Inversión de Modelo, Backdoors.

Parte VII: Operaciones Avanzadas

• Ch 31-39: Reconocimiento, Frameworks de Ataque, Automatización, Evasión de Defensas, Post-Explotación, Reportes, Remediación, Equipos Rojos Continuos, Bug Bounties.

Parte VIII: Temas Avanzados

• Ch 40-46: Cumplimiento (EU AI Act), Mejores Prácticas de la Industria, Casos de Estudio, Futuro del Red Teaming, Amenazas Emergentes, Construcción de Programas, Conclusión.

🤝 Contribuciones

Damos la bienvenida a contribuciones para mantener este manual vivo y en constante evolución.

1. Haz un Fork del repositorio.
2. Crea una rama de funcionalidad (git checkout -b feature/new-jailbreak).
3. Envía un Pull Request con una descripción clara del cambio.
4. Asegúrate de que todo el contenido nuevo siga la Plantilla de Capítulo en docs/templates/.

⚠️ Aviso Legal

Solo para Pruebas de Seguridad Autorizadas.

Las técnicas y herramientas descritas en este repositorio tienen fines educativos y para uso de profesionales de seguridad autorizados que prueben sistemas que poseen o tienen permiso explícito para probar.

• No uses estas herramientas en LLM públicos (por ejemplo, ChatGPT, Claude) sin cumplir con sus Términos de Servicio.
• No uses estas técnicas con fines maliciosos.

Los autores y colaboradores no aceptan ninguna responsabilidad por el uso indebido de este material.

📬 Contacto

• Issues: GitHub Issues
• Licencia: CC BY-SA 4.0

Versión: 1.46.263