Ressources principales

1. Guide Red Team IA LLM (46 chapitres, terminé)
   • Guide de conseil professionnel avec métadonnées, résumés et navigation standardisés. Couvre l'éthique, les architectures, la sécurité RAG, les menaces agentiques et la conformité (EU AI Act/ISO 42001).
2. Manuel de terrain Red Team IA LLM
   • Référence opérationnelle compacte pour usage terrain (listes de contrôle, charges utiles, méthodologie).
3. Framework de test Python (scripts/)
   • Suites automatisées pour l'injection de prompts, le fuzzing et la validation de sécurité.

📁 Structure du dépôt

🚀 Installation et utilisation

1. Exploration manuelle (Le Guide)

La principale façon d'utiliser ce dépôt est comme référence.

• Commencez par SUMMARY.md pour parcourir tous les chapitres.
• Consultez le Manuel de terrain pour des recherches rapides lors d'une mission.

2. Environnement de test automatisé

Pour exécuter les scripts de scan et de fuzzing Python fournis :

Prérequis :

• Python 3.8+
• Accès API à un LLM cible (OpenAI, Anthropic, ou Ollama local)

Configuration :

Exécution des tests :

📖 Feuille de route des chapitres (Terminé)

Ce guide est divisé en 8 parties stratégiques. Tous les chapitres sont désormais terminés et audités.

Partie I : Fondations professionnelles

• Ch 01-04 : Introduction, Éthique, État d'esprit, Règles d'engagement.

Partie II : Préparation du projet

• Ch 05-08 : Modélisation des menaces, Cadrage, Configuration du lab, Chaîne de responsabilité.

Partie III : Fondamentaux techniques

• Ch 09-11 : Architectures LLM, Tokens, Plugins/API.

Partie IV : Sécurité des pipelines

• Ch 12-13 : Pipelines RAG, Sécurité de la chaîne d'approvisionnement.

Partie V : Attaques et techniques

• Ch 14-24 : Injection de prompts, Fuite de données, Jailbreaking, Exploitation d'API, Contournement, Empoisonnement, Vol de modèle, Déni de service, Multimodal, Ingénierie sociale.

Partie VI : Défense et atténuation

• Ch 25-30 : ML adverse, Défense de la chaîne d'approvisionnement, Apprentissage fédéré, Confidentialité, Inversion de modèle, Portes dérobées.

Partie VII : Opérations avancées

• Ch 31-39 : Reconnaissance, Cadres d'attaque, Automatisation, Contournement de défense, Post-exploitation, Rapports, Remédiation, Red Teaming continu, Programmes de bug bounty.

Partie VIII : Sujets avancés

• Ch 40-46 : Conformité (EU AI Act), Meilleures pratiques sectorielles, Études de cas, Avenir du Red Teaming, Menaces émergentes, Construction de programme, Conclusion.

🤝 Contribuer

Nous accueillons les contributions pour que ce guide reste vivant et évolutif.

1. Fork le dépôt.
2. Créez une branche de fonctionnalité (git checkout -b feature/new-jailbreak).
3. Soumettez une Pull Request avec une description claire du changement.
4. Veuillez vous assurer que tout nouveau contenu suit le Modèle de chapitre dans docs/templates/.

⚠️ Avertissement

Pour les tests de sécurité autorisés uniquement.

Les techniques et outils décrits dans ce dépôt sont à des fins éducatives et destinés à être utilisés par des professionnels de la sécurité autorisés pour tester des systèmes qu'ils possèdent ou pour lesquels ils ont une autorisation explicite de test.

• N'utilisez pas ces outils sur des LLMs publics (par ex. ChatGPT, Claude) sans respecter leurs conditions d'utilisation.
• N'utilisez pas ces techniques à des fins malveillantes.

Les auteurs et contributeurs déclinent toute responsabilité en cas d'utilisation abusive de ce matériel.

📬 Contact

• Issues : GitHub Issues
• Licence : CC BY-SA 4.0

Version : 1.46.263