owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 pour les applications de grands modèles de langage (Faisant partie du projet GenAI Security)
Bienvenue sur le dépôt officiel du OWASP Top 10 pour les applications de grands modèles de langage !
Ce dépôt contient le OWASP Top 10 pour les applications de grands modèles de langage, qui fait désormais partie du projet complet OWASP GenAI Security Project. Le OWASP GenAI Security Project est une initiative mondiale open source dédiée à l'identification, l'atténuation et la documentation des risques de sécurité et de sûreté associés aux technologies d'IA générative.
Visitez notre site principal du projet : genai.owasp.org
Le OWASP Top 10 pour les applications de grands modèles de langage est un document de sensibilisation standard destiné aux développeurs et aux spécialistes de la sécurité des applications web. Il représente un large consensus sur les risques de sécurité les plus critiques pour les applications de grands modèles de langage (LLM). Il existe d'autres cadres en cours, à la fois au sein et en dehors d'OWASP, qui ne doivent pas être confondus avec ce projet, lequel est actuellement limité à la sécurité des applications LLM.
Notre public principal est constitué des développeurs, des data scientists et des experts en sécurité chargés de concevoir et de construire des applications et des plugins exploitant les technologies LLM. Nous visons à fournir des conseils de sécurité pratiques, exploitables et concis pour aider ces professionnels à naviguer dans le paysage complexe et en évolution de la sécurité des applications LLM.
L'objectif principal de ce projet est de fournir un guide compréhensible et adoptable pour naviguer dans les risques de sécurité potentiels des applications LLM. Notre liste Top 10 sert de point de départ pour les développeurs et les professionnels de la sécurité novices dans ce domaine, et de référence pour ceux qui sont plus expérimentés.
Notre mission est de rendre la sécurité des applications visible, afin que les individus et les organisations puissent prendre des décisions éclairées sur les risques de sécurité des applications liés aux LLM. Bien que notre liste partage des similitudes avec les types de vulnérabilités trouvés dans d'autres listes OWASP Top 10, nous ne nous contentons pas de répéter ces vulnérabilités. Au lieu de cela, nous approfondissons les implications uniques de ces vulnérabilités lorsqu'elles sont rencontrées dans des applications utilisant des LLM.
Notre objectif est de combler le fossé entre les principes généraux de sécurité des applications et les défis spécifiques posés par les LLM. Les objectifs du groupe incluent l'exploration de la manière dont les vulnérabilités conventionnelles peuvent présenter des risques différents ou être exploitées de manière nouvelle au sein des LLM, et comment les développeurs doivent adapter les stratégies de remédiation traditionnelles pour les applications utilisant des LLM.
La première version de cette liste a été proposée par Steve Wilson de Contrast Security. Nous encourageons la communauté à contribuer et à aider à améliorer le projet. Si vous avez des suggestions, des commentaires ou si vous souhaitez aider à améliorer la liste, n'hésitez pas à ouvrir un problème ou à envoyer une pull request.
Nous avons un canal de groupe de travail sur le Slack OWASP, alors inscrivez-vous et rejoignez-nous sur le canal #project-top10-llm.
Apprenez à contribuer : https://genai.owasp.org/contribute/
Ce projet est sous licence selon les termes de la Licence Internationale Creative Commons Attribution-ShareAlike 4.0.
