owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 para Aplicaciones de Modelos de Lenguaje Grande (Parte del Proyecto de Seguridad GenAI)
¡Bienvenido al repositorio oficial del OWASP Top 10 para Aplicaciones de Grandes Modelos de Lenguaje!
Este repositorio contiene el OWASP Top 10 para Aplicaciones de Grandes Modelos de Lenguaje, que ahora forma parte del completo Proyecto de Seguridad GenAI de OWASP. El Proyecto de Seguridad GenAI de OWASP es una iniciativa global de código abierto dedicada a identificar, mitigar y documentar los riesgos de seguridad y protección asociados con las tecnologías de IA generativa.
Visite nuestro sitio principal del proyecto: genai.owasp.org
El OWASP Top 10 para Aplicaciones de Grandes Modelos de Lenguaje es un documento de concienciación estándar para desarrolladores y seguridad de aplicaciones web. Representa un amplio consenso sobre los riesgos de seguridad más críticos para las aplicaciones de modelos de lenguaje de gran escala (LLM). Existen otros marcos en curso tanto dentro como fuera de OWASP que no deben confundirse con este proyecto, y actualmente está enfocado únicamente en la Seguridad de Aplicaciones LLM.
Nuestra audiencia principal son desarrolladores, científicos de datos y expertos en seguridad encargados de diseñar y construir aplicaciones y complementos que aprovechan las tecnologías LLM. Nuestro objetivo es proporcionar una guía de seguridad práctica, procesable y concisa para ayudar a estos profesionales a navegar el terreno complejo y en evolución de la seguridad de aplicaciones LLM.
El objetivo principal de este proyecto es proporcionar una guía comprensible y adoptable para navegar los posibles riesgos de seguridad en aplicaciones LLM. Nuestra lista Top 10 sirve como punto de partida para desarrolladores y profesionales de seguridad nuevos en este dominio, y como referencia para aquellos con más experiencia.
Nuestra misión es hacer visible la seguridad de las aplicaciones, para que personas y organizaciones puedan tomar decisiones informadas sobre los riesgos de seguridad de aplicaciones relacionados con los LLM. Si bien nuestra lista comparte ADN con los tipos de vulnerabilidades encontradas en otras listas OWASP Top 10, no nos limitamos a reiterar esas vulnerabilidades. En cambio, profundizamos en las implicaciones únicas de estas vulnerabilidades cuando se encuentran en aplicaciones que utilizan LLM.
Nuestro objetivo es cerrar la brecha entre los principios generales de seguridad de aplicaciones y los desafíos específicos que plantean los LLM. Los objetivos del grupo incluyen explorar cómo las vulnerabilidades convencionales pueden presentar riesgos diferentes o ser explotadas de formas novedosas en los LLM, y cómo los desarrolladores deben adaptar las estrategias de remediación tradicionales para las aplicaciones que utilizan LLM.
La primera versión de esta lista fue aportada por Steve Wilson de Contrast Security. Animamos a la comunidad a contribuir y ayudar a mejorar el proyecto. Si tiene alguna sugerencia, comentario o desea ayudar a mejorar la lista, no dude en abrir un issue o enviar un pull request.
Tenemos un canal de grupo de trabajo en OWASP Slack, así que regístrese y luego únase a nosotros en el canal #project-top10-llm.
Aprenda cómo contribuir: https://genai.owasp.org/contribute/
Este proyecto está licenciado bajo los términos de la Licencia Creative Commons Atribución-CompartirIgual 4.0 Internacional.
