owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 para Aplicações de Modelos de Linguagem de Grande Escala (Parte do Projeto de Segurança GenAI)
OWASP Foundation Web Repository
Bem-vindo ao repositório oficial do OWASP Top 10 para Aplicações de Grandes Modelos de Linguagem!
Este repositório contém o OWASP Top 10 para Aplicações de Grandes Modelos de Linguagem, que agora está alojado no abrangente OWASP GenAI Security Project. O OWASP GenAI Security Project é uma iniciativa global de código aberto dedicada a identificar, mitigar e documentar riscos de segurança e proteção associados às tecnologias de IA generativa.
Visite nosso site principal do projeto: genai.owasp.org
O OWASP Top 10 para Aplicações de Grandes Modelos de Linguagem é um documento de conscientização padrão para desenvolvedores e segurança de aplicações web. Ele representa um amplo consenso sobre os riscos de segurança mais críticos para aplicações de Grandes Modelos de Linguagem (LLM). Existem outros frameworks em andamento dentro e fora da OWASP que não devem ser confundidos com este projeto, que atualmente tem escopo apenas para Segurança de Aplicações LLM.
Nosso público-alvo principal são desenvolvedores, cientistas de dados e especialistas em segurança encarregados de projetar e construir aplicações e plugins que utilizam tecnologias LLM. Nosso objetivo é fornecer orientações de segurança práticas, acionáveis e concisas para ajudar esses profissionais a navegar no terreno complexo e em evolução da segurança de aplicações LLM.
O objetivo principal deste projeto é fornecer um guia compreensível e adotável para navegar pelos potenciais riscos de segurança em aplicações LLM. Nossa lista Top 10 serve como ponto de partida para desenvolvedores e profissionais de segurança que são novos neste domínio, e como referência para os mais experientes.
Nossa missão é tornar a segurança de aplicações visível, para que pessoas e organizações possam tomar decisões informadas sobre riscos de segurança de aplicações relacionados a LLMs. Embora nossa lista compartilhe características com tipos de vulnerabilidades encontradas em outras listas Top 10 da OWASP, não simplesmente reiteramos essas vulnerabilidades. Em vez disso, nos aprofundamos nas implicações únicas dessas vulnerabilidades quando encontradas em aplicações que utilizam LLMs.
Nosso objetivo é preencher a lacuna entre os princípios gerais de segurança de aplicações e os desafios específicos apresentados pelos LLMs. Os objetivos do grupo incluem explorar como vulnerabilidades convencionais podem apresentar riscos diferentes ou ser exploradas de maneiras inovadoras dentro dos LLMs e como os desenvolvedores devem adaptar as estratégias de remediação tradicionais para aplicações que utilizam LLMs.
A primeira versão desta lista foi contribuída por Steve Wilson da Contrast Security. Encorajamos a comunidade a contribuir e ajudar a melhorar o projeto. Se você tem sugestões, feedback ou deseja ajudar a melhorar a lista, sinta-se à vontade para abrir uma issue ou enviar um pull request.
Temos um canal de grupo de trabalho no OWASP Slack, então inscreva-se e junte-se a nós no canal #project-top10-llm.
Saiba como contribuir: https://genai.owasp.org/contribute/
Este projeto está licenciado sob os termos da Creative Commons Attribution-ShareAlike 4.0 International License.
