owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 per applicazioni con modelli linguistici di grandi dimensioni (Parte del Progetto di Sicurezza GenAI)
Benvenuti nel repository ufficiale dell'OWASP Top 10 per le Applicazioni dei Grandi Modelli Linguistici!
Questo repository contiene l'OWASP Top 10 per le Applicazioni dei Grandi Modelli Linguistici, che ora fa parte del progetto completo OWASP GenAI Security Project. L'OWASP GenAI Security Project è un'iniziativa globale open source dedicata all'identificazione, mitigazione e documentazione dei rischi per la sicurezza e la protezione associati alle tecnologie di intelligenza artificiale generativa.
Visita il sito principale del progetto: genai.owasp.org
L'OWASP Top 10 per le Applicazioni dei Grandi Modelli Linguistici è un documento di sensibilizzazione standard per sviluppatori e sicurezza delle applicazioni web. Rappresenta un ampio consenso sui rischi di sicurezza più critici per le applicazioni dei Grandi Modelli Linguistici (LLM). Esistono altri framework in corso, sia all'interno che all'esterno di OWASP, da non confondere con questo progetto, che attualmente si concentra esclusivamente sulla sicurezza delle applicazioni LLM.
Il nostro pubblico principale sono sviluppatori, data scientist ed esperti di sicurezza incaricati di progettare e costruire applicazioni e plugin che sfruttano le tecnologie LLM. Ci proponiamo di fornire una guida pratica, attuabile e concisa per aiutare questi professionisti a navigare nel complesso e in evoluzione panorama della sicurezza delle applicazioni LLM.
Lo scopo principale di questo progetto è fornire una guida comprensibile e adottabile per navigare i potenziali rischi di sicurezza nelle applicazioni LLM. La nostra lista Top 10 funge da punto di partenza per sviluppatori e professionisti della sicurezza nuovi a questo dominio, e da riferimento per chi è più esperto.
La nostra missione è rendere visibile la sicurezza delle applicazioni, in modo che persone e organizzazioni possano prendere decisioni informate sui rischi di sicurezza delle applicazioni legati agli LLM. Sebbene la nostra lista condivida il DNA con i tipi di vulnerabilità presenti in altre liste OWASP Top 10, non ci limitiamo a ripetere queste vulnerabilità. Approfondiamo invece le implicazioni uniche di queste vulnerabilità quando si incontrano in applicazioni che utilizzano LLM.
Il nostro obiettivo è colmare il divario tra i principi generali di sicurezza delle applicazioni e le sfide specifiche poste dagli LLM. Gli obiettivi del gruppo includono esplorare come le vulnerabilità convenzionali possano presentare rischi diversi o essere sfruttate in modi nuovi negli LLM e come gli sviluppatori debbano adattare le strategie di remediation tradizionali per le applicazioni che utilizzano LLM.
La prima versione di questa lista è stata contribuita da Steve Wilson di Contrast Security. Incoraggiamo la comunità a contribuire e aiutare a migliorare il progetto. Se hai suggerimenti, feedback o vuoi aiutare a migliorare la lista, sentiti libero di aprire un issue o inviare una pull request.
Abbiamo un canale di gruppo di lavoro su OWASP Slack, quindi iscriviti e unisciti a noi sul canale #project-top10-llm.
Scopri come contribuire: https://genai.owasp.org/contribute/
Questo progetto è concesso in licenza secondo i termini della Creative Commons Attribution-ShareAlike 4.0 International License.
