owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 für Large Language Model Apps (Teil des GenAI Security Project)
OWASP Foundation Web Repository
Willkommen im offiziellen Repository für das OWASP Top 10 für Large Language Model Applications!
Dieses Repository enthält das OWASP Top 10 für Large Language Model Applications, das nun Teil des umfassenden OWASP GenAI Security Project ist. Das OWASP GenAI Security Project ist eine globale Open-Source-Initiative, die sich der Identifizierung, Minderung und Dokumentation von Sicherheits- und Schutzrisiken im Zusammenhang mit generativen KI-Technologien widmet.
Besuchen Sie unsere Hauptprojektseite: genai.owasp.org
Das OWASP Top 10 für Large Language Model Applications ist ein Standard-Awareness-Dokument für Entwickler und Webanwendungssicherheit. Es stellt einen breiten Konsens über die kritischsten Sicherheitsrisiken für Anwendungen mit Large Language Models (LLMs) dar. Es gibt andere laufende Frameworks innerhalb und außerhalb von OWASP, die nicht mit diesem Projekt verwechselt werden sollten; derzeit liegt der Fokus ausschließlich auf der Sicherheit von LLM-Anwendungen.
Unsere Hauptzielgruppe sind Entwickler, Datenwissenschaftler und Sicherheitsexperten, die mit dem Entwurf und der Entwicklung von Anwendungen und Plugins unter Nutzung von LLM-Technologien betraut sind. Unser Ziel ist es, praktische, umsetzbare und präzise Sicherheitsrichtlinien bereitzustellen, die diesen Fachleuten helfen, sich in der komplexen und sich ständig weiterentwickelnden Landschaft der LLM-Anwendungssicherheit zurechtzufinden.
Das Hauptziel dieses Projekts ist es, einen verständlichen und anwendbaren Leitfaden zur Navigation durch die potenziellen Sicherheitsrisiken in LLM-Anwendungen bereitzustellen. Unsere Top-10-Liste dient als Ausgangspunkt für Entwickler und Sicherheitsexperten, die neu in diesem Bereich sind, sowie als Referenz für erfahrenere Anwender.
Unsere Mission ist es, Anwendungssicherheit sichtbar zu machen, damit Einzelpersonen und Organisationen fundierte Entscheidungen über Sicherheitsrisiken im Zusammenhang mit LLMs treffen können. Obwohl unsere Liste Gemeinsamkeiten mit Schwachstellentypen anderer OWASP Top 10 Listen aufweist, wiederholen wir diese Schwachstellen nicht einfach. Stattdessen untersuchen wir die besonderen Auswirkungen dieser Schwachstellen, wenn sie in Anwendungen auftreten, die LLMs nutzen.
Unser Ziel ist es, die Kluft zwischen allgemeinen Prinzipien der Anwendungssicherheit und den spezifischen Herausforderungen durch LLMs zu überbrücken. Zu den Zielen der Gruppe gehört es zu erforschen, wie herkömmliche Schwachstellen in LLMs andersartige Risiken darstellen oder auf neuartige Weise ausgenutzt werden können und wie Entwickler traditionelle Abhilfestrategien für Anwendungen mit LLMs anpassen müssen.
Die erste Version dieser Liste wurde von Steve Wilson von Contrast Security beigesteuert. Wir ermutigen die Community, mitzuwirken und zur Verbesserung des Projekts beizutragen. Wenn Sie Vorschläge, Feedback haben oder zur Verbesserung der Liste beitragen möchten, erstellen Sie gerne ein Issue oder senden Sie einen Pull Request.
Wir haben einen Arbeitsgruppenkanal im OWASP Slack – bitte registrieren Sie sich und treten Sie uns auf dem Kanal #project-top10-llm bei.
Erfahren Sie, wie Sie beitragen können: https://genai.owasp.org/contribute/
Dieses Projekt ist unter den Bedingungen der Creative Commons Attribution-ShareAlike 4.0 International License lizenziert.
