#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Forschungscode und Datensatz (WSD) zur Bewertung der Auswirkungen von Audio-Wasserzeichen auf Anti-Spoofing, unter Verwendung von wav2vec2 XLS-R und…
Umgehe eingeschränkte und zensierte Inhalte bei KI-Chat-Prompts 😈

3D Passive Face Liveness Detection (Anti-Spoofing) & Deepfake-Erkennung. Ein einzelnes Bild wird benötigt, um den Liveness-Score zu berechnen. 99,67…

Datenschutz-Testbibliothek für Deep-Learning-Systeme, die die Bewertung der Anfälligkeit für Membership-Inference-Angriffe, Modellextraktion und…

Multiagenten-LLM-System, das die Sicherheit von Webanwendungen autonom bewertet, eine toolgestützte Ausführung orchestriert und Exploits durchgängig…

Ein PoC für CVE-2024-3660. Beliebige Codeausführung in Keras.

Eine Schwachstelle durch Prompt Injection mit hohem Schweregrad in Claude AI beweist, dass selbst die intelligentesten Sprachmodelle zu Waffen werden…

Forschungsframework zur Erkennung und Entfernung von Backdoors in Sprachmodellen, das merkmalsbasierte Anomalieerkennung mit LoRA-basiertem…

Proof-of-Concept-Exploit für CVE-2025-23266 (NVIDIAScape), der den NVIDIA-AI-Container-Runtime angreift. Demonstriert Container-Escape über eine…

Automatisiertes Web-Domain-Reconnaissance- und Sicherheitsbewertungstool, das Subdomain-Enumeration, Port-Scanning, Schwachstellenscan und…

Proof-of-Concept-Demos und Forschung zu indirekten Prompt-Injection-Angriffen gegen anwendungsintegrierte LLMs, einschließlich Datenexfiltration,…

Jailbreaks, Prompt Leaks, Prompt Injection, LLM-Angriff. Sammlung von Angriffs-Prompts für große Sprachmodelle

Diese Studie analysiert Schwachstellen in der Deserialisierung von Python-Pickles, mit Fokus auf CVE-2024-3568 in Hugging Face Transformers'…

Forschungsdemonstration von indirekten Prompt-Injection-Angriffen zur Kontrolle autonomer LLM-basierter Web-Agenten, mit Werkzeugen zur…

PowerShell-basiertes Erkennungs- und Behebungstoolkit für CVE-2025-32711 (EchoLeak), eine kritische Zero-Click-AI-Befehlsinjektionsschwachstelle in…

Burp-Suite-Erweiterung, die KI-generierte Regex-Strike-Regeln verwendet, um IDOR- und Zugriffskontrollschwachstellen zu erkennen und anschließend den…

Ein Dienst, der Schutz vor Prompt-Injection, Jailbreak-Angriffen und schädlichen Inhalten bei der Interaktion mit KI-Diensten bietet.

Exploit für Langflow AI Remote Code Execution (Unauthenticated)