#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Algorithmen zur Ausreißer-, Adversarial- und Drift-Erkennung
OWASP Web Security Testing Guide RAG-System mit ChromaDB, MCP für Claude Code

Ein neuartiger adversarischer Angriff auf LLM, basierend auf der Exponentiated Gradient Descent Technik.

ein Sicherheitsscanner für benutzerdefinierte LLM-Anwendungen

CAWODOG ist ein Proof-of-Concept-Projekt, das zeigt, wie Python-basierte KI-Modelle geschützt werden können, die auf Offline-Industriemaschinen…

Proof-of-Concept-Exploit für CVE-2025-32434, eine pickle-Deserialisierungsschwachstelle im weights_only-Modus von PyTorch, der die Erstellung und…

Burp-Suite-Repeater-Erweiterung, die Payloads automatisch mutiert und Antworten analysiert, um Path Traversal, SQL-Injection, XSS und andere…

Mein Manifest, und Geschichten, Bilder und phun Zeug

[ICCV 2025] Manipulationsschutz für unbefugte individuelle Bildgenerierung

Code-Repository für das CS5446-Projekt, das Verteidigungen gegen Jailbreak-Angriffe auf große Sprachmodelle untersucht. Es enthält Datensätze,…

Artefakte für einen Blogbeitrag zum Auffinden von CVE-2025-37899 mit o3

Ein Black-Box-Optimierungsansatz zum Schutz von System-Prompts großer Sprachmodelle (LLM) gegen Angriffe zur gegnerischen Extraktion.

[NeurIPS '25] Code für das Paper "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"

Code-Implementierung von "Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models"

Automatisiertes Framework zur Übernahme der Sicherheitsargumentation in großen Reasoning-Modellen mittels simulierter Reasoning-Spuren und iterativer…

KI-Red-Teaming-Übungsplattform mit Labs zur Durchführung von KI-Red-Teaming-Schulungen, einschließlich Infrastruktur.

Forschungscode und Experimente zur Verteidigung von tool-integrierten LLM-Agenten gegen adversariale Angriffe, die das Agent Security Bench um neue…

Benchmark zur Bewertung von Sicherheitsrisiken computernutzender Agenten, mit 104 realistischen Missbrauchsszenarien in sieben bösartigen Kategorien,…