#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

LLM-Ausgaben und KI-generierte Inhalte auf Anzeichen von Datenexfiltration scannen (EchoLeak, CVE-2025-32711), bevor sie Nutzer oder nachgelagerte…

Forschungscode und Datensatz (WSD) zur Bewertung der Auswirkungen von Audio-Wasserzeichen auf Anti-Spoofing, unter Verwendung von wav2vec2 XLS-R und…

Dieses Repository enthält die offizielle Implementierung von POISONCRAFT: Practical Poisoning of Retrieval-Augmented Generation for Large Language…

Implementierung von optimalem, auf Kopplung basierendem verzerrungsfreiem Text-Watermarking, um erkennbare Signale in LLM-generierten Text…

Ensemble-Framework zur Erkennung und Behebung von Softwareschwachstellen mithilfe mehrerer großer Sprachmodelle, mit Konsensanalyse und…

[CVPR 2025-ADVML] Offizielles Repository für `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`

Automatisiertes Framework zur Übernahme der Sicherheitsargumentation in großen Reasoning-Modellen mittels simulierter Reasoning-Spuren und iterativer…

Code-Implementierung von "Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models"

Prohibited Items Segmentation via Occlusion-aware Bilayer Modeling (ICME 2025)

[ICCV 2025] Manipulationsschutz für unbefugte individuelle Bildgenerierung

Forschungscode zur Implementierung von Backdoor-Angriffs- und Verteidigungsmethoden für LLMs, einschließlich der IBSD-, SLIP-, BeDKD- und…

Implementierung des Papers „DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images“

Sicherheits-Proxy für KI-Agenten. Scannt jede Nachricht auf Prompt-Injection, PII und Secrets. Defense-in-Depth: Go-Proxy + iptables-Firewall +…

Offizieller Code für das ISSTA-2026-Paper: Ist „Wissen, dass es bösartig ist“ genug? Bewertung von LLMs für die feingranulare Prüfung von…

PISmith: Reinforcement-Learning-basiertes Red Teaming für Prompt-Injection-Abwehrmaßnahmen

Sentinel-Detection-Lab für MCP-Angriffsketten: CVE-2026-26118 SSRF-Token-Diebstahl, Tool-Poisoning, Cross-Server-Exfiltration, Post-Exploitation von…

Code für „Die Zensur steuern: Aufdecken von Repräsentationsvektoren für die ‚Gedanken‘-Kontrolle von LLMs“

CVPR2023: Unlearnable Clusters: Towards Label-agnostic Unlearnable Examples