#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

DonkAI ist ein praxisorientiertes Labor für die OWASP Top 10 für LLM-Anwendungen (2025) – kein echtes LLM erforderlich.

Implementierung des Papers „Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model“

Eine kuratierte Liste nützlicher Ressourcen, die Offensive AI abdecken.

Eine Python-Toolbox zur Erstellung adversarialer Beispiele, die neuronale Netze in PyTorch, TensorFlow und JAX täuschen.

Ein statischer + Laufzeit-Sicherheitsscanner für MCP-Server (Model Context Protocol)

Self-hostable AI SOC that fuses security alerts, auto-triages via agentic AI, runs MITRE ATT&CK investigations, and logs every agent decision in a…

Der unabhängige Sicherheitsagent für KI-geschriebene Software. Findet Probleme, untersucht, ob sie echt sind, und zeigt Ihnen die Beweise.…

Zugriffskontrolle für KI-Agenten. Legen Sie fest, was Claude Code, Codex, Gemini, Cursor und jeder MCP-Server tun dürfen, prüfen Sie riskante…

Forschungscode zur Erkennung und Entgiftung von Backdoors in Text-zu-Bild-Diffusionsmodellen, mit Pipelines für Stable Diffusion v1.4, v1.5, XL und 3…

Standardisierter Benchmark für adversarial Robustheit mit öffentlicher Bestenliste und herunterladbarem Modell-Zoo zur Bewertung von ML-Modellen…

Nur für Forschungszwecke gedachtes Toolkit zur Robustheit von KI-Wasserzeichen: lokaler Reverse-Proxy entfernt C2PA/EXIF/XMP, Unicode,…

Ein Cybersicherheits-Forschungsspiel, das misst, wie Menschen KI-generierte Phishing-E-Mails erkennen. Entwickelt als Retro-Terminal-Erlebnis.

Secret-Use Delegation Protocol — Geheimnisnutzung auf Protokollebene für agentische Systeme

Einblick in die Aktivitäten von KI-Agenten auf Endpunkten, mit geräteinterner Erkennung, optionaler Blockierung vor der Aktion und forensischer…

Black-Box-Eingangsstufen-Reinigungsverteidigung, die Backdoor-Angriffe auf Objektdetektoren durch Korruption, Diffusionsrekonstruktion und…

Iterativer Agent-Harness, der LLMs und den Certora Prover nutzt, um CVL-Spezifikationen für Smart Contracts zu generieren und zu verfeinern, wobei…

Scannt Code-Diffs mit Kontext, um einen Auswirkungsgraphen zu erstellen, und nutzt LLMs, um Schwachstellen zu finden. Unterstützt Multi-Repo-Scans…

☸️ Die Testplattform für den agentischen SDLC