#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Provenance-bewusster Linux-Kernel-Schwachstellenforschungs-Harness, der bei der Untersuchung von CVE-2026-53075 verwendet wird.

Sicherheit kann keine Prompt-Anweisung sein. TBP bietet eine externe Ausführungsschicht-Grenze für autonome Agenten und erzwingt harte…

KI-gesteuerte Endpunkt-Governance-Plattform, die die Softwarenutzung überwacht, eine deterministische, richtlinienbasierte Risikoklassifizierung…

Benchmark-Code und interaktive Ergebnisse für die autonome Erkennung von Netzwerkangriffen durch werkzeugnutzende LLM-Agenten, die rohe PCAPs…

Runtime-Sicherheitsgateway für KI-Agenten: attestiert Tool-Aufrufe kryptografisch, erzwingt Richtlinien, sandboxt die Ausführung und protokolliert…

Evidenzbasierte Forschungsumgebung für Schwachstellen im Linux-Kernel, die bei der Untersuchung von CVE-2026-31720 eingesetzt wird.

Sicherheits-Kontrollebene für LLM-Agenten: Allowlists, Owner-Kill-Switch, PIN-Sitzungen, Rate-Limits, Prompt-Injection-Erkennung und…

Strukturierte Security-Wissensbasis mit praxisnahen Fällen aus der Produktion: Schwachstellenanalyse, Exploit-Erklärung, Remediation und DevSecOps…

Aurea ist eine Open-Source-Plattform mit KI-Unterstützung, die Infrastructure-as-Code (IaC) über Terraform, Kubernetes, Docker und Ansible sichert.…

KI-gestützter Sicherheits-Copilot, der Schwachstellen erkennt, während du programmierst. Echtzeit-Sicherheitsscans, verständliche Erklärungen und…

Live-Recon und Posture-Auditing für KI-Agenten-Infrastrukturen: scannt MCP-Konfigurationen, Session-Logs und APIs nach Secrets, vergifteten Katalogen…

Zweistufiger Prompt-Injection- und Jailbreak-Detektor: Regex-Gates plus ein quantisierter DeBERTa-v3-ONNX-Klassifikator, mit Bild-, Dokument- und…

SafeForge ist ein Open-Source-Mobil-App-Hub, der auf GitLab basiert und es Entwicklern ermöglicht, Anwendungen in einem sicheren, KI-geprüften…

Ein statischer + Laufzeit-Sicherheitsscanner für MCP-Server (Model Context Protocol)

Reproduziert CVE-2026-44246, eine Prompt-Injection-Schwachstelle im GitHub-Actions-Triage-Agenten von nnU-Net, und zeigt, wie Issue-Inhalte direkt in…

Lokale White-Box-Gradientenangriffe für Open-Weight-LLMs: GCG/PEZ-Suffixsuche, Layer-Salienz, Gewichts-Snapshots und Rank-1-Suffix-zu-Delta-Fitting…

Securekit ist ein protokollagnostischer Sicherheitskernel, der Zero-Trust- und Sandbox-Ausführung für die Nutzung von KI-Tools durchsetzt. Er sitzt…

Proof-of-Concept, der Prompt-Injection in Langchains GraphCypherQAChain demonstriert, was zu SQL-Injection in Neo4j-Datenbanken führt. Enthält…