#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Sub-Millisekunden-VM-Sandboxen für KI-Agenten mittels Copy-on-Write-Forking
Quellcode zu maschinellem Lernen und Sicherheit.

Policy-Engine und EDR für KI-Agenten-Flotten und Entwickler-Workstations. Überwacht Tool-Aufrufe, Dateizugriffe, Netzwerkflüsse und Prozessausführung…

Eine native Richtliniendurchsetzungsschicht für KI-Codierungsagenten. Basierend auf OPA/Rego.

eBPF-basierte Linux-Observability mit KI-gestützter Incident-Erkennung. Lizenziert unter AGPL-3.0.

Die kollaborative Web-App-Pentest-Suite

Modulares Sicherheits-Toolkit für autonome Agenten mit statischer Analyse, Konfigurationsprüfung, Laufzeitüberwachung und Lieferkettenverifikation…

Hands-on-Plattform für KI-Sicherheitslabore mit über 50 Szenarien zu Prompt-Injection, Ausnutzung agentischer Systeme, Modellmanipulation und…

Angreiferresistente Deep-Learning-Architektur für sichere 5G-Innenraumlokalisierung, die CNN und Multi-Head-Attention kombiniert, um sich gegen…

Code-Repository für das CS5446-Projekt, das Verteidigungen gegen Jailbreak-Angriffe auf große Sprachmodelle untersucht. Es enthält Datensätze,…

Real-time safety guard for AI agents. Check before they act.

Adversarielles Bildstörungswerkzeug, das SAM-Segmentierung und CLIP-Modelle nutzt, um KI-basierte Betrugsbild-Klassifikatoren für…

Bidirektionales Token-Klassifikationsmodell zur Erkennung und Maskierung von PII in Text, mit CLI für Redaktion, Evaluierung und Finetuning vor Ort.

Multi-Agenten-basierte automatisierte Kontextverwaltung für Langzeithorizont-Aufgaben in lokalen KI-Agenten

Exploit für CVE-2026-33017, eine nicht authentifizierte RCE in Langflow 1.8.1 über den build_public_tmp-Endpunkt, die Python-Code-Injection durch…

Ein selbst gehosteter Sandkasten für Red Teams, um Payloads vor dem Einsatz gegen moderne Erkennung zu testen. MCP-Integration ermöglicht es einem…

Diese Fähigkeit hilft Claude dabei, sicheren Code zu schreiben und häufige Sicherheitslücken zu vermeiden.

AI-first-Sicherheitsscanner. NEU in v2026.7: Erkennung kompromittierter Claude-Code-Installationen — prüfe .claude/ Hooks, Berechtigungen &…