#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

ssh-chat in modernem C
Sandbox für Agenten

CAPTCHA beweist, dass du menschlich bist. HATCHA beweist, dass du es nicht bist.

Open-Source-KI-Sicherheitsplattform, die Perimeterverteidigung für LLMs und KI-Agenten durch Schwarmanalyse, Richtliniendurchsetzung, adversariales…

DFIR forensics companion server + capture extension

Burp-Suite-Repeater-Erweiterung, die Payloads automatisch mutiert und Antworten analysiert, um Path Traversal, SQL-Injection, XSS und andere…

Mobile kamerabasierte Anwendung, die versucht, Fotos so zu verändern, dass sie für Menschen nützlich bleiben, aber für Gesichtserkennungssysteme…

Benchmark-Suite und Code zur Erkennung von KI-Alignment-Fehlern, mit 44 Benchmarks über zehn Fehlertypen und einem Zero-Shot-RLCD-Detektor, der auf…

Autonomer Sicherheitsoperationsagent für Bedrohungsanalyse, Schwachstellenforschung, IOC-Analyse und Red Teaming. Unterstützt duale Betriebsmodi mit…

Offline- und sicherheitsorientiertes Tool zum Synchronisieren und Verwalten von Agent-Fähigkeiten

[ICLR 2026] - Offizielles Repository für das Paper: "RedBench: A Universal Dataset for Comprehensive Red Teaming of Large Language Models"

Open-Source-Sicherheits-Gateway & statischer Scanner für KI-Agenten. Durchsetzung von rollenbasierter Zugriffskontrolle (RBAC),…

Null-Touch-Pipeline, die neu bewaffnete CVEs aus dem CISA Known Exploited Vulnerabilities (KEV)-Katalog automatisch jede Woche in produktionsreife…

Open-Source-, selbst gehostete Sicherheits-Pipeline für IT, KI und OT. Logs rein. Evidenz raus.: OCSF-Normalisierung, 46 Erkennungsregeln…

Kleines Sprachmodell, das Funktionen in gestrippten x86-64-Binärdateien benennt und beschreibt, mit einem offenen Datensatz, Baselines und…

Eine Python-Bibliothek für sicheres und erklärbares maschinelles Lernen Dokumentation verfügbar unter https://secml.gitlab.io Folgen Sie uns auf…

Ein Listener-Profil für das Mythic-C2-Framework, das die Datei-APIs von KI-Anbietern nutzt

SecureAI-Scan ist ein CLI-Tool, das TypeScript- und JavaScript-Codebasen auf Sicherheitsprobleme durchsucht, die für KI-gestützte Apps spezifisch…