#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Natürlichsprachiger Android-Automatisierungsagent, der echte Geräte über ADB steuert, Logcat und Screenshots erfasst und einen MCP-Server für KI-IDEs…

Python-Framework zum Erstellen von LLM-Workflows als Zustandsmaschinen mit formaler Verifikation durch Z3-Theorembeweise, CTL-Modellprüfung und…

Evolutionäres LLM-Jailbreak- und Guardrail-Framework, das einen wiederverwendbaren Strategiepool durch genetische Mutation, Markov-Auswahl und…

Policy-Engine und EDR für KI-Agenten-Flotten und Entwickler-Workstations. Überwacht Tool-Aufrufe, Dateizugriffe, Netzwerkflüsse und Prozessausführung…

Lokaler, deterministischer MCP-Server für IDA Pro/Home: 109 Reverse-Engineering-Operationen mit striktem Schema, evidenzbasierte Ergebnisse und…

Recon-Scan: Passive Open-Source-Aufklärung mit KI-gestützter Sicherheitsanalyse. Zero-Touch, entwicklerorientiert und datenschutzzentriert.

Belege und Daten für den Sorami-Fachbericht über Sicherheitsvoreinstellungen von 15 Helm-Charts für KI-Serving, Vektordatenbanken und MCP auf…

Forschungscode für HARDE, ein Agent-Harness, das Komponenten für die Laufzeit-Risikoerkennung und Ausführungskontrolle über…

Ein doggo, das hilft, nach Sicherheitsproblemen in Ihren Repositorys zu suchen.

Verteidigungsframework, das audio-sprachliche Modelle eingefroren hält und ein Risiko-Gate in der mittleren Schicht sowie Sicherheitsadapter in…

Autonomes Agenten-Framework mit strukturiertem Gedächtnis, Sicherheits-Hooks und Loop-Management. Entwickelt von dem Agenten, der darauf läuft.

Verwendet ChatGPT API, Bard API und Llama2, Python-Nmap, DNS Recon, PCAP und JWT Recon-Module und verwendet das GPT3-Modell, um…

Forschungscode für einen Gray-Box-Trojaner-Angriff, der ein einzelnes KV-Cache-Bit in feinabgestimmten LLM-Klassifikatoren umkippt und die…

Benchmark-Suite und Code zur Erkennung von KI-Alignment-Fehlern, mit 44 Benchmarks über zehn Fehlertypen und einem Zero-Shot-RLCD-Detektor, der auf…

Forschungscode für Red-Teaming von KI-Auto-Modus-Monitoren, einschließlich Simulationsevaluierungen, Fuzzing und Monitor-Implementierungen für Claude…

Dieses Repository enthält ein Tool, das für automatisierte Pentesting-Aufgaben verwendet werden kann.

Open-Source-AI-Sicherheits-Benchmarking-CLI. Misst, wie KI-Modelle offensive Sicherheitsaufgaben mit MITRE ATT&CK-Analyse und KSM-Scoring durchführen.

Ein deterministischer Rahmen und Leitfaden für autonome offensive LLM-Agenten, der Autorisierungs-, Scope- und Evidenz-Gates durchsetzt, um…