#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Projekt Mantis: Den KI-Hacker zurückschlagen; Prompt-Injection als Verteidigung gegen LLM-gesteuerte Cyberangriffe

Experimenteller Linux strace LLM-Agent

Statischer Sicherheits-Scanner für KI-Agenten-Skill-Pakete. Erkennt bösartige SKILL.md-Dateien und gebündelte Skripte, bevor sie ausgeführt werden.

Code für das Paper Certified Unlearning for Neural Networks, ICML 2025

Code-Implementierung von "Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models"

Forschungs-Toolkit zur Analyse von Verhaltensmustern von KI-Agenten durch multidisziplinäre Korpusanalyse. Analysiert Sitzungsprotokolle, wendet 23…

Der Code in "DCVD: Dual-Channel Cross-Modal Fusion for Joint Vulnerability Detection and Localization"

SecureML – Absicherung und Wasserzeichen für ML-Modelle

Docker Model Runner Container-to-Host RCE / Escape: Eine kritische Schwachstelle, die eine Codeausführung vom Container zum Host im MLX- / SGLANG- /…

Dieses Skript prüft ServiceNow AI Agents auf Schwachstellen wie CVE-2025-12420, Governance-Lücken und Compliance-Risiken. Powered by CYBERDUDEBIVASH…

Eine automatisierte, hochpräzise Zero-Shot-Evaluierungspipeline für das CLIP-Modell von OpenAI auf CIFAR-10. Bietet 88.80% Genauigkeit,…

Burp-Suite-Erweiterung, die KI-generierte Regex-Strike-Regeln verwendet, um IDOR- und Zugriffskontrollschwachstellen zu erkennen und anschließend den…

IDA Pro Plugin, der OpenAI GPT-3.5/GPT-4 nutzt, um Reverse-Engineering-Aufgaben wie Funktionsbenennung, Code-Erklärung und Analyse von dekompiliertem…

Demonstriert KI-Agenten-gesteuerte CVE-Behebung mit kryptografischer Herkunftsverfolgung und zeigt den Workflow für Erkennung, Analyse, menschliche…

Verdammt verwundbarer MCP-Server

Automatisiertes Bug-Bounty- und Recon-Framework — kapselt Subfinder, Naabu, Httpx, Nuclei, Nmap, CVEMap, Gowitness, Katana und mehr hinter einer…

Ein KI-gestützter persönlicher Assistent mit Schwerpunkt auf Sicherheit.

Kuratierte Liste von Open-Source-LLM-Sicherheitsscannern und Web-App-Scannern, geordnet nach Sternen, zur Erkennung von Schwachstellen in…