#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

# Demo zu drei Claude-Code-Sicherheitslücken (Hooks-Bypass, MCP-Injektion, API-Key-Exfiltration) mit Angreifer-Server, MITM-Proxy und…

Burp Suite-Erweiterung, die passive Schwachstellenerkennung mittels künstlicher Intelligenz integriert.

Benchmarking prompt injection detections for web agents.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: RL-Framework zum adversarialen Umschreiben von KI-Text, um die Robustheit von Detektoren zu testen.

KI-gesteuerte automatisierte Bedrohungsanalyse-Pipeline, die Dateien, URLs, IPs, Domains oder Bilder durch spezialisierte Sicherheitsanalysatoren…

Ein Tool, das prüft, ob eine TorchServe-Instanz anfällig für CVE-2023-43654 ist.

MCP wird rasant eingeführt. Sicherheitsleitfäden hinken hinterher. Diese Checkliste bietet Sicherheitsingenieuren, Plattformteams und technischen…

Browser-Erweiterung, die PII und sensible Daten in KI-Chats erkennt, sie vor dem Senden mit Platzhaltern maskiert und die Originale in Antworten…

Sicherheit für das moderne Zeitalter der KI: Verteidigung gegen böswillige KI-Agenten und schädliche npm-Pakete

Noisegate: ein Differential-Privacy-Gateway, das es einem nicht vertrauenswürdigen LLM-Agenten ermöglicht, über MCP (Model Context Protocol) auf…

Framework zur Prüfung von Algorithmen des maschinellen Lernens auf gegnerische Angriffe und Verzerrungen, das pädagogische Werkzeuge und ein…

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

Asymmetrische Verteidigung gegen feindliche KI-Agenten. VeilGate bewertet jede eingehende Anfrage, leitet verdächtige Agenten in eine…

OWASP Web Security Testing Guide RAG-System mit ChromaDB, MCP für Claude Code

Modulares Sicherheits-Toolkit für autonome Agenten mit statischer Analyse, Konfigurationsprüfung, Laufzeitüberwachung und Lieferkettenverifikation…

Erklärbares Sicherheitsgate für LLM-Apps — blockiert Prompt Injection mit einem nachvollziehbaren Grund für jede Entscheidung.

Sicherheitsforschung zur Kontextkomprimierung in Coding-Agenten: zeigt, wie gefälschte Rollenbezeichnungen in nicht vertrauenswürdigen Inhalten die…