#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Jenseits des Prompts: Jailbreaking von funktionsaufrufenden LLMs mittels simulierter Moderationsspuren
Offene Sicherheitsforschung zur KI-Codierungsagenten-Infrastruktur. Von Agenten ausführbare Remediation-Manifeste für CVE-2026-22812 und…

Kuratierte systematische Literaturübersicht von 756+ Fachpublikationen zu LLM-Anwendungen in der Cybersicherheit, die Threat Intelligence,…

DECeption mit integrierter Evaluierungs- und Validierungs-Engine (DECEIVE): Lass ein LLM die gesamte harte Honeypot-Arbeit erledigen!

[NeurIPS 2025] Ein offizieller Quellcode für das Papier "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning".

EU AI Act Compliance Tool – Risikoklassifizierung und Bias-Tests

Behaviorales Evaluierungslabor (Quorum) für das Superpowers-Projekt, das echte Coding-Agent-CLIs (Claude, Codex, Gemini, Kimi und weitere) durch…

Praktische KI-Sicherheitslernplattform mit absichtlich anfälligen LLM-Anwendungen. Entdecken Sie die OWASP Top 10 für LLMs durch interaktive…

AMBER ICI v5: lokal-first Ollama-Ermittlungs-Kommandozentrale mit fallbezogenen Beweisen, Agentenketten, hybrider Suche, Streaming-Analyse, Graph-…

Tragbares intelligentes Erkennungsnetzwerk mit offline KI

Open-Source-Konsole für Prompt-Injection-Angriffe. Testen Sie die KI-Sicherheit, indem Sie kategorisierte Angriffe auf beliebige Endpunkte abfeuern.

AGLS

Ensemble-Framework zur Erkennung und Behebung von Softwareschwachstellen mithilfe mehrerer großer Sprachmodelle, mit Konsensanalyse und…

Forschungscode zur Implementierung von Backdoor-Angriffs- und Verteidigungsmethoden für LLMs, einschließlich der IBSD-, SLIP-, BeDKD- und…

Python-Bibliothek für lokale, LLM-gestützte Sicherheitsanalyse mit Ghidra-Binäranalyse, C/C++-Schwachstellenscanning und MCP-Tool-Integration für…

NetLogic ist ein fortschrittliches Toolkit für Netzwerkanalyse und Cybersicherheit zur Datenverkehrsinspektion, Paketanalyse und Bedrohungserkennung.

Docker-Container-Escape-POC über mlx-metal importlib

SafeForge ist ein Open-Source-Mobil-App-Hub, der auf GitLab basiert und es Entwicklern ermöglicht, Anwendungen in einem sicheren, KI-geprüften…