#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Defensives Framework, das einen sicherheitsorientierten Shadow-Speicher pflegt, um Prompt-Injection- und Long-Horizon-Bedrohungen gegen LLM-Agenten…

Sicherheit kann keine Prompt-Anweisung sein. TBP bietet eine externe Ausführungsschicht-Grenze für autonome Agenten und erzwingt harte…

LLM-gesteuerter Generator für Mythic Agents, Payload-Typen und C2-Profile.

AI IR Overlay™ — praktischer Incident-Response-Rahmen für KI-Agenten in der Produktion. Basierend auf NIST SP 800-61 r3, abgestimmt auf NIST AI RMF,…

Ein Evaluierungsagent zur Erkennung von Fehlinformationen und Wissensvergiftung in Retrieval-Augmented-Generation-Systemen.

Agentengestützter Schwachstellenscanner für große Codebasen. Nutzt LLMs, um schwer erkennbare Sicherheitsprobleme mittels Regex-Matcher und…

Sicherheits-Toolkit für KI-Agenten. Scannen Sie Ihren Rechner auf gefährliche Skills und MCP-Konfigurationen, überwachen Sie Lieferkettenangriffe,…

Verteidigungsframework, das audio-sprachliche Modelle eingefroren hält und ein Risiko-Gate in der mittleren Schicht sowie Sicherheitsadapter in…

Next-gen logische WAF-Engine, entwickelt in SWI-Prolog. Verfügt über ein induktiv lernendes Gehirn, das mit über 2M+ LIPS läuft, sowie einen…

Betten Sie mehrere geheime Nachrichten in LLM-Chat-Token-Auswahlen ein, mithilfe arithmetischer/Discop-steganografischer Kodierer, mit bitexakter…

Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the agent did, and why.

Benchmark zur Bewertung der Sicherheit von KI-Agenten gegen Angriffe, die in skill-bezogenen Kontexten eingebettet sind, mit 155 Fällen in 6…

LLM-gestütztes Fuzzing über OSS-Fuzz.

KI-gestützte Threat Intelligence-Plattform für automatisiertes CVE-/Ransomware-Monitoring, Domain-Überwachung, Erkennung von Datenlecks und Incident…

Sicherheitsschulungstool für autorisierte Phishing-Simulationen und interne IT-Audits

Beweisbar sichere linguistische Steganographie, die geheime Nachrichten in LLM-generierten Text durch Rotations-Range-Codierung einbettet. Enthält…

[🎖️ Lobende Erwähnung bei HAIPS @COLM'26] Der erste Benchmark zur Bewertung, wie gut LLM-Agenten im Einklang mit ihrem zugewiesenen…

End-to-End-Sicherheitsaudit-Framework für LLM-Agenten: statische AST- und Taint-Modellierung, Angriffssynthese, Docker-Sandbox-Replay und…