#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Eine Sammlung von Hacking- / Penetrationstest-Ressourcen, die dich besser machen!

A search-first, profile-aware reverse-engineering workspace for AI agents — 735 tools across 36 domains in one MCP server.

Eine Sammlung von herausforderungsbasierten Hack-a-thons mit Studentenleitfaden, Coach-Leitfaden, Vorlesungspräsentationen,…

AI harness for long-running code audits, web pentests, and bug bounty hunting, built around how real investigations fail: anchored hypotheses, false…

Neubewertung von Prompt-Injection-Detektoren bei Tool-Ausgaben von LLM-Agenten (Paper-Entwurf, Skripte, Bewertungen)

Proof-of-Concept-Demos und Forschung zu indirekten Prompt-Injection-Angriffen gegen anwendungsintegrierte LLMs, einschließlich Datenexfiltration,…

Autonomous AI pentesting engine, continuous offensive security across web, cloud, AD & Kubernetes. Agentic reasoning + real exploit execution deliver…

Repository für CoSAI Workstream 4, Sichere Entwurfsmuster für agentische Systeme

Offizieller Build & verifiziertes Release | Open-Source-KI-Pentester, der jeden Fund beweist. Maschinelle Orakel führen jeden Exploit erneut aus;…

LLM-gesteuertes agentisches Framework für Group-Shilling-Angriffe, das Black-Box-Collaborative-Filtering-Empfehlungsrankings mithilfe adaptiver…

Offline- und sicherheitsorientiertes Tool zum Synchronisieren und Verwalten von Agent-Fähigkeiten

Forschungspipeline zur Erkennung latenter indirekter Prompt-Injection-Expositionssignale in agentischen LLMs durch Hidden-State-Probing,…

Your own always-on AI assistant: self-hosted, open source, lightweight. Each agent runs in its own container on your machine, on the harness you…

Eine autonome Red-Teaming-Engine für LLMs. RedThread verwaltet den vollständigen Sicherheitslebenszyklus: Generierung adversarischer Angriffe,…

Adversariale Bildangriffe auf Vision-Language-Web-Agenten, vom visuellen Grounding bis zur Browser-Ausführung

Ein Lifecycle-Benchmark für Black-Box-LLM-Extraktionsangriffe, Verteidigungen und adaptive Angriffe.

LLM-betriebener Agent, der autonom GitHub Issues behebt, Cybersicherheitsschwachstellen findet und CTF-Herausforderungen löst, unter Verwendung…

A collection of awesome resources related AI security