#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Ein Alignment-Auditing-Agent, der in der Lage ist, Alignment-Hypothesen schnell zu erkunden

HopLa Burp Suite Extender Plugin - Bringt KI-Fähigkeiten, Autovervollständigungsunterstützung und eine Reihe nützlicher Payloads in Burp Suite

ExploitGym ist eine groß angelegte, realistische Benchmark, die auf realen Schwachstellen basiert und dazu dient, die Fähigkeit von KI-Agenten zu…

KI-gestützte Schwachstellen-Scanner-Erweiterung für Burp Suite mit Multi-Provider-Unterstützung (Ollama, OpenAI, Claude, Gemini)

KI-gestütztes Reverse Engineering mit Ghidra

Open-Source-Repo zur Validierung von Agentic-AI-Anwendungen: Redteam, Verhalten, Supply-Chain, statische Analyse

Multi-Source Analysis & Threat Intelligence Search

Fine-Tuning-Framework, das eine First-Order-Optimal-Safety-Kalibrierung und periodische Rekalibrierung auf LLMs anwendet, wobei sicherheitskompatible…

Bettet keybasierte, stilbasierte Wasserzeichen in LLM-generiertem Python-, Java- und C++-Code ein und erkennt sie mittels CST-Rewriting, wobei die…

Open-source antivirus and firewall for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and…

Policy-gesteuertes LLMSecOps-Framework, das AST-basierte SAST, Secret-Scanning, Supply-Chain- und Multi-Cloud-CSPM-Prüfungen, AI-BoM-Generierung und…

Burp Suite Erweiterung, die integriertes MCP-Tooling, KI-gestützte Analyse, Datenschutzkontrollen, passives und aktives Scannen und mehr hinzufügt

Kernel-Ebene eBPF-Sandbox zur Absicherung von LLM-Agent-Tool-Aufrufen, die über das Model Context Protocol (MCP) getätigt werden.

Token für Token kompromittiert: Backdoor-Schwachstellen in Unified Autoregressive Models (NeurIPS'26)

Forschungsimplementierung von Hop-Decayed Influence (HDI) und dem 3S-Angriffsframework, das strukturelle Hilfsindexierungs-Schwachstellen in…

LLM-Sicherheit: Analysiere, wie Fine-Tuning das Ablehnungsverhalten verändert, und bewerte Layer-Freezing- und Low-Rank-Verteidigungen.

Eine offene, lokal-first Sicherheitstest-Plattform für Pentester, KI-Agenten, CI/CD-Pipelines und Teams.

Ein empirischer Sicherheits-Testbed zur Bewertung von Prompt-Injection, Confused-Deputy-Schwachstellen und Tool-Calling-Abwehrmechanismen in…