#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Eine sichere* Laufzeitumgebung für autonome KI-Agenten. Richtlinien aus Verfassungen in einfachem Englisch. (*https://ironcurtain.dev)

Kryptografisch signierte, replay-verifizierbare Beweisschicht für KI-Agenten. Steuert Aktionen in der Schleife, erzeugt Ed25519-signierte Belege, die…

Die Quelldateien und Werkzeuge, die zum Erstellen der OWASP-Cornucopia-Decks in verschiedenen Sprachen benötigt werden.

Formale interprozedurale Taint-Analyse-Engine für Anwendungssicherheit. Verfolgt unvertraute Daten über Funktionsgrenzen, Persistenzschichten und…

CEREBRO-RED v2: Fortgeschrittene LLM Red-Team-Forschungsplattform mit PAIR-Algorithmus und LLM-as-a-Judge-Bewertung

Google Tensor Cracks

Funktionierende Implementierung: kryptografisch verifizierte kurzlebige Identitäten zur Authentifizierung von KI-Entscheidungen — CVE-2025-59536…

DugganUSA-Beiträge zur Threat Intelligence für den IETF Hackathon: praxisnahe Benchmark-Vektoren für agentische Angriffe, Attestierungsanalyse zu…

Mehrstufige Prompt-Injection-Technik, die die Sicherheitsausrichtung von LLMs durch Identitätsneuvergabe, Verweigerungsunterdrückung und…

Fähigkeiten für Bedrohungsmodellierung, Scannen, Triage, Patchen sowie eine autonome Scan-Harness, die Sie /customize können

LLM-Sicherheitstestframework zur Erkennung von Prompt-Injection, Jailbreaks und adversarialen Angriffen — 190+ Sonden, 28 Anbieter, einzelne…

Ein modularer, fähigkeitsbasierter autonomer Security Operations Center (SOC)-Agent, der OpenSearch/Elasticsearch-Daten überwacht, ein RAG-basiertes…

Moxy ist ein Open-Source-DAST-Tool für moderne Webanwendungssicherheitstests. Es bietet eine benutzerfreundliche Oberfläche mit agentischen…

SecureAI-Scan ist ein CLI-Tool, das TypeScript- und JavaScript-Codebasen auf Sicherheitsprobleme durchsucht, die für KI-gestützte Apps spezifisch…

KI-gesteuerte automatisierte Bedrohungsanalyse-Pipeline, die Dateien, URLs, IPs, Domains oder Bilder durch spezialisierte Sicherheitsanalysatoren…

Asymmetrische Verteidigung gegen feindliche KI-Agenten. VeilGate bewertet jede eingehende Anfrage, leitet verdächtige Agenten in eine…

cMCP: Vertrauliches MCP-Gateway. Hardware-attestierte Richtliniendurchsetzung für MCP-Toolaufrufe.

Red Team AI Benchmark: Bewertung von LLMs für autorisierte offensive Sicherheitsaufgaben. Red Team AI Benchmark ist ein…