#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Ein Benchmark für LLM-gesteuerte Fehlererkennung: 77 Herausforderungen in 43 Open-Source-Projekten (C/C++/Java).

Ein transparenter PII-Redaktions-Proxy für LLM-API-Traffic. Er sitzt zwischen einer Anwendung und einem LLM-Anbieter (derzeit Anthropic),…

OWASP-Inkubator-Projekt: erkennt in browserbereitgestellten Inhalten (JavaScript, Konfigurationsantworten, Live-Traffic) offengelegte Anmeldedaten.

Sicherheitsschulungstool für autorisierte Phishing-Simulationen und interne IT-Audits

CEREBRO-RED v2: Fortgeschrittene LLM Red-Team-Forschungsplattform mit PAIR-Algorithmus und LLM-as-a-Judge-Bewertung

AIO Cloud Management Server

Ein TypeScript-Paket, das KI-gestützte Agenten für Aufgaben der Anwendungssicherheit (AppSec) bereitstellt, aufbauend auf den führenden Modellen.

CVPR2023: Unlearnable Clusters: Towards Label-agnostic Unlearnable Examples

Angriffs-Framework zum Durchbrechen von auf Feintuning basierenden Prompt-Injection-Abwehrmechanismen (SecAlign, SecAlign++, StruQ) mithilfe…

Proxy-Server, der MCP-Server mit Verhaltensprofilerstellung, Sicherheitsscans, Risikobewertung und sicherer Ausführung umschließt. Erkennt…

Erfahre, was sich in deinem Electron-Release geändert hat: Vergleiche zwei Builds hinsichtlich IPC, Preload, Fenstern, Fuses und Hosts, mit…

Erreichbarkeits-Triage für Schwachstellen-Scans. Speist Scanner-Funde in einen LLM-Agenten ein, der Ihren Quellcode liest und entscheidet, welche…

Kryptografische Terminal-Forensik und Sitzungswiedergabe für KI-Agenten. Verfolgt, signiert und prüft jeden Befehl mit Herkunftskennzeichnungen,…

Sigma-Erkennungsregeln für die Sicherheitsüberwachung von KI-Agenten

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Kernel-erzwungene Autorität und Laufzeitsicherheit für Linux-Systeme, autonome Software und KI-Agenten.

Fine-Tuning-Framework, das eine First-Order-Optimal-Safety-Kalibrierung und periodische Rekalibrierung auf LLMs anwendet, wobei sicherheitskompatible…

OWASP-Referenzprojekt für Sicherheitsnachweise bei agentischer KI: korreliert Agentenausführung, Identität, Tool-Aufrufe und…