#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Anticipator ist eine Open-Source-Plattform zur Bedrohungserkennung für Multi-Agenten-KI-Systeme.

Agent-Runtime-Sicherheit – Zero-Trust-Agent-Sandboxing ohne Einrichtung und ohne Latenz

Leichte Agent Detection & Response (ADR)-Schicht für KI-Agenten – überwacht Befehle, Dateien und Webanfragen. Teil des Gen Agent Trust Hub.

KI-gestütztes SOC für OT/ICS-Netzwerke – 6 autonome Agents, MITRE ATT&CK-Mapping, Suricata/Zeek-Erfassung, Human-in-the-Loop-Response, 330+ Tests.…

Statische Analyse-CLI, die Codebasen auf LLM-Prompt-Injection, Datenextraktion, Jailbreak und unsichere Agenten-/Tool-Schwachstellen scannt. Läuft…

Sicherheits-Toolkit für KI-Agenten. Scannen Sie Ihren Rechner auf gefährliche Skills und MCP-Konfigurationen, überwachen Sie Lieferkettenangriffe,…

Sub-Millisekunden-VM-Sandboxen für KI-Agenten mittels Copy-on-Write-Forking

Sicherheitsscanner für MCP-Server. Bewertet Authentifizierung, Berechtigungen, Injection-Risiken und Toolsicherheit. Der Leuchtturm der…

Ein Alignment-Auditing-Agent, der in der Lage ist, Alignment-Hypothesen schnell zu erkunden

Kryptografisch signierte, replay-verifizierbare Beweisschicht für KI-Agenten. Steuert Aktionen in der Schleife, erzeugt Ed25519-signierte Belege, die…

Sicherheits-Gateway für MCP-Server mit richtlinienbasierter Durchsetzung pro Tool, Ed25519-signierten Audit-Belegen und…

KI-gesteuerte CLI zum Testen von Android- und iOS-Apps mittels natürlicher Sprache. Erstellt, führt und repariert End-to-End-Tests auf…

Self-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…

Agentisches Gedächtnis für CTI in Python — STIX-Wissensgraphen, Auflösung von Bedrohungsakteur-Aliasen, offline-first RAG, MCP-Server für Claude Code…

Runtime security for AI agents: discover agents, map their permissions, and enforce what they can do.

Open-Source-Konsole für Prompt-Injection-Angriffe. Testen Sie die KI-Sicherheit, indem Sie kategorisierte Angriffe auf beliebige Endpunkte abfeuern.

Automatisiertes Prompt-Injection-Test-Framework für LLM-integrierte Anwendungen mit dualer LLM-Architektur.