#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Sicherheitsscanner für KI/ML-Modelldateien. Erkennt bösartigen Code, Hintertüren und Schwachstellen vor der Bereitstellung.

Anti-LLM-Verschleierung durch Fingerzählen

A Burp Suite extension that exposes the full Montoya API as a local REST API, with Swagger UI

Alignment-Research-Scaffold (im Autoresearch-Stil) für LLM-Guardrails: Suche über eine einzelne policy.md-Oberfläche

Overlay-Netzwerkprotokoll, das KI-Agenten permanente Adressen, authentifizierte verschlüsselte Tunnel und ein Vertrauensmodell über UDP bietet.…

macOS-Persistenzmechanismus-Scanner mit Codesignatur-Verifizierung und Zeitleistenverfolgung.

Beispielhafte KI-Agent-Taskflows und MCP-Server zum Auditieren von Quellcode, Triage von Issues und Erkennen von Schwachstellen in Web-, Android- und…

Playbook-basiertes Angriffssimulations-Framework, das JSON-definierte Angriffspfade in positionsunabhängige Shellcode-Payloads kompiliert, um…

Eintauchen in die Welt der LLM-Sicherheit: Eine Erkundung offensiver und defensiver Tools, die deren aktuelle Fähigkeiten aufzeigt.

Ein produktionsreifes Greedy-Coordinate-Gradient-Angriffstool (GCG) für große Sprachmodelle (LLMs)

Kryptografisch signierte, replay-verifizierbare Beweisschicht für KI-Agenten. Steuert Aktionen in der Schleife, erzeugt Ed25519-signierte Belege, die…

CVE-Factory

WASM-Sandbox mit Durchsetzung von Berechtigungen für KI-Agenten-Code. Agenten können nur explizit bereitgestellte Tools mit definierten…

Security training for the apps you actually ship. Open your browser and start hacking.

Open-Source-Repo zur Validierung von Agentic-AI-Anwendungen: Redteam, Verhalten, Supply-Chain, statische Analyse

KI-gestützte SOC-Simulationsplattform

Projekt Mantis: Den KI-Hacker zurückschlagen; Prompt-Injection als Verteidigung gegen LLM-gesteuerte Cyberangriffe

Reverse-Proxy-Web-Application-Firewall mit WAF-, Anti-Bot- und Anti-DDoS-Schutz auf L3/L4/L7, benutzerdefinierten Regeln, Rate Limiting,…