#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Hashcat-Regelanalysator und -Interpreter – Ein Rosetta-Stein zur Dekodierung der Hashcat-Regelsyntax

Offenes Framework für RL-basiertes Red Teaming bei Prompt-Injection, mit einem gemeinsamen Trainer, Curriculum Learning und Benchmarks wie AgentDojo,…

Kostenlose praktische Labore für digitale Forensik für Studierende und Lehrkräfte

Benchmark-Suite und Code zur Erkennung von KI-Alignment-Fehlern, mit 44 Benchmarks über zehn Fehlertypen und einem Zero-Shot-RLCD-Detektor, der auf…

Self-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…

Red-Teaming-Benchmark und Black-Box-Angriffsframework zur Bewertung von Risiken visueller Fehlinformationen bei kommerziellen Bildgeneratoren, mit…

MCP-fähiges Multi-Agenten-Framework für deklarative, YAML-gesteuerte agentische Workflows, verwendet für KI-gestütztes Code-Auditing,…

Beispielhafte KI-Agent-Taskflows und MCP-Server zum Auditieren von Quellcode, Triage von Issues und Erkennen von Schwachstellen in Web-, Android- und…

Defender-Framework für die Sicherheit von LLM-Agenten, das Aufgabenverträge kompiliert, Fähigkeitsmanifeste validiert und Effekte über…

Selbstgehostete Threat-Intelligence-Plattform — Feed-Aggregation, KI-Triage, MITRE-ATT&CK-Abdeckung und Sentinel-integrierte Detection-Engineering.…

Benchmark- und Evaluierungs-Harness, der testet, ob LLM-Agenten bösartigen Anweisungen widerstehen, die in multimodalen Skill-Bildern verborgen sind,…

Automatisiertes, KI-gestütztes Facebook-Intelligence-Tool zur Zielprofilierung, Netzwerkanalyse und Bedrohungsberichterstattung. Läuft vollständig…

Open-Source-Pentest-Management, das für den Betrieb durch einen KI-Agenten entwickelt wurde.

🥂 hCaptcha-Herausforderungen elegant mit multimodalem Large Language Model meistern.

Eine kuratierte Liste von KI-Sicherheitsmaterialien und -ressourcen für Pentester, Bug Hunter und Sicherheitsforscher.

Automatisiert das Lösen von CAPTCHAs mit multimodalen KI-Modellen (GPT-4o, Gemini) und Selenium und unterstützt Text, Audio, Schieberegler-Puzzles…

Agent-Runtime-Sicherheit – Zero-Trust-Agent-Sandboxing ohne Einrichtung und ohne Latenz

Automatisiertes Prompt-Injection-Test-Framework für LLM-integrierte Anwendungen mit dualer LLM-Architektur.