#1Frameworks für adversariales ML-Angriffe, Umgehungstechniken und Tools zur Bewertung der Modellrobustheit.
Kitploit empfohlen

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
Vollautomatische Zensurentfernung für Sprachmodelle

Testen Sie Ihre Prompts, Agents und RAGs. Red Teaming/Pentesting/Vulnerability Scanning für KI. Vergleichen Sie die Leistung von GPT, Claude, Gemini,…

🐢 Open-Source-Bibliothek für Evaluierung & Tests von LLM-Agenten

The AI Security Verification Standard (AISVS) focuses on providing developers, architects, and security professionals with a structured checklist to…

Open-Source-Framework für Red-Teaming von generativen KI-Systemen: Angriffsprompts automatisieren, Modellantworten bewerten und Verhalten auditieren,…

Eine Sammlung großartiger Ressourcen zur KI-Sicherheit

Angreifer-Emulations-Framework

Interaktive Dashboards und Bibliotheken für verantwortungsvolles Debugging von KI-Modellen, die Fehleranalyse, Fairness, Interpretierbarkeit,…

Auf Hardware-Breakpoints (DR0-DR7) basierende, patch-lose User-Mode-Hooking- und Telemetrie-Instrumentierungs-Engine (AMSI, WLDP & ETW-PoC).

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

Ein Repository zum Jailbreaken verschiedener LLMs, hauptsächlich Claude

Kuratierte Sammlung von LLM-Jailbreak-Prompts und Bypass-Techniken, die adversarial Eingaben dokumentiert, welche die Sicherheitsleitplanken von…

Eine Privacy-First-App, die KI-Wasserzeichen aus Inhalten entfernt, die dir gehören.

Clusters and elements to attach to MISP events or attributes (like threat actors)

:cloud: :zap: Granulare, umsetzbare Adversary-Emulation für die Cloud