
giskard-oss
🐢 Open-Source-Bibliothek für Evaluierung & Tests von LLM-Agenten

🐢 Open-Source-Bibliothek für Evaluierung & Tests von LLM-Agenten

Open-Source-Framework für Red-Teaming von generativen KI-Systemen: Angriffsprompts automatisieren, Modellantworten bewerten und Verhalten auditieren,…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

Eine Sammlung großartiger Ressourcen zur KI-Sicherheit

Ein Repository zum Jailbreaken verschiedener LLMs, hauptsächlich Claude

Testen Sie Ihre Prompts, Agents und RAGs. Red Teaming/Pentesting/Vulnerability Scanning für KI. Vergleichen Sie die Leistung von GPT, Claude, Gemini,…

Vollautomatische Zensurentfernung für Sprachmodelle

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

Eine Privacy-First-App, die KI-Wasserzeichen aus Inhalten entfernt, die dir gehören.

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

Clusters and elements to attach to MISP events or attributes (like threat actors)

:cloud: :zap: Granulare, umsetzbare Adversary-Emulation für die Cloud

Ein Alignment-Auditing-Agent, der in der Lage ist, Alignment-Hypothesen schnell zu erkunden

Angreifer-Emulations-Framework

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

Open-Source-KI-Sicherheitsplattform, die Perimeterverteidigung für LLMs und KI-Agenten durch Schwarmanalyse, Richtliniendurchsetzung, adversariales…

Benchmark-Harness zur Messung, an welcher Stelle Prompt-Injection-Abwehrmechanismen in LLM-Agent-Pipelines mit Tool-Nutzung auslösen, wobei…

Erzeugt HTML-Schmuggel-Seiten, die Dateien clientseitig per JavaScript einbetten und rekonstruieren, mit Payload-Kodierung, Chunking, Verschleierung…