#1Tools für LLM-Sicherheit, Prompt-Injection, Modellextraktion, adversariales KI und KI-Red-Teaming.
Kitploit empfohlen

Schutz vor Modell-Serialisierungsangriffen
Algorithmen zur Ausreißer-, Adversarial- und Drift-Erkennung

Ein Sicherheitsscanner für Ihre LLM-Agenten-Workflows

Kuratierte Liste von Backdoor-Learning-Papers, Übersichtsarbeiten und Toolboxen, die vergiftungsbasierte Angriffe und Verteidigungen im Deep Learning…

Trainieren, evaluieren und erkunden Sie neuronale Netze mit integrierten Werkzeugen für Adversarial Robustness, einschließlich PGD-Angriffen,…

Automatisiert das Lösen von CAPTCHAs mit multimodalen KI-Modellen (GPT-4o, Gemini) und Selenium und unterstützt Text, Audio, Schieberegler-Puzzles…

Standardisierter Benchmark für adversarial Robustheit mit öffentlicher Bestenliste und herunterladbarem Modell-Zoo zur Bewertung von ML-Modellen…

Interpretierbarkeit und Erklärbarkeit von Daten und Machine-Learning-Modellen

🥂 hCaptcha-Herausforderungen elegant mit multimodalem Large Language Model meistern.

Eine kuratierte Liste nützlicher Ressourcen, die Offensive AI abdecken.

Absichtlich verwundbare Banking-Plattform zum Üben von Sicherheitstests für Webanwendungen, APIs und KI/LLM, Secure Code Review und…

Halte private Daten, interne Infrastruktur und Geheimnisse aus Cloud-Coding-Agents heraus, ohne deinen Workflow zu unterbrechen.

Open-Source-Framework für Red-Teaming von generativen KI-Systemen: Angriffsprompts automatisieren, Modellantworten bewerten und Verhalten auditieren,…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

🐢 Open-Source-Bibliothek für Evaluierung & Tests von LLM-Agenten

Tools zur Bewertung und Verbesserung der LLM-Sicherheit.

Untersuchen, debuggen und visuell testen Sie Model Context Protocol (MCP)-Server über eine Web-UI, CLI oder TUI, mit Tool-/Ressourcen-Exploration,…

Programmable guardrails for LLM chat apps: enforce input/output rails, block jailbreaks and prompt injections, detect hallucination, and mask…