#1Frameworks für adversariales ML-Angriffe, Umgehungstechniken und Tools zur Bewertung der Modellrobustheit.
Kitploit empfohlen

Infection Monkey - Eine Open-Source-Plattform zur Adversary-Emulation
Eine Adversarial-Examples-Bibliothek zum Erstellen von Angriffen, Entwickeln von Abwehrmaßnahmen und Benchmarking beider.

Quellcode zu maschinellem Lernen und Sicherheit.

Adversary-Simulation und Red-Teaming-Plattform mit KI

:cloud: :zap: Granulare, umsetzbare Adversary-Emulation für die Cloud

Eine kuratierte Liste nützlicher Ressourcen, die Offensive AI abdecken.

Reverse Engineering von Geminis SynthID-Erkennung

Interaktive Dashboards und Bibliotheken für verantwortungsvolles Debugging von KI-Modellen, die Fehleranalyse, Fairness, Interpretierbarkeit,…

This repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…

Echtzeit-Deepfake-Toolkit für Penetrationstests von Identitätsüberprüfungs- und Videokonferenzsystemen. Unterstützt Gesichtstausch, Bildanimation und…

Ein umfassender Satz von Fairness-Metriken für Datensätze und maschinelle Lernmodelle, Erklärungen für diese Metriken sowie Algorithmen zur Minderung…

KI-Red-Teaming-Übungsplattform mit Labs zur Durchführung von KI-Red-Teaming-Schulungen, einschließlich Infrastruktur.

Ein Alignment-Auditing-Agent, der in der Lage ist, Alignment-Hypothesen schnell zu erkunden

Antivirus-Umgehungstool

Eine Python-Toolbox zur Erstellung adversarialer Beispiele, die neuronale Netze in PyTorch, TensorFlow und JAX täuschen.

Interpretierbarkeit und Erklärbarkeit von Daten und Machine-Learning-Modellen

Ein Werkzeugsatz, um ein System so aussehen zu lassen, als sei es das Opfer eines APT-Angriffs gewesen.

Proof-of-Concept-Demos und Forschung zu indirekten Prompt-Injection-Angriffen gegen anwendungsintegrierte LLMs, einschließlich Datenexfiltration,…