Tools

promptfoo/modelaudit

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

giskard-ai/giskard-oss

🐢 Open-Source-Bibliothek für Evaluierung & Tests von LLM-Agenten

whispergate/lldp

C2-Profil für Mythic zum Tunneln verschlüsselten Peer-to-Peer-Agentenverkehrs über IEEE 802.1AB LLDP Organizationally Specific TLVs für verdecktes…

microsoft/responsible-ai-toolbox

Interaktive Dashboards und Bibliotheken für verantwortungsvolles Debugging von KI-Modellen, die Fehleranalyse, Fairness, Interpretierbarkeit,…

meta-llama/purplellama

Tools zur Bewertung und Verbesserung der LLM-Sicherheit.

yzhao062/pyod

Eine Python-Bibliothek zur Anomalieerkennung in tabellarischen Daten, Zeitreihen, Graphen, Text, Bildern und Audiodaten. 60+ Detektoren,…

trusted-ai/aif360

Ein umfassender Satz von Fairness-Metriken für Datensätze und maschinelle Lernmodelle, Erklärungen für diese Metriken sowie Algorithmen zur Minderung…

gmh5225/bedaisy-bypass

Kernel-Mode-Hook, der den Berichtsverkehr von BEDaisy an den Dienst abfängt, entschlüsselt und neutralisiert, um die Anti-Cheat-Erkennung auf UEFI-…

dovughs/mora-hwbp

Hardware Breakpoint (DR0-DR7) based patch-less user-mode hooking & telemetry instrumentation engine (AMSI, WLDP & ETW PoC).

yeasen-z/leakgauge

Erkennt LLM-Context-Leakage-Angriffe durch Training leichtgewichtiger Verhaltens-Sonden auf Log-Wahrscheinlichkeiten, mit…

mthamil107/db_audit_research

Self-Defeating Audits: reproduzierbares Lab, das zeigt, wie eine PostgreSQL-Rolle mit geringen Rechten einen triggerbasierten Auditor reversibel…

cenobyte-vincit/xspawn

Startet macOS-Programme über die private XPC-Schnittstelle von launchd, ohne sie per exec auszuführen, wodurch EDR launchd als Elternprozess…

gmh5225/awesome-ai-security

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

loosehose/dutchoven

Application-scoped Windows network brownouts in native C and BOF form

wattocyber/gradient-untangler

Lokale White-Box-Gradientenangriffe für Open-Weight-LLMs: GCG/PEZ-Suffixsuche, Layer-Salienz, Gewichts-Snapshots und Rank-1-Suffix-zu-Delta-Fitting…

aloshdenny/claude-awm

Evades LLM text watermarks by injecting Unicode variation selectors; includes the SynthID generator, mean-g detector, normalization defenses, and…

rakib-nyc/nullorigin

Nur für Forschungszwecke gedachtes Toolkit zur Robustheit von KI-Wasserzeichen: lokaler Reverse-Proxy entfernt C2PA/EXIF/XMP, Unicode,…