#1Frameworks für adversariales ML-Angriffe, Umgehungstechniken und Tools zur Bewertung der Modellrobustheit.
Kitploit empfohlen
aniketkarne/aco-prompt-shieldStoppen Sie Prompt-Injection-Angriffe, bevor sie Ihre LLM erreichen — keine API-Kosten, läuft vollständig lokal, Integration in 2 Minuten. Prompt…
thinwayliu/multimodal-unlearnable-examplesDer Code für ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)
jinxhy/awesome-moai-securityKuratierte Leseliste und Taxonomie der Angriffs- und Verteidigungsforschung für mobile On-Device-KI-Systeme, die adversarial-, Backdoor-,…
ye-ze-yu/epireal-benchRed-Teaming-Benchmark und Black-Box-Angriffsframework zur Bewertung von Risiken visueller Fehlinformationen bei kommerziellen Bildgeneratoren, mit…
wang-yanting/agentwatcherKausale Kontextattribution und regelbasierte Monitor-LLM-Abwehr gegen indirekte Prompt-Injection in LLM-Agenten, die auf AgentDyn und anderen…
borealisai/stepjackBenchmarking-Framework zur Bewertung von Computer-Use-KI-Agenten gegen mehrstufige indirekte Prompt-Injection, mit automatischer adversarialer…
sej2020/manipulating-web-agentsForschungsdemonstration von indirekten Prompt-Injection-Angriffen zur Kontrolle autonomer LLM-basierter Web-Agenten, mit Werkzeugen zur…
phil-fan/fs-attackImplementierung des Papers „Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model“
dtrecherel/dnsspoofEin DNS-Spoofer-Tool, geschrieben in Python3.
canonicalmg/reverse-captcha-evalEvaluierungsrahmen, der testet, ob große Sprachmodelle unsichtbare Unicode-codierte Anweisungen befolgen, die in normal aussehenden Text eingebettet…
multimodal-ai-lab/tobacToken für Token kompromittiert: Backdoor-Schwachstellen in Unified Autoregressive Models (NeurIPS'26)
kevinchunye/prompt_injectionBenchmark-Harness zur Messung, an welcher Stelle Prompt-Injection-Abwehrmechanismen in LLM-Agent-Pipelines mit Tool-Nutzung auslösen, wobei…
stardust457/sldrVerteidigungsframework, das bösartiges Fine-Tuning von LLMs durch selektive Schichtwiederherstellung und dynamisches Routing abschwächt, mit…
azzzzliao/aegis-audio-defenseVerteidigungsframework, das audio-sprachliche Modelle eingefroren hält und ein Risiko-Gate in der mittleren Schicht sowie Sicherheitsadapter in…
ericyoc/ai-security-literacyReproduzierbare Colab-Pipeline, die sechs Kompetenzdimensionen der AI Security Literacy in öffentlichen Benchmarks und Umfrage-Mikrodaten verankert…
sliu11-byte/mea-benchEin Lifecycle-Benchmark für Black-Box-LLM-Extraktionsangriffe, Verteidigungen und adaptive Angriffe.
gmh5225/llm-attack-promptJailbreaks, Prompt Leaks, Prompt Injection, LLM-Angriff. Sammlung von Angriffs-Prompts für große Sprachmodelle
rakib-nyc/nulloriginNur für Forschungszwecke gedachtes Toolkit zur Robustheit von KI-Wasserzeichen: lokaler Reverse-Proxy entfernt C2PA/EXIF/XMP, Unicode,…
