#1Frameworks für adversariales ML-Angriffe, Umgehungstechniken und Tools zur Bewertung der Modellrobustheit.
Kitploit empfohlen
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
kevinchunye/prompt_injectionBenchmark-Harness zur Messung, an welcher Stelle Prompt-Injection-Abwehrmechanismen in LLM-Agent-Pipelines mit Tool-Nutzung auslösen, wobei…
guzonghua/awesome-latency-attacksKuratierter Index zu Deep-Learning-Latenz-, Energie-Latenz- und Timing-(Verfügbarkeits-)Angriffen und -Verteidigungen — Begleitmaterial zur…
facebookresearch/meta_secalignOpen-Weight-LLMs und Trainings-/Evaluierungscode zur Verteidigung gegen Prompt-Injection-Angriffe, mit Benchmarks für agentisches Tool-Calling und…
kaill-jlq/mmskillriskBenchmark- und Evaluierungs-Harness, der testet, ob LLM-Agenten bösartigen Anweisungen widerstehen, die in multimodalen Skill-Bildern verborgen sind,…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinEvolutionäres LLM-Jailbreak- und Guardrail-Framework, das einen wiederverwendbaren Strategiepool durch genetische Mutation, Markov-Auswahl und…
albert-y1n/piforgeOffenes Framework für RL-basiertes Red Teaming bei Prompt-Injection, mit einem gemeinsamen Trainer, Curriculum Learning und Benchmarks wie AgentDojo,…
breachsimrange/redteamsimmerWebbasierte Adversary-Emulation-Plattform, die Atomic-Red-Team-Tests über Windows-Endpunkte hinweg mittels Go-Agenten orchestriert, mit…
loophole-llc/fish-live-in-treesGemini - Produktions-LLM-Laufzeit-Ausrichtungskontext-Injektion
togg53192-cmd/jailbreaksKuratierte Sammlung von LLM-Jailbreak-Prompts und Bypass-Techniken, die adversarial Eingaben dokumentiert, welche die Sicherheitsleitplanken von…
wsu-cyber-security-lab-ai/clipguardAdversarielles Bildstörungswerkzeug, das SAM-Segmentierung und CLIP-Modelle nutzt, um KI-basierte Betrugsbild-Klassifikatoren für…
pho5nix/red-team-goad-lab-proxmoxBuild-Anleitung für ein Red-Teaming-Homelab. GOAD-Lab-Setup in Proxmox und pfSense, Operator/C2 und Redirectors.
joshuagodwin7929/purple-team-automationAutomatisierte Gegneremulation (Caldera) gegen ein AD-Lab, um die Sigma-Erkennungsabdeckung zu validieren und Ergebnisse MITRE ATT&CK zuzuordnen.
cybershujin/prompt-injection-in-the-wildTracker öffentlich gemeldeter Prompt-Injection-Techniken, aufgeschlüsselt nach Übermittlungsmethode, Kodierung und Ausbreitungsverhalten, mit…
sisl-uri/t-backdoorForschungscode zur Implementierung von T-Backdoor, zeitlich ausgelösten Backdoor-Angriffen auf spiking neuronale Netze unter Verwendung von Rate-,…
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…
shaheeryasirofficial/smugglemypayloadErzeugt HTML-Schmuggel-Seiten, die Dateien clientseitig per JavaScript einbetten und rekonstruieren, mit Payload-Kodierung, Chunking, Verschleierung…
