Adversarial-Angriff

phil-fan/fs-attack

Implementierung des Papers „Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model“

multimodal-ai-lab/tobac

Token für Token kompromittiert: Backdoor-Schwachstellen in Unified Autoregressive Models (NeurIPS'26)

moontea0416/webmirage

Adversariale Bildangriffe auf Vision-Language-Web-Agenten, vom visuellen Grounding bis zur Browser-Ausführung

stardust457/sldr

Verteidigungsframework, das bösartiges Fine-Tuning von LLMs durch selektive Schichtwiederherstellung und dynamisches Routing abschwächt, mit…

graph-com/cka-agent

Forschungsimplementierung eines LLM-Jailbreak-Agenten, der die Guardrails kommerzieller Modelle durch harmloses Prompt-Weaving und adaptive Baumsuche…

treeai-lab/awesome-rag-security

Kuratierte Sammlung von Forschungsarbeiten zur Sicherheit von retrieval-augmentierter Generierung, organisiert nach der SLOT-Taxonomie, die…

uiuc-kang-lab/persistbd

Research code for training adapters that make LLM agent backdoors survive benign fine-tuning, with trigger-rate scoring, SWE-bench evaluation, and…

deep-jlu/skillpoison

Forschungspipeline, die verifizierte erfolgreiche Erfahrungen konstruiert und sie in Ausbildungsdatensätze organisiert, um Modellfähigkeiten über die…

zju-llm-safety/ascent

Fine-Tuning-Framework, das eine First-Order-Optimal-Safety-Kalibrierung und periodische Rekalibrierung auf LLMs anwendet, wobei sicherheitskompatible…

abhinavdubey30/perturbed-embedding-vectors

Code, Antwortprotokolle und Labels für das Paper Jailbreaking Open-Weight LLMs via Random Embedding Perturbations

jisung-pacific/hdi-graphrag-attack

Forschungsimplementierung von Hop-Decayed Influence (HDI) und dem 3S-Angriffsframework, das strukturelle Hilfsindexierungs-Schwachstellen in…

greshake/llm-security

Proof-of-Concept-Demos und Forschung zu indirekten Prompt-Injection-Angriffen gegen anwendungsintegrierte LLMs, einschließlich Datenexfiltration,…

euph00/zoneclaw-code

Benchmark- und Verteidigungscode für persistente Speicherangriffe auf Computer-Use-Agenten im OpenClaw-Stil, mit Memory-Zoning-Mitigation,…

sliu11-byte/mea-bench

Ein Lifecycle-Benchmark für Black-Box-LLM-Extraktionsangriffe, Verteidigungen und adaptive Angriffe.

js-lee-ai/refusal-relocates

Refusal localizes, the damage relocates, safety layers under few-sample fine-tuning

kevinchunye/prompt_injection

Benchmark-Harness zur Messung, an welcher Stelle Prompt-Injection-Abwehrmechanismen in LLM-Agent-Pipelines mit Tool-Nutzung auslösen, wobei…