#1ML-basierte Sicherheitstools, adversariales maschinelles Lernen und KI-gestützte Cyber-Abwehr.
Kitploit empfohlen
multimodal-ai-lab/tobacToken für Token kompromittiert: Backdoor-Schwachstellen in Unified Autoregressive Models (NeurIPS'26)
moontea0416/webmirageAdversariale Bildangriffe auf Vision-Language-Web-Agenten, vom visuellen Grounding bis zur Browser-Ausführung
stardust457/sldrVerteidigungsframework, das bösartiges Fine-Tuning von LLMs durch selektive Schichtwiederherstellung und dynamisches Routing abschwächt, mit…
danigil/neupermNull-Retraining-Sanitisierung, die permutationselektive neuronale Netzwerkeinheiten neu anordnet, um Malware zu zerstören, die durch…
graph-com/cka-agentForschungsimplementierung eines LLM-Jailbreak-Agenten, der die Guardrails kommerzieller Modelle durch harmloses Prompt-Weaving und adaptive Baumsuche…
githubsecuritylab/seclab-taskflow-agentMCP-fähiges Multi-Agenten-Framework für deklarative, YAML-gesteuerte agentische Workflows, verwendet für KI-gestütztes Code-Auditing,…
uiuc-kang-lab/persistbdForschungscode zum Trainieren von Adaptern, die LLM-Agent-Backdoors benignes Fine-Tuning überleben lassen, mit Trigger-Rate-Bewertung,…
deep-jlu/skillpoisonForschungspipeline, die verifizierte erfolgreiche Erfahrungen konstruiert und sie in Ausbildungsdatensätze organisiert, um Modellfähigkeiten über die…
zju-llm-safety/ascentFine-Tuning-Framework, das eine First-Order-Optimal-Safety-Kalibrierung und periodische Rekalibrierung auf LLMs anwendet, wobei sicherheitskompatible…
tz98lab/dlr-ne-ics-securityForschungscode zur Implementierung der Berechnung des dynamischen Niedrigrang-Nash-Gleichgewichts für stochastische ICS-Sicherheitsspiele zwischen…
abhinavdubey30/perturbed-embedding-vectorsCode, Antwortprotokolle und Labels für das Paper Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
arxhr007/aliens_eyeAI powered OSINT engine to discover and map 840+ social media identities across the web
jisung-pacific/hdi-graphrag-attackForschungsimplementierung von Hop-Decayed Influence (HDI) und dem 3S-Angriffsframework, das strukturelle Hilfsindexierungs-Schwachstellen in…
lzwhehe/benign-instruction-benchRe-evaluating prompt-injection detectors on LLM agent tool outputs (paper draft, scripts, scores)
hoodoer/colonelclusteredEin Java-Burp-Plugin, das Text-Clustering auf Antworten durchführt, um Ausreißer/Gruppen basierend auf dem tatsächlichen Inhalt der Server-Antworten…
rbidou/pyraspRuntime Application Self Protection for Python web servers, serverless functions and MCP servers, detecting attacks, prompt injection and data leaks…
euph00/zoneclaw-codeBenchmark- und Verteidigungscode für persistente Speicherangriffe auf Computer-Use-Agenten im OpenClaw-Stil, mit Memory-Zoning-Mitigation,…
sliu11-byte/mea-benchEin Lifecycle-Benchmark für Black-Box-LLM-Extraktionsangriffe, Verteidigungen und adaptive Angriffe.
