#1ML-basierte Sicherheitstools, adversariales maschinelles Lernen und KI-gestützte Cyber-Abwehr.
Kitploit empfohlen
hannahxchen/llm-censorship-steeringCode für „Die Zensur steuern: Aufdecken von Repräsentationsvektoren für die ‚Gedanken‘-Kontrolle von LLMs“
mamadou-keita/deeclipImplementierung des Papers „DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images“
aniketkarne/aco-prompt-shieldStoppen Sie Prompt-Injection-Angriffe, bevor sie Ihre LLM erreichen — keine API-Kosten, läuft vollständig lokal, Integration in 2 Minuten. Prompt…
odinglyn0/k2-cliDie Analyse in die Steganalyse bringen.
jinxhy/awesome-moai-securityKuratierte Leseliste und Taxonomie der Angriffs- und Verteidigungsforschung für mobile On-Device-KI-Systeme, die adversarial-, Backdoor-,…
ye-ze-yu/epireal-benchRed-Teaming-Benchmark und Black-Box-Angriffsframework zur Bewertung von Risiken visueller Fehlinformationen bei kommerziellen Bildgeneratoren, mit…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
deep-jlu/skillpoisonForschungspipeline, die verifizierte erfolgreiche Erfahrungen konstruiert und sie in Ausbildungsdatensätze organisiert, um Modellfähigkeiten über die…
wang-yanting/agentwatcherKausale Kontextattribution und regelbasierte Monitor-LLM-Abwehr gegen indirekte Prompt-Injection in LLM-Agenten, die auf AgentDyn und anderen…
mouna23/ai-driven-mitre-attackDieses Repository zeigt eine Machine-Learning-Pipeline zur Erkennung von MITRE ATT&CK-Techniken aus Logs und zur Anreicherung der Ausgabe mittels…
rin449/bhpaiMulti-Format-Malware-Analyseplattform, die eine stealth Ring-3 Windows-Sandbox, statische PE/PDF-Analysatoren, Ransomware-Schlüsselwiederherstellung…
abhinavdubey30/perturbed-embedding-vectorsCode, Antwortprotokolle und Labels für das Paper Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
q-rz/saffronInferenz-Skalierung für die Sicherheitsgewährleistung von LLMs
canonicalmg/reverse-captcha-evalEvaluierungsrahmen, der testet, ob große Sprachmodelle unsichtbare Unicode-codierte Anweisungen befolgen, die in normal aussehenden Text eingebettet…
multimodal-ai-lab/tobacToken für Token kompromittiert: Backdoor-Schwachstellen in Unified Autoregressive Models (NeurIPS'26)
kevinchunye/prompt_injectionBenchmark-Harness zur Messung, an welcher Stelle Prompt-Injection-Abwehrmechanismen in LLM-Agent-Pipelines mit Tool-Nutzung auslösen, wobei…
clearlotus-git/cve-2024-37054-pocProof-of-Concept- und Forschungs-Repository für CVE-2024-37054, eine unsichere Deserialisierungs-Schwachstelle beim Laden von MLflow-PyFunc-Modellen,…
bardlaudian/cve-2024-37054Proof-of-Concept, das über die REST-API registrierte MLflow-Modelle vergiftet und ein bösartiges Pickle einbettet, um beim Laden des Modells RCE…
