#1Frameworks für adversariales ML-Angriffe, Umgehungstechniken und Tools zur Bewertung der Modellrobustheit.
Kitploit empfohlen
alex66366/odpureBlack-Box-Eingangsstufen-Reinigungsverteidigung, die Backdoor-Angriffe auf Objektdetektoren durch Korruption, Diffusionsrekonstruktion und…
norrrrrrr-lyn/wainjectbenchBenchmarking prompt injection detections for web agents.
usama1002/deleting-the-traceExperimente zur Unterdrückung von Gedankenketten mittels Steuer-Token und zu Parser-Nachsichtigkeitsangriffen auf werkzeugnutzende LLM-Agenten
ml-security-research-lab/cachetrapResearch code for a gray-box trojan attack that flips a single KV-cache bit in fine-tuned LLM classifiers and measures per-class attack success rate.
xiaoyan-lisa/defenses-for-tool-integrated-llmForschungscode und Experimente zur Verteidigung von tool-integrierten LLM-Agenten gegen adversariale Angriffe, die das Agent Security Bench um neue…
zhou-cybersecurity-ai/synghostSyntactic Ghost: Ein unmerklicher Allzweck-Backdoor-Angriff auf vortrainierte Sprachmodelle
siyuanli00/intactForschungscode zur Reproduktion von Multi-Turn-LLM-Jailbreak-Experimenten (FITD, MRCJ, ActorAttack, X-Teaming) aus dem SoK-Paper zur…
zdcslab/rubrics-as-an-attack-surfaceForschungscode für Rubric-Induced Preference Drift (RIPD): evolutionäre Rubrikensuche, benchmark-erhaltende Selektion und…
96kihyun/batch_jailbreakDieses Repository enthält die offizielle Implementierung des Papers „[Safety in Batches? Understanding and Mitigating Safety Failures in Batch…
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
phkhanhtrinh23/agasLLM-gesteuertes agentisches Framework für Group-Shilling-Angriffe, das Black-Box-Collaborative-Filtering-Empfehlungsrankings mithilfe adaptiver…
ghostwolflab/ai_security_topEine strukturierte Wissensbasis, die Grundlagen der KI-Sicherheit, Bedrohungsmodellierung, offensive Techniken des Red Teams und defensive Maßnahmen…
atsukisato/pgm-attackForschungscode für Poisoning-Angriffe auf den PGM-Index, der demonstriert, wie adversarial Daten erstellt werden, um die Leistung gelernter Indizes…
pwnhyo/t-mapTrajektorienbewusstes evolutionäres Suchframework für Red-Teaming von LLM-Agenten über MCP-Server, das adversariale Prompts generiert, um…
chanwoochoi316/kidnapragBlack-Box-Angriffsframework, das das Denken in agentischen Retrieval-Augmented-Generation-Systemen durch das Einschleusen vergifteter Dokumente…
jaewonalive/camodocsForschungsimplementierung eines Poisoning-Angriffs gegen retrieval-gestützte Sprachmodelle unter Verwendung getarnter Dokumente, um…
ai45lab/skill-safety-benchBenchmark zur Bewertung der Sicherheit von KI-Agenten gegen Angriffe, die in skill-bezogenen Kontexten eingebettet sind, mit 155 Fällen in 6…
davidcarliez/trustmebroUmgehe LLM-Guardrails, indem du sie mit erfundener Tool-Ausgabe verwirrst.
