#1Frameworks d'attaque ML adversariale, techniques d'évasion et outils d'évaluation de la robustesse des modèles.
Recommandé par Kitploit
aniketkarne/aco-prompt-shieldArrêtez les attaques par injection de prompt avant qu'elles n'atteignent votre LLM — zéro coût d'API, fonctionne entièrement en local, intégration en…
thinwayliu/multimodal-unlearnable-examplesLe code pour ACM MM2024 (Exemples non désapprenables multimodaux : Protéger les données contre l'apprentissage contrastif multimodal)
jinxhy/awesome-moai-securityListe de lecture organisée et taxonomie de la recherche sur les attaques et les défenses pour les systèmes d'IA embarqués sur mobile, couvrant les…
ye-ze-yu/epireal-benchBenchmark de red-teaming et framework d'attaque en boîte noire pour évaluer les risques de désinformation visuelle dans les générateurs d'images…
wang-yanting/agentwatcherAttribution contextuelle causale et défense de moniteur LLM basée sur des règles contre l’injection indirecte de prompts dans les agents LLM,…
borealisai/stepjackFramework de benchmarking pour évaluer les agents IA qui utilisent un ordinateur face aux injections indirectes de prompt en plusieurs étapes, avec…
sej2020/manipulating-web-agentsDémonstration de recherche sur les attaques par injection indirecte de prompts pour contrôler des agents web autonomes basés sur des LLM, avec des…
phil-fan/fs-attackImplémentation de l'article « Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model »
dtrecherel/dnsspoofUn outil d'empoisonnement DNS écrit en Python3.
canonicalmg/reverse-captcha-evalCadre d'évaluation qui teste si les grands modèles de langage suivent des instructions invisibles encodées en Unicode intégrées dans un texte…
multimodal-ai-lab/tobacToken par Token, Compromis : Vulnérabilités de Backdoor dans les Modèles Autorégressifs Unifiés (NeurIPS'26)
kevinchunye/prompt_injectionHarnais de benchmark mesurant où les défenses contre l'injection de prompt se déclenchent dans les pipelines d'agents LLM utilisant des outils, en…
stardust457/sldrFramework de défense qui atténue le fine-tuning malveillant des LLM en utilisant la récupération sélective de couches et le routage dynamique, avec…
azzzzliao/aegis-audio-defenseFramework de défense qui maintient les modèles audio-langage figés et ajoute une barrière de risque en couche intermédiaire avec des adaptateurs de…
ericyoc/ai-security-literacyPipeline Colab reproductible qui ancre six dimensions de compétence en littératie de sécurité de l'IA dans des benchmarks publics et des microdonnées…
sliu11-byte/mea-benchUn benchmark de cycle de vie pour les attaques d'extraction de LLM en boîte noire, les défenses et les attaques adaptatives.
gmh5225/llm-attack-promptJailbreaks,Prompt Leaks,Prompt Injection,LLM Attack.Collection de prompts d'attaque de grands modèles de langage
rakib-nyc/nulloriginBoîte à outils de robustesse des filigranes IA à usage exclusivement de recherche : un proxy inverse local supprime C2PA/EXIF/XMP, Unicode, la…
