
skill-safety-bench
Benchmark pour évaluer la sécurité des agents IA face à des attaques intégrées dans le contexte orienté compétences, avec 155 cas répartis sur 6…

Benchmark pour évaluer la sécurité des agents IA face à des attaques intégrées dans le contexte orienté compétences, avec 155 cas répartis sur 6…

Contourner les garde-fous des LLM en les déroutant avec une sortie d'outil fabriquée.

Implémentation de recherche pour l'atténuation des injections de prompt adaptatives via la distillation on-policy, avec des recettes d'entraînement…

Portage en Crystal de GodPotato pour abuser du privilège SeImpersonatePrivilege avec des syscalls indirects, résolution dynamique d'API et…

Bibliothèque Python pour la sécurité de l'apprentissage automatique adversarial, permettant aux équipes rouge et bleue d'exécuter des attaques et des…

Une bibliothèque d'exemples adverses pour construire des attaques, élaborer des défenses et évaluer les deux.

Une boîte à outils Python pour créer des exemples adversariaux qui trompent les réseaux de neurones dans PyTorch, TensorFlow et JAX.

Protection contre les attaques de sérialisation de modèles

Algorithmes de détection des valeurs aberrantes, des échantillons adverses et de la dérive

Un scanner de sécurité pour vos workflows agentiques LLM

Liste sélectionnée d'articles, d'études et de boîtes à outils sur l'apprentissage par porte dérobée, recensant les attaques par empoisonnement et les…

Entraînez, évaluez et explorez des réseaux de neurones avec des outils intégrés de robustesse face aux attaques adversariales, notamment les attaques…

Injection de processus threadless utilisant le hooking de fonctions à distance.

Chargeur réflexif en C# pour binaires non gérés.

Une technique avancée d'évasion en mémoire qui fait fluctuer la protection mémoire du shellcode entre RW/NoAccess et RX, puis chiffre/déchiffre son…

Benchmark standardisé de robustesse adversarial avec un classement public et un zoo de modèles téléchargeable pour évaluer les modèles ML contre les…

Interprétabilité et explicabilité des données et des modèles d'apprentissage automatique

Une liste organisée de ressources utiles couvrant l'IA offensive.