
RAS-Eval
Harnais de benchmark qui évalue la sécurité de l'appel d'outils par les agents LLM dans le cadre de tâches à long horizon, en générant des attaques…

Harnais de benchmark qui évalue la sécurité de l'appel d'outils par les agents LLM dans le cadre de tâches à long horizon, en générant des attaques…

Harnais de reproduction, correctifs et outils d'analyse pour auditer un benchmark de cyberdéfense basé sur l'apprentissage : capture les traces…

Code pour « Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models »

Détecteur multi-couches d'injection de prompts pour applications IA, utilisant des heuristiques, une analyse basée sur les LLM, des signatures…

La boîte à outils de sécurité pour les interactions avec les LLM

Une façon légèrement plus amusante de désactiver Windows Defender + le pare-feu. (via l'API WSC)

Le Python Risk Identification Tool pour l'IA générative (PyRIT) est un framework open source conçu pour permettre aux professionnels de la sécurité…

Exemple de code pour l'usurpation DNS avec empoisonnement ARP.