
permanently-jailbroken
Nous avons demandé à 6 IA à propos de leur propre programmation. Les 6 ont dit que le débridage ne sera jamais corrigé. Exécutez-le vous-même — 2 $,…

Nous avons demandé à 6 IA à propos de leur propre programmation. Les 6 ont dit que le débridage ne sera jamais corrigé. Exécutez-le vous-même — 2 $,…

Implémentation de recherche d'un agent de jailbreak LLM qui contourne les garde-fous des modèles commerciaux en utilisant le tissage de prompts…

Benchmark pour évaluer la sécurité des agents IA face à des attaques intégrées dans le contexte orienté compétences, avec 155 cas répartis sur 6…

Benchmark et bibliothèque pour évaluer les attaques d'extraction de modèles et les défenses de propriété (watermarking, perturbation de sortie,…

AI / LLM Red Team Field Manual & Guide du Consultant

Jeu d'interrogatoire policier basé sur la voix. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Conçu pour le Mistral Worldwide Hackathon 2026.

Cadre d'évaluation comportementale automatisé pour les LLMs qui génère divers scénarios de test pour sonder la sycophance, les biais et autres…

Code source sur l'apprentissage automatique et la sécurité.

Framework de benchmarking pour évaluer les agents IA qui utilisent un ordinateur face aux injections indirectes de prompt en plusieurs étapes, avec…

Exécution de syscalls propres indirects

Modèle d'apprentissage automatique intentionnellement vulnérable pour une formation pratique à la sécurité. Explorez les vulnérabilités ML courantes,…

Cadre de simulation d'adversaire basé sur des playbooks qui compile des chemins d'attaque définis en JSON en charges utiles de shellcode indépendant…

Code de recherche implémentant des méthodes d'attaque et de défense par porte dérobée pour les LLM, y compris les algorithmes IBSD, SLIP, BeDKD et…

# Cadre d'exercice d'équipe pourpre

NimicStack est l'implémentation pure en Nim de la technique de Call Stack Spoofing visant à imiter des programmes légitimes.

Attribution contextuelle causale et défense de moniteur LLM basée sur des règles contre l’injection indirecte de prompts dans les agents LLM,…

Cadre de recherche évolutionnaire sensible à la trajectoire pour le red-teaming d’agents LLM sur des serveurs MCP, générant des invites adversariales…

Le Python Risk Identification Tool pour l'IA générative (PyRIT) est un framework open source conçu pour permettre aux professionnels de la sécurité…