
autoguardrails
Échafaudage de recherche d'alignement (style autoresearch) pour les garde-fous des LLM : recherche sur une surface `policy.md` unique

Échafaudage de recherche d'alignement (style autoresearch) pour les garde-fous des LLM : recherche sur une surface `policy.md` unique

Sandbox Linux légères et sécurisées pour les processus non fiables. Fonctionne dans le navigateur et sur le serveur.

Code de recherche pour les attaques par empoisonnement sur le PGM-index, démontrant comment concevoir des données adverses afin de dégrader les…

Framework d’attaque en boîte noire qui détourne le raisonnement des systèmes de génération augmentée par récupération agentiques en injectant des…

un garde-fou qui bloque les actions catastrophiques des agents

Protection puissante pour les agents IA - Sécurité open-source et suivi des coûts pour les applications IA

Code de reproduction pour une étude contrôlée des attaques par inférence d'appartenance sur OLMo 2, couvrant l'insertion de documents, l'entraînement…

Entraînez, évaluez et explorez des réseaux de neurones avec des outils intégrés de robustesse face aux attaques adversariales, notamment les attaques…

Identifier les LLM compatibles OpenAI à partir de signaux liés au tokenizer et au comportement.

Découverte de vulnérabilités zero-shot à l'aide de LLMs


Code de recherche pour ajouter des experts de sécurité contrôlables aux couches des LLM via un entraînement de surcyclage en deux étapes, avec un…

Forensique de LLM au niveau des poids : comparer les poids des modèles, détecter les fine-tunes, les fusions et les dérivés déguisés, et faire…

Code source et article pour une étude NeurIPS EvoRobust montrant que de simples caractéristiques de type bag-of-words et des métadonnées surpassent…

Harness open-source sandboxé pour agents, conçu pour les équipes. Offrant à chaque employé un agent personnel sécurisé.

Piégez les scrapers web d'IA dans un puits empoisonné sans fin.

# Cadre d'exercice d'équipe pourpre

Liste de contrôle de sécurité pré-lancement pour les applications générées par IA (Lovable, v0, Bolt, Cursor). 69 vérifications couvrant Supabase…