#1Outils de sécurité LLM, injection de prompt, extraction de modèle, IA adversariale et red teaming IA.
Recommandé par Kitploit

Un benchmark pour la découverte de bugs pilotée par LLM : 77 défis répartis sur 43 projets open source (C/C++/Java).

Un proxy transparent de masquage des PII pour le trafic API LLM. Se place entre une application et un fournisseur LLM (actuellement Anthropic),…

Projet OWASP Incubator : détecte les identifiants exposés dans le contenu livré par le navigateur (JavaScript, réponses de configuration, trafic en…

Outil de sensibilisation à la sécurité pour des simulations de phishing autorisées et des audits informatiques internes

CEREBRO-RED v2 : Plateforme avancée de recherche Red Team pour LLM avec l'algorithme PAIR et l'évaluation LLM-as-a-Judge

Serveur de gestion cloud AIO

Un package TypeScript qui fournit des agents propulsés par l'IA pour les tâches de sécurité applicative (AppSec), construit sur les modèles de pointe.

CVPR2023 : Clusters non-apprenables : vers des exemples non-apprenables agnostiques aux étiquettes

Cadre d'attaque pour contourner les défenses contre l'injection de prompts basées sur le fine-tuning (SecAlign, SecAlign++, StruQ) en utilisant des…

Serveur proxy qui encapsule les serveurs MCP avec profilage comportemental, analyse de sécurité, filtrage des risques et exécution sécurisée. Détecte…

Sachez ce qui a changé dans votre version Electron : comparez deux builds pour l'IPC, les preloads, les fenêtres, les fuses et les hôtes, avec…

Triage de la joignabilité pour les scans de vulnérabilités. Transmet les résultats du scanner à un agent LLM qui lit votre code source et détermine…

Forensique terminale cryptographique et rejeu de session pour agents IA. Suit, signe et audite chaque commande avec des étiquettes de provenance, des…

Règles de détection Sigma pour la surveillance de sécurité des agents IA

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Autorité appliquée par le noyau et sécurité d'exécution pour les systèmes Linux, les logiciels autonomes et les agents d'IA.

Framework de fine-tuning qui applique un calibrage de sécurité optimal de premier ordre et un recalibrage périodique aux LLMs, préservant les mises à…

Projet de référence OWASP pour les preuves de sécurité de l'IA agentique : corrèle l'exécution des agents, l'identité, les appels d'outils et les…