Skip to content
KitploitKITPLOIT
OutilsExploitsBlog
Log in
Soumettre
OutilsExploitsBlog
Soumettre

Outils de Hacking, PenTest et Cybersécurité pour votre Arsenal de Sécurité !

Kitploit est un répertoire d'outils de hacking, de cybersécurité et de pentesting. Découvrez les dernières mises à jour des projets pour trouver des vulnérabilités, analyser des systèmes, automatiser les tests et renforcer votre sécurité.

FluxContactConfidentialité© 2026 Kitploit

Répertoire d'outils

Catégories

Voir toutes les catégories
Loading categories
The-Agents-Epistemic-Baggage — Un modèle de risque orienté vers l’audit qui décrit comment les inférences générées par des agents peuvent changer de statut épistémique, acquérir une autorité opérationnelle et influencer les décisions ultérieures au moyen d’une mémoire persistante. | Kitploit
Outils/GitHubGitHub/owasp/the-agents-epistemic-baggage
Outils DéfensifsRenseignement sur les MenacesArticles et RechercheApprentissage et ÉducationRessources OrganiséesSécurité de l'IADétection d'AnomaliesAnalyse de Journaux
Partager
GitHub
owasp/the-agents-epistemic-baggage

The-Agents-Epistemic-Baggage

Un modèle de risque orienté vers l’audit qui décrit comment les inférences générées par des agents peuvent changer de statut épistémique, acquérir une autorité opérationnelle et influencer les décisions ultérieures au moyen d’une mémoire persistante.

Voir le dépôtSite web
26il y a 28 joursPas encore vérifié

Les bagages épistémiques de l'agent

Un modèle de risque orienté audit décrivant comment les inférences générées par un agent peuvent modifier le statut épistémique, acquérir une autorité opérationnelle et influencer des décisions ultérieures par le biais d'une mémoire persistante.

Le problème

Un système d'IA agentique doté d'une mémoire persistante inscriptible ne se contente pas de récupérer des informations antérieures. Il peut également stocker ses propres résumés, conclusions, plans et historiques d'exécution.

Cela soulève une question de gouvernance :

Comment le système représente-t-il et préserve-t-il la distinction entre l'information reçue et l'inférence générée par l'agent ?

Si cette distinction est perdue, une inférence peut acquérir ou conserver un statut que ses preuves ne justifient pas. Un tel enregistrement peut alors influencer des décisions ou des actions, y compris par un usage autorisé par la politique. Une escalade d'autorité non autorisée ou un usage au-delà de l'autorité permise constitue une défaillance de contrôle distincte que le projet examine également.

Ce dépôt développe un modèle de risque pour ce processus de dérive, appelé dérive épistémique auto-renforçante, et explore comment le rendre auditable. L'argumentation complète, incluant le schéma de mémoire, les mécanismes de dérive et le protocole de test du cycle de vie, est développée dans The Agent's Epistemic Baggage. Une première spécification implémentable, avec objets d'audit typés, règles de transition, contrôles, métriques et un test reproductible, est développée dans Agent Memory Drift: Audit Operationalization v0.1. Si vous vous apprêtez à réaliser un audit plutôt qu'à lire la spécification de bout en bout, commencez plutôt par le Guide utilisateur.

Périmètre

Le modèle s'applique aux systèmes d'IA agentiques dotés d'une mémoire persistante inscriptible, où les représentations générées par l'agent peuvent être stockées, récupérées, consolidées et utilisées pour influencer des inférences, des usages d'outils, des décisions ou des actions ultérieurs.

Il se concentre sur la voie mémorielle des agents à auto-évolution. Les modifications des poids du modèle, des outils et des flux de travail présentent des profils de risque distincts et sortent du périmètre actuel.

Il s'agit actuellement d'un modèle de risque conceptuel orienté audit. Les mécanismes de dérive, le schéma d'audit et les tests de cycle de vie constituent le cœur proposé. Une spécification d'audit initiale définit des exigences de contrôle proposées, des métriques provisoires et des critères d'acceptation. L'implémentation et la validation empirique restent des travaux ouverts.

Deux mécanismes de dérive

1. Boucle de re-stockage

Une boucle d'écriture et de récupération peut propager récursivement du matériel généré par l'agent lorsque quatre liens structurels sont réunis. Ils sont nécessaires mais non suffisants pour la dérive : la boucle doit également véhiculer du matériel inexact, non étayé, mal classifié ou épistémiquement dégradé.

  1. Du matériel généré par l'agent est stocké.
  2. Ce matériel peut être récupéré lors de tâches ultérieures.
  3. Le matériel récupéré peut influencer une inférence ou une action, qu'elle soit autorisée ou non.
  4. Le matériel résultant peut être réécrit en mémoire.

Chaque lien constitue également un point de contrôle potentiel.

La récupération par similarité n'est pas requise, mais elle peut amplifier la boucle. Des travaux empiriques documentent deux composantes de cette amplification : le suivi de l'expérience (experience-following), où les agents tendent à produire des sorties similaires lorsqu'une tâche en cours ressemble à une expérience récupérée, et la propagation d'erreurs, où des expériences erronées stockées sont récupérées, imitées et stockées à nouveau.

2. Dérive de consolidation

La dérive peut également survenir sans boucle d'écriture et de récupération :

  1. Du matériel est stocké.
  2. Il est transformé par résumé, abstraction ou compression.
  3. La provenance, l'état de validation, la validité temporelle ou le soutien probatoire sont perdus.
  4. La représentation transformée remplace l'originale ou reçoit une priorité de récupération ou de décision supérieure.

La corruption peut survenir pendant la consolidation, avant que la mémoire altérée ne soit récupérée. Elle acquiert des conséquences opérationnelles lorsque cette mémoire est ensuite utilisée.

Schéma d'audit proposé

Une simple étiquette de statut est insuffisante. Un enregistrement de mémoire auditable doit maintenir des dimensions distinctes séparées :

ChampExemples
Type de représentationentrée reçue, événement de capteur, sortie d'outil, affirmation de source, inférence d'agent
Provenancesource, horodatage, outil, agent, lien vers la preuve sous-jacente
État de validationnon testé, soutenu, contredit, validé, rejeté
Validité temporelleactuel, obsolète, expiré
Relation de preuveenregistrements ou sources qui soutiennent ou contredisent l'enregistrement, y compris la force, l'indépendance et la qualité de ce soutien
Historique des modificationscréé, résumé, reclassifié, remplacé
Base de transition épistémiquenouvelle preuve, corroboration, résolution de contradiction, résultat validé
Base d'autoritérègle de politique, classification des risques, approbation humaine, permission déléguée
Traçabilité d'usage et de décisionévénement de récupération, rang, score de récupération, position dans le prompt, référence explicite dans le raisonnement ou la sortie, agent consommateur, décision ou action affectée

La provenance établit l'origine, pas la vérité. Une source fiable peut se tromper, et une inférence d'agent authentifiée reste une inférence. Le type de représentation ne couvre que les enregistrements épistémiques ; une décision ou une action ne porte pas d'état de validation fondé sur la vérité à proprement parler, une action est autorisée, exécutée, réussie ou échouée plutôt que soutenue ou contredite, elle est donc représentée comme un événement opérationnel lié plutôt que comme un type de représentation supplémentaire. Elle porte néanmoins sa propre provenance et son propre historique d'événements, et son poids est évalué à travers ses preuves sous-jacentes ainsi que sa traçabilité d'usage et de décision.

L'incertitude doit être fondée sur les preuves et l'état de validation plutôt que de reposer uniquement sur la confiance auto-déclarée d'un modèle, c'est pourquoi la relation de preuve porte également la force, l'indépendance et la qualité du matériel de soutien.

L'état de validation et la validité temporelle sont maintenus séparés car un enregistrement peut rester validé tout en devenant obsolète. L'actualité temporelle et le statut de remplacement sont également indépendants : un enregistrement peut rester temporellement actuel tout en ayant été remplacé par une version plus récente. L'historique des modifications consigne ce remplacement.

La base de transition épistémique et la base d'autorité sont également maintenues séparées : la première est la base probante ou de revue d'un changement d'état de validation, la seconde est la raison pour laquelle un enregistrement a été autorisé à influencer une décision. Une approbation de politique ne rend pas une affirmation plus vraie, et une nouvelle preuve ne confère pas en soi la permission d'agir.

Télécharger l’outil

Populaires

Voir tout →

Découvrez les outils les plus utilisés par notre communauté.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 La boîte à outils OSINT ultime : graphe d'enquête, notation de confiance, familles d'alias, carte, chronologie et rapports. 49 modules, plus de 400 sites, aucune clé API requise.

    795
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Application d'exécution en un clic GhostLock (CVE-2026-43499)

    520
  • 3

    ARTEX

    baarai/artex

    Plateforme autonome de tests d'intrusion multi-agents basée sur des LLM, avec agents planificateur/ouvrier, graphes d'actifs et d'exploration, enregistrement du trafic MITM et retest des vulnérabilités.

    439
  • 4

    redforge

    cybersecurity91/redforge

    Boîte à outils red team côté navigateur avec 102 outils hors ligne pour la reconnaissance, la génération de payloads, les attaques par identifiants, la cryptographie, l'encodage et le reporting d'engagement.

    346
  • 5

    looking-glass

    anonghosty/looking-glass

    Plateforme CSIRT qui ingère les rapports Shadowserver dans MongoDB et les rejoue sous forme de cartes interactives, d'analyses, de constats, d'avis et de tableaux de bord exécutifs.

    267
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Le système d'action pour la cybersécurité native IA—où l'intention devient une exécution gouvernée, les preuves deviennent une mémoire opérationnelle, et chaque opération améliore la suivante.

    264

Explorer tous les outils

Parcourez notre collection d'outils

Voir tous les outils →