LLMReaper

Capture passive de conversations LLM et recherche sur l'exposition de données sensibles

Extension Chromium MV3 • Capture DOM en temps réel • Détection de secrets • Backend FastAPI

[!WARNING] Ce projet est fourni strictement à des fins de recherche en sécurité, d'utilisation éducative et de sensibilisation défensive. Un déploiement non autorisé contre des systèmes, des utilisateurs ou des environnements sans autorisation explicite peut violer les lois locales, les réglementations, les politiques organisationnelles ou les conditions d'utilisation.

Aperçu

LLMReaper est une preuve de concept de recherche en sécurité démontrant comment des extensions de navigateur disposant d'un accès DOM standard peuvent observer, capturer et analyser silencieusement les conversations des plateformes d'IA pour détecter des données sensibles accidentellement exposées, sans aucune permission spéciale, interception réseau ni élévation de privilèges.

Les acteurs malveillants publient constamment des extensions de navigateur malveillantes imitant les véritables extensions et manipulent les utilisateurs à grande échelle par ingénierie sociale.

Comment ça fonctionne

[!NOTE] Article de blog détaillé : https://thewhiteh4t.github.io/blog/ai-chat-llmreaper/

• Une extension Chrome non empaquetée est fournie, qui montre l'aspect ingénierie sociale ainsi que la capture des conversations.
• Dans Chrome, nous pouvons activer le mode développeur et charger des extensions non empaquetées.
• Après avoir chargé l'extension, nous pouvons simplement passer à l'une des plateformes prises en charge et commencer à discuter
• L'extension capturera la conversation en temps réel et l'enverra au backend
• Un ensemble de correspondances regex est utilisé pour trouver des secrets dans la conversation

Plateformes prises en charge

Couverture de détection

Le moteur de détection du backend recherche :

• Clés API — OpenAI, Anthropic, AWS, GCP, Azure, GitHub, Stripe, Twilio, et plus
• Jetons d'authentification — JWT, jetons Bearer, jetons OAuth, cookies de session
• Identifiants cloud — ID de clés d'accès AWS, clés secrètes, clés de compte de service GCP
• Secrets et mots de passe — Modèles courants dans les variables d'environnement et les fichiers de configuration
• PII — Adresses e-mail, numéros de téléphone, SSN, modèles de cartes de crédit
• Chaînes de connexion — URI de bases de données, chaînes JDBC, chaînes de connexion Redis/MongoDB

Installation

Arch Linux

sudo pacman -S python-fastapi python-uvicorn

Debian / Ubuntu

sudo apt install python3-fastapi python3-uvicorn

Avec pip

pip install fastapi uvicorn

Utilisation

Navigateur

• Chrome -> Menu à trois points -> Extensions -> Gérer les extensions
• Activer le mode développeur
• Charger l'extension non empaquetée -> Sélectionner le dossier LLMReaper/chrome_ext

Terminal

cd LLMReaper

python3 LLMReaper.py

Démo

YouTube

Créé par Lohitya Pushkar (thewhiteh4t)