LLMReaper

Пассивный захват бесед LLM и исследование утечки конфиденциальных данных

Расширение Chromium MV3 • Захват DOM в реальном времени • Обнаружение секретов • Бэкенд FastAPI

[!WARNING] Этот проект предоставляется исключительно для целей исследования безопасности, образовательного использования и повышения осведомленности о защите. Несанкционированное развертывание против систем, пользователей или сред без явного разрешения может нарушать местные законы, нормативные акты, политики организаций или условия обслуживания.

Обзор

LLMReaper — это доказательство концепции исследования безопасности, демонстрирующее, как расширения браузера с обычным доступом к DOM могут незаметно наблюдать, захватывать и сканировать беседы AI-платформ на предмет случайно раскрытых конфиденциальных данных без специальных разрешений, перехвата сетевого трафика или повышения привилегий.

Злоумышленники постоянно загружают вредоносные расширения браузера, имитирующие настоящие, и массово обманывают пользователей методами социальной инженерии.

Как это работает

[!NOTE] Подробная статья в блоге: https://thewhiteh4t.github.io/blog/ai-chat-llmreaper/

• Предоставляется распакованное расширение Chrome, которое демонстрирует как аспект социальной инженерии, так и захват беседы.
• В Chrome мы можем включить режим разработчика и загрузить распакованные расширения.
• После загрузки расширения мы можем просто переключиться на любую из поддерживаемых платформ и начать беседовать
• Расширение будет захватывать чат в реальном времени и отправлять его на бэкенд
• Для поиска секретов из беседы используется набор регулярных выражений

Поддерживаемые платформы

Область обнаружения

Бэкенд-движок обнаружения сканирует на:

• API Keys — OpenAI, Anthropic, AWS, GCP, Azure, GitHub, Stripe, Twilio и другие
• Authentication Tokens — JWTs, Bearer tokens, OAuth tokens, session cookies
• Cloud Credentials — AWS access key IDs, secret keys, GCP service account keys
• Secrets and Passwords — Common patterns in environment variables and config files
• PII — Email addresses, phone numbers, SSNs, credit card patterns
• Connection Strings — Database URIs, JDBC strings, Redis/MongoDB connection strings

Установка

Arch Linux

sudo pacman -S python-fastapi python-uvicorn

Debian / Ubuntu

sudo apt install python3-fastapi python3-uvicorn

С помощью pip

pip install fastapi uvicorn

Использование

Браузер

• Chrome -> Меню с тремя точками -> Расширения -> Управление расширениями
• Включите режим разработчика
• Загрузите распакованное расширение -> Выберите LLMReaper/chrome_ext

Терминал

cd LLMReaper

python3 LLMReaper.py

Демонстрация

YouTube

Создано Лохитьей Пушкаром (thewhiteh4t)