LLMReaper

패시브 LLM 대화 캡처 및 민감 데이터 노출 연구

Chromium MV3 확장 프로그램 • 실시간 DOM 캡처 • 시크릿 탐지 • FastAPI 백엔드

[!WARNING] 이 프로젝트는 보안 연구, 교육적 사용 및 방어적 인식 제고 목적으로만 엄격히 제공됩니다. 명시적 허가 없이 시스템, 사용자 또는 환경에 무단 배포하는 경우 현지 법률, 규정, 조직 정책 또는 서비스 약관을 위반할 수 있습니다.

개요

LLMReaper는 표준 DOM 접근 권한을 가진 브라우저 확장 프로그램이 특별한 권한, 네트워크 차단 또는 권한 상승 없이도 AI 플랫폼 대화를 조용히 관찰하고 캡처하며 실수로 노출된 민감 데이터를 스캔할 수 있음을 보여주는 개념 증명(PoC) 보안 연구입니다.

위협 행위자들은 실제 확장 프로그램처럼 위장한 악성 브라우저 확장 프로그램을 지속적으로 업로드하고, 대규모로 사용자에게 사회공학적 공격을 수행합니다.

작동 방식

[!NOTE] 상세 블로그 게시물 : https://thewhiteh4t.github.io/blog/ai-chat-llmreaper/

• 사회공학적 측면과 대화 캡처를 모두 보여주는 압축 해제된 크롬 확장 프로그램이 제공됩니다.
• Chrome에서 개발자 모드를 활성화하고 압축 해제된 확장 프로그램을 로드할 수 있습니다.
• 확장 프로그램을 로드한 후 지원되는 플랫폼 중 하나로 전환하여 _대화_를 시작하면 됩니다.
• 확장 프로그램은 채팅을 실시간으로 캡처하여 백엔드로 전송합니다.
• 일련의 정규식 매칭을 사용하여 대화에서 시크릿을 찾아냅니다.

지원 플랫폼

탐지 범위

백엔드 탐지 엔진은 다음을 스캔합니다:

• API 키 — OpenAI, Anthropic, AWS, GCP, Azure, GitHub, Stripe, Twilio 등
• 인증 토큰 — JWT, Bearer 토큰, OAuth 토큰, 세션 쿠키
• 클라우드 자격 증명 — AWS 액세스 키 ID, 비밀 키, GCP 서비스 계정 키
• 시크릿 및 비밀번호 — 환경 변수 및 구성 파일의 일반적인 패턴
• PII(개인 식별 정보) — 이메일 주소, 전화번호, SSN, 신용카드 패턴
• 연결 문자열 — 데이터베이스 URI, JDBC 문자열, Redis/MongoDB 연결 문자열

설치

Arch Linux

sudo pacman -S python-fastapi python-uvicorn

Debian / Ubuntu

sudo apt install python3-fastapi python3-uvicorn

pip 사용

pip install fastapi uvicorn

사용 방법

브라우저

• Chrome -> 세로 점 3개 메뉴 -> 확장 프로그램 -> 확장 프로그램 관리
• 개발자 모드를 켭니다
• 압축 해제된 확장 프로그램 로드 -> LLMReaper/chrome_ext 디렉터리 선택

터미널

cd LLMReaper

python3 LLMReaper.py

데모

YouTube

Lohitya Pushkar (thewhiteh4t) 제작