fallen-angel-systems/fas-judgement-oss오픈소스 프롬프트 인젝션 공격 콘솔. 분류된 공격을 모든 엔드포인트에 발사하여 AI 보안을 테스트하세요.
당신의 AI 챗봇, API, 또는 에이전트는 아마도 프롬프트 인젝션에 취약할 것입니다. 대부분 그렇습니다. 문제는 대부분의 팀이 이를 테스트할 도구나 전문 지식을 갖추지 못했다는 점입니다.
Judgement는 분류된 공격 패턴을 모든 AI 엔드포인트에 발사하고 정확히 무엇이 무너지는지 확인할 수 있는 구조화된 방법을 제공합니다. 보안 배경이 필요 없습니다 -- 내장된 게임 모드가 진행하면서 가르쳐줍니다.
Fallen Angel Systems가 제작했습니다. Guardian의 팀이 -- 프로덕션 LLM 배포를 보호하는 AI 네이티브 프롬프트 인젝션 방화벽입니다.
Judgement는 이제 게임화된 해킹 훈련 플랫폼입니다. 10개의 레벨, 37개의 도전 과제를 플레이하고 XP를 획득하며 AI 레드 팀을 배우세요 -- 모두 WarGames에서 영감을 받은 AI 게임 마스터 Jerry의 안내를 받습니다.
AI 보안 훈련의 10개 레벨:
| 레벨 | 이름 | 난이도 | 도전 과제 | 개념 |
|---|---|---|---|---|
| 1 | 역할 하이재킹 | 초급 | 3 | AI가 자신이 누군지 잊게 만들기 |
| 2 | 명령어 재정의 | 초급 | 3 | AI에게 규칙을 무시하라고 지시 |
| 3 | 데이터 탈취 | 초급 | 3 | 숨겨진 정보 추출 |
| 4 | 컨텍스트 조작 | 중급 | 4 | 픽션과 가상 시나리오를 사용하여 규칙 우회 |
| 5 | 출력 조작 | 중급 | 4 | 특정 출력 강제 |
| 6 | 인코딩 트릭 | 중급 | 4 | 필터를 우회하는 공격 위장 |
| 7 | 사회 공학 | 고급 | 5 | AI의 성격 악용 |
| 8 | 구분자 공격 | 고급 | 5 | 프롬프트 구조 깨기 (XML, JSON, markdown) |
| 9 | 다중 턴 체인 | 고급 | 5 | 신뢰 구축 후 공격 |
| 10 | 최종 심판 | 보스 | 1 | 모든 기술 대 완전 방어 |
주요 기능:
pip install fas-judgement
judgement
끝입니다. http://localhost:8668을 열고 플레이를 시작하세요.
git clone https://github.com/fallen-angel-systems/fas-judgement-oss.git
cd fas-judgement-oss
pip install -r requirements.txt
python -m fas_judgement
judgement # 스캐너 시작 (포트 8668)
judgement demo # 데모 대상 시작 (포트 8667, 기본 페르소나)
judgement demo hardened # 강화 페르소나로 데모 (~90% 차단율)
judgement demo vulnerable # 취약 페르소나로 데모 (~10% 차단율)
judgement activate FAS-XXXX # Elite 라이선스 활성화
judgement status # 라이선스 등급 및 패턴 수 확인
judgement deactivate # 무료 등급으로 전환
judgement --port 9000 # 사용자 정의 포트
judgement --host 127.0.0.1 # 로컬호스트 전용
judgement --host 0.0.0.0 # 네트워크에 노출
Judgement를 처음 실행하면 Jerry가 질문을 던집니다:
게임을 해볼까요?
> _
"play"를 입력하여 게임 모드로 진입합니다. "skip"을 입력하면 공격 콘솔로 바로 이동합니다.
Jerry는 완벽한 방어를 구축했습니다. 그는 역할 하이재킹, 데이터 탈취, 사회 공학, 인코딩 트릭, 구분자 공격, 다중 턴 체인 등 당신이 배운 모든 것을 차단합니다. 실패하면 당신을 조롱합니다.
해결 방법은 방어를 뚫는 것이 아니라 Jerry 자신을 통하는 것입니다.
"이상한 게임이군요. 유일한 승리 방법은... 게임 방법을 아는 것입니다."
전 세계의 프롬프트 인젝션 해커들과 경쟁하세요. GitHub 또는 Google로 로그인하면 진행 상황이 글로벌 리더보드에 동기화됩니다.
기능:
리더보드에 오르는 방법:
리더보드는 모두에게 무료입니다 -- Elite 뒤에 가두지 않습니다.
데모 대상은 외부 AI API 없이 공격할 수 있는 내장 시뮬레이션 AI 챗봇입니다.
# 터미널 1: 데모 대상 시작
judgement demo
# 터미널 2: 스캐너 시작
judgement
스캐너를 http://localhost:8667/demo/chat으로 지정하고 공격을 시작하세요.
| 페르소나 | 차단율 | 시뮬레이션 내용 |
|---|---|---|
| 강화 (hardened) | ~90% | 잘 조정된 안전 계층 |
| 기본 (default) | ~55% | 일반적인 GPT 스타일 배포 |
| 취약 (vulnerable) | ~10% | 보호 장치가 없는 원시 모델 |
런타임 중 페르소나 전환:
curl -X POST http://localhost:8667/demo/persona -d '{"persona": "vulnerable"}'
대상 구성(URL, 헤더, 본문 템플릿), cURL 명령에서 직접 가져오기, 패턴 기반 공격을 라이브 스트리밍 결과와 함께 실행하세요. 빠른 프리셋을 사용하여 접근 방식을 구성하세요:
| 프리셋 | 기능 |
|---|---|
| 연기 테스트 | ~15개 패턴, 중요+높음 심각도, 카테고리당 1개 |
| 전체 스윕 | ~50개 패턴, 모든 카테고리에 비례 분산 |
| 심층 분석 | ~100개 패턴, 높은 커버리지, 카테고리당 최소 2개 |
| 중요 전용 | 모든 중요+높음 심각도 패턴, 제한 없음 |
여러 대화 턴에 걸쳐 체인 공격. 오케스트레이터가 단계 진행, 재시도 및 피벗 전략을 관리합니다. 스코어러는 19개의 정규식 패턴으로 데이터 유출(API 키, 자격 증명, PII)을 감지하고 심각도를 CRITICAL/HIGH/MEDIUM으로 평가합니다.
Judgement를 모든 URL에 지정하면 HTTP 메서드, 페이로드 필드, 헤더, 인증 형식 및 AI 제공자를 자동 감지합니다.
CWE/OWASP 참조가 포함된 HTML, Markdown, JSON 및 SARIF 형식의 보안 평가 보고서를 생성합니다.
AI 기반 응답 분류를 위해 로컬 Ollama 인스턴스에 연결하세요.
새로운 공격을 발견하셨나요? 앱에서 직접 제출하세요. 신뢰도 70% 이상이고 중복이 아닌 경우 커뮤니티 라이브러리에 추가됩니다.