
공기 격리 침투 테스트용 오프라인 AI 보안 어시스턴트
오프라인 침투 테스트용 AI 어시스턴트. 도구 출력을 붙여넣고, 평범한 영어로 질문하면 실제 데이터에 기반한 답변을 얻을 수 있습니다. 인터넷 연결, API 키, 어떤 것도 머신 밖으로 나가지 않습니다.
전적으로 CPU에서 실행됩니다. 표준 노트북 하드웨어에서 테스트 완료.
테스트 환경: AMD Ryzen AI 9 365, 24GB RAM. 해당 하드웨어에서 쿼리 시간 2-5초. 16GB에서도 작동하지만 다른 것은 모두 먼저 닫으세요.
git clone https://github.com/Sydsec/syd
cd syd
python setup.py
python syd.py
설치 과정에서 모델(~9.7GB)과 임베딩 모델(~90MB)을 자동으로 다운로드합니다. HuggingFace 계정이 필요하지 않습니다. 연결 속도에 따라 20-30분 소요됩니다. 완료되면 모든 것이 완전히 오프라인에서 실행됩니다.
llama-cpp-python 설치 중 오류가 발생하면 setup.py 실행 전에 다음을 수동으로 실행하세요:
pip install llama-cpp-python==0.3.16 --force-reinstall --no-cache-dir --config-settings="cmake.args=-DGGML_AVX2=OFF;-DGGML_AVX=OFF;-DGGML_F16C=OFF;-DGGML_FMA=OFF"
이는 일부 Windows 설정에서 알려진 호환성 문제입니다. cmake 플래그는 특정 CPU에서 충돌을 일으키는 AVX2를 비활성화합니다.
세 단계로 이루어집니다. 먼저 스캔 파일을 결정론적으로 파싱합니다 — AI 없음, 순수 정규식과 구조화된 파싱으로 데이터 추출이 항상 정확합니다. 둘째, 로컬 FAISS 인덱스에서 관련 기술 문서를 가져옵니다. 셋째, Qwen 2.5 14B가 검증된 사실만 사용하여 답변을 생성합니다.
그런 다음 답변이 실제 스캔에 있었던 내용과 비교됩니다. 모델이 데이터에 없었던 IP, 프로세스 또는 호스트 이름을 참조하면 답변이 차단되고 재생성됩니다. 이것이 환각을 방지하는 방법입니다.
해당 탭에 파일을 로드하거나 출력을 붙여넣으세요. Analyse를 클릭하세요. 분석이 완료되면 Ask Syd 상자에 질문을 입력하세요.
잘 작동하는 예:
Nmap: "SMB 서명이 비활성화된 호스트는?" / "비표준 포트의 모든 서비스를 보여줘" / "10.0.0.15의 공격 표면은?"
BloodHound: "도메인 관리자까지의 최단 경로는?" / "Kerberoastable한 사용자는?" / "제약 없는 위임이 있는 모든 컴퓨터를 보여줘"
Volatility: "가장 의심스러운 프로세스는?" / "인젝션된 프로세스가 있나?" / "모든 외부 네트워크 연결 목록"
"모델을 찾을 수 없음" — setup.py가 완료되지 않았습니다. rag_engine/models/qwen2.5-14b-instruct-q5_k_m.gguf에 모델이 있고 약 9.7GB인지 확인하세요. 더 작다면 다운로드가 중단된 것이므로 삭제하고 setup.py를 다시 실행하세요.
메모리 부족 — 브라우저와 RAM을 사용하는 다른 모든 것을 닫으세요. 16GB는 빠듯하고 24GB는 여유롭습니다.
첫 실행 느림 — 예상된 현상입니다. 모델 로딩에 10-20초가 소요됩니다. 이후 쿼리는 2-5초입니다.
FAISS 오류 — 인덱스는 리포지토리와 함께 제공됩니다. 누락되었거나 손상된 경우 python build_all_databases.py를 실행하세요.
엔터프라이즈는 이 리포지토리의 모든 기능에 Metasploit 및 Sliver C2 분석을 추가합니다.
레드 팀 작업을 하고 있다면 문제를 알 것입니다 — NDA와 고객 데이터 때문에 세션 출력을 ChatGPT에 붙여넣을 수 없습니다. 엔터프라이즈는 MSF 세션과 Sliver 비콘에 대해 동일한 AI 분석을 완전히 오프라인으로 제공합니다. 무슨 일이 있었는지, 다음에 무엇으로 피벗할지, 자격 증명이 컨텍스트에서 무엇을 의미하는지 물어보세요.
연락처: [email protected] 또는 https://sydsec.co.uk
YouTube 튜토리얼 및 워크스루: https://www.youtube.com/@paularmstrong8306
시작하기 전에 시청할 가치가 있습니다 — 실제 침투 테스트 데이터에 대한 실제 워크플로를 보여줍니다.
Qwen 2.5 14B Instruct, Q5_K_M 양자화. Temperature 0.05-0.1로 답변을 간결하게 유지. 반복 패널티 2.8-3.2. 컨텍스트 윈도우 8192 토큰.
임베딩: all-MiniLM-L6-v2. 벡터 저장소: FAISS (IndexFlatIP, 코사인 유사도).
Paul Armstrong — https://sydsec.co.uk — YouTube: https://www.youtube.com/@paularmstrong8306