protectai/ai-exploits책임감 있게 공개된 취약점에 대한 실제 AI/ML 익스플로잇 모음
AI 세계에는 보안 문제가 있으며, 이는 ChatGPT와 같은 LLM에 제공되는 입력에만 국한되지 않습니다. Protect AI와 Huntr 버그 바운티 플랫폼의 독립적인 보안 전문가들이 수행한 연구에 따르면, 머신러닝 모델을 구축, 학습 및 배포하는 데 사용되는 도구, 라이브러리 및 프레임워크를 대상으로 한 훨씬 더 영향력 있고 실용적인 공격이 존재합니다. 이러한 공격 중 다수는 대부분 인증 없이 전체 시스템 장악 및/또는 민감한 데이터, 모델 또는 자격 증명 유출로 이어집니다.
이 저장소의 공개를 통해 Protect AI는 정보 보안 커뮤니티에 AI/머신러닝 인프라에 대한 실제 공격이 실제로 어떻게 이루어지는지 설명하고, 현재 AI/ML 생태계에 존재하는 취약한 구성 요소의 양에 대한 인식을 높이기를 희망합니다. 더 많은 취약점은 다음에서 확인할 수 있습니다:
이 저장소인 ai-exploits는 책임감 있게 공개된 머신러닝 도구에 영향을 미치는 취약점에 대한 익스플로잇 및 스캐닝 템플릿 모음입니다.
각 취약한 도구에는 세 가지 유틸리티 유형이 포함된 여러 하위 폴더가 있습니다: Metasploit 모듈, Nuclei 템플릿 및 CSRF 템플릿. Metasploit 모듈은 취약점을 악용하려는 보안 전문가를 위한 것이며, Nuclei 템플릿은 대규모 원격 서버를 스캔하여 취약한지 여부를 확인하기 위한 것입니다.
Ray에 대해 Metasploit 모듈 중 하나를 실행하는 방법을 보여주는 비디오:
모듈 및 스캐닝 템플릿을 사용하는 가장 쉬운 방법은 이 저장소의 Dockerfile에서 제공되는 Docker 이미지를 빌드하고 실행하는 것입니다. Docker 이미지에는 Metasploit과 Nuclei가 이미 설치되어 있으며 필요한 모든 구성도 포함되어 있습니다.
이미지 빌드:
git clone https://github.com/protectai/ai-exploits && cd ai-exploits
docker build -t protectai/ai-exploits .
도커 이미지 실행:
docker run -it --rm protectai/ai-exploits /bin/bash
후자의 명령은 msfconsole 및 nuclei가 준비된 컨테이너의 bash 세션으로 이동시킵니다.
Metasploit 콘솔을 시작합니다(새 모듈은 exploits/protectai 범주 아래에 있습니다), 모듈을 로드하고 옵션을 설정한 후 익스플로잇을 실행합니다.
msfconsole
msf6 > use exploit/protectai/ray_job_rce
msf6 exploit(protectai/ray_job_rce) > set RHOSTS <대상 IP>
msf6 exploit(protectai/ray_job_rce) > run
~/.msf4/modules/exploits/protectai 폴더를 생성하고 익스플로잇 모듈을 복사합니다.
mkdir -p ~/.msf4/modules/exploits/protectai
cp ai-exploits/ray/msfmodules/* ~/.msf4/modules/exploits/protectai
msfconsole
msf6 > use exploit/protectai/<exploit_name.py>
Nuclei는 웹 애플리케이션 및 네트워크의 알려진 취약점에 대해 대규모 서버를 스캔하는 데 사용할 수 있는 취약점 스캐닝 엔진입니다.
ai-exploits/mlflow/nuclei-templates와 같은 nuclei 템플릿 폴더로 이동합니다. Docker 컨테이너에서는 /root/nuclei-templates 폴더에 저장됩니다. 그런 다음 템플릿 파일과 대상 서버를 지정하면 됩니다.
cd ai-exploits/mlflow/nuclei-templates
nuclei -t mlflow-lfi.yaml -u http://<target>:<port>
교차 사이트 요청 위조(CSRF) 취약점을 통해 공격자는 피해자를 대신하여 대상 서버에 요청을 실행하는 악의적인 HTML 페이지를 호스팅하는 웹 서버를 구축할 수 있습니다. 이는 로컬호스트 인터페이스에만 노출되고 더 넓은 네트워크에는 노출되지 않는 웹 애플리케이션을 포함하여 웹 애플리케이션의 취약점을 악용하는 일반적인 공격 벡터입니다. 아래는 CSRF 템플릿을 사용하여 웹 애플리케이션의 취약점을 악용하는 방법에 대한 간단한 데모 예제입니다.
csrf-templates 폴더에서 웹 서버를 시작합니다. Python을 사용하면 모든 디렉토리에서 간단한 웹 서버를 실행할 수 있습니다. 템플릿 폴더로 이동하여 서버를 시작합니다.
cd ai-exploits/ray/csrf-templates
python3 -m http.server 9999
이제 방금 시작한 웹 서버 주소(http://127.0.0.1:9999)로 이동하여 F12를 눌러 개발자 도구를 열고 네트워크 탭을 클릭합니다. ray-cmd-injection-csrf.html 링크를 클릭합니다. 브라우저가 사용자를 대신하여 취약한 서버로 요청을 보낸 것을 볼 수 있습니다.
이 저장소에 대한 기여를 환영합니다. 기여 방법에 대한 자세한 내용은 기여 가이드라인을 참조하세요.
이 프로젝트는 Apache 2.0 라이선스에 따라 라이선스가 부여됩니다.