protectai/ai-exploitsUma coleção de explorações reais de IA/ML para vulnerabilidades divulgadas de forma responsável
O mundo da IA tem um problema de segurança e não está apenas nas entradas fornecidas a LLMs como o ChatGPT. Com base em pesquisas realizadas pela Protect AI e por especialistas independentes em segurança na plataforma de Bug Bounty Huntr, existem ataques muito mais impactantes e práticos contra as ferramentas, bibliotecas e frameworks usados para construir, treinar e implantar modelos de machine learning. Muitos desses ataques levam à tomada completa do sistema e/ou perda de dados sensíveis, modelos ou credenciais, na maioria das vezes sem necessidade de autenticação.
Com o lançamento deste repositório, a Protect AI espera desmistificar para a comunidade de Segurança da Informação como são os ataques práticos contra infraestruturas de IA/Machine Learning no mundo real e aumentar a conscientização sobre a quantidade de componentes vulneráveis que existem atualmente no ecossistema de IA/ML. Mais vulnerabilidades podem ser encontradas aqui:
Este repositório, ai-exploits, é uma coleção de exploits e templates de varredura para vulnerabilidades divulgadas de forma responsável que afetam ferramentas de machine learning.
Cada ferramenta vulnerável possui um número de subpastas contendo três tipos de utilitários: módulos do Metasploit, templates do Nuclei e templates CSRF. Os módulos do Metasploit são para profissionais de segurança que desejam explorar as vulnerabilidades, e os templates do Nuclei são para varrer um grande número de servidores remotos para determinar se estão vulneráveis.
Vídeo demonstrando a execução de um dos módulos do Metasploit contra o Ray:
A maneira mais fácil de usar os módulos e templates de varredura é construir e executar a imagem Docker fornecida pelo Dockerfile neste repositório. A imagem Docker terá Metasploit e Nuclei já instalados, juntamente com toda a configuração necessária.
Construir a imagem:
git clone https://github.com/protectai/ai-exploits && cd ai-exploits
docker build -t protectai/ai-exploits .
Executar a imagem Docker:
docker run -it --rm protectai/ai-exploits /bin/bash
O último comando irá colocá-lo em uma sessão bash no contêiner com msfconsole e nuclei prontos para uso.
Inicie o console do Metasploit (os novos módulos estarão disponíveis na categoria exploits/protectai), carregue um módulo, defina as opções e execute o exploit.
msfconsole
msf6 > use exploit/protectai/ray_job_rce
msf6 exploit(protectai/ray_job_rce) > set RHOSTS <IP do alvo>
msf6 exploit(protectai/ray_job_rce) > run
Crie uma pasta ~/.msf4/modules/exploits/protectai e copie os módulos de exploit para dentro dela.
mkdir -p ~/.msf4/modules/exploits/protectai
cp ai-exploits/ray/msfmodules/* ~/.msf4/modules/exploits/protectai
msfconsole
msf6 > use exploit/protectai/<nome_do_exploit.py>
Nuclei é um motor de varredura de vulnerabilidades que pode ser usado para varrer um grande número de servidores em busca de vulnerabilidades conhecidas em aplicações web e redes.
Navegue até a pasta de templates do Nuclei, como ai-exploits/mlflow/nuclei-templates. No contêiner Docker, eles estão armazenados na pasta /root/nuclei-templates. Em seguida, basta apontar para o arquivo de template e o servidor alvo.
cd ai-exploits/mlflow/nuclei-templates
nuclei -t mlflow-lfi.yaml -u http://<alvo>:<porta>
Vulnerabilidades de Cross-Site Request Forgery (CSRF) permitem que atacantes levantem um servidor web hospedando uma página HTML maliciosa que executará uma requisição ao servidor alvo em nome da vítima. Este é um vetor de ataque comum para explorar vulnerabilidades em aplicações web, incluindo aplicações web que estão expostas apenas na interface localhost e não na rede mais ampla. Abaixo está um exemplo simples de demonstração de como usar um template CSRF para explorar uma vulnerabilidade em uma aplicação web.
Inicie um servidor web na pasta csrf-templates. Python permite levantar um servidor web simples em qualquer diretório. Navegue até a pasta do template e inicie o servidor.
cd ai-exploits/ray/csrf-templates
python3 -m http.server 9999
Agora visite o endereço do servidor web que você acabou de levantar (http://127.0.0.1:9999) e pressione F12 para abrir as ferramentas do desenvolvedor, em seguida clique na aba Network. Clique no link para ray-cmd-injection-csrf.html. Você verá que o navegador enviou uma requisição ao servidor vulnerável em seu nome.
Aceitamos contribuições para este repositório. Leia nossas Diretrizes de Contribuição para mais informações sobre como contribuir.
Este projeto está licenciado sob a Licença Apache 2.0.