KI-Exploits

Die KI-Welt hat ein Sicherheitsproblem, und es liegt nicht nur in den Eingaben, die LLMs wie ChatGPT gegeben werden. Basierend auf Forschungen von Protect AI und unabhängigen Sicherheitsexperten auf der Huntr Bug-Bounty-Plattform gibt es weitaus wirkungsvollere und praktischere Angriffe gegen die Tools, Bibliotheken und Frameworks, die zum Erstellen, Trainieren und Bereitstellen von Machine-Learning-Modellen verwendet werden. Viele dieser Angriffe führen zu einer vollständigen Übernahme des Systems und/oder zum Verlust sensibler Daten, Modelle oder Anmeldeinformationen, meist ohne dass eine Authentifizierung erforderlich ist.

Mit der Veröffentlichung dieses Repositorys möchte Protect AI der Informationssicherheits-Community entmystifizieren, wie praktische Angriffe gegen KI-/Machine-Learning-Infrastrukturen in der realen Welt aussehen, und das Bewusstsein für die Anzahl anfälliger Komponenten schärfen, die derzeit im KI/ML-Ökosystem existieren. Weitere Schwachstellen finden Sie hier:

• November Verwundbarkeitsbericht
• Dezember Verwundbarkeitsbericht
• Januar Verwundbarkeitsbericht
• Februar Verwundbarkeitsbericht
• März Verwundbarkeitsbericht
• April Verwundbarkeitsbericht
• Mai Verwundbarkeitsbericht
• Juni Verwundbarkeitsbericht
• Juli Verwundbarkeitsbericht

Übersicht

Dieses Repository, ai-exploits, ist eine Sammlung von Exploits und Scan-Vorlagen für verantwortungsvoll offengelegte Schwachstellen, die Machine-Learning-Tools betreffen.

Jedes anfällige Tool verfügt über eine Reihe von Unterordnern, die drei Arten von Dienstprogrammen enthalten: Metasploit-Module, Nuclei-Vorlagen und CSRF-Vorlagen. Metasploit-Module richten sich an Sicherheitsexperten, die die Schwachstellen ausnutzen möchten, und Nuclei-Vorlagen dienen zum Scannen einer großen Anzahl entfernter Server, um festzustellen, ob sie anfällig sind.

Demo

Video, das die Ausführung eines der Metasploit-Module gegen Ray demonstriert:

Einrichtung & Verwendung

Der einfachste Weg, die Module und Scan-Vorlagen zu verwenden, besteht darin, das Docker-Image zu erstellen und auszuführen, das durch die Dockerfile in diesem Repository bereitgestellt wird. Das Docker-Image enthält bereits installierte Metasploit- und Nuclei-Installationen sowie die erforderliche Konfiguration.

Docker

1. Erstellen Sie das Image:

   root@kitploit:~

   git clone https://github.com/protectai/ai-exploits && cd ai-exploits
   docker build -t protectai/ai-exploits .
   

2. Führen Sie das Docker-Image aus:

   root@kitploit:~

   docker run -it --rm protectai/ai-exploits /bin/bash
   

Der letzte Befehl öffnet eine bash-Sitzung im Container, in der msfconsole und nuclei einsatzbereit sind.

Verwendung der Metasploit-Module

Mit Docker

Starten Sie die Metasploit-Konsole (die neuen Module sind unter der Kategorie exploits/protectai verfügbar), laden Sie ein Modul, legen Sie die Optionen fest und führen Sie den Exploit aus.

msfconsole
msf6 > use exploit/protectai/ray_job_rce
msf6 exploit(protectai/ray_job_rce) > set RHOSTS <target IP>
msf6 exploit(protectai/ray_job_rce) > run

Mit lokal installiertem Metasploit

Erstellen Sie einen Ordner ~/.msf4/modules/exploits/protectai und kopieren Sie die Exploit-Module hinein.

mkdir -p ~/.msf4/modules/exploits/protectai
cp ai-exploits/ray/msfmodules/* ~/.msf4/modules/exploits/protectai
msfconsole
msf6 > use exploit/protectai/<exploit_name.py>

Verwendung von Nuclei-Vorlagen

Nuclei ist eine Schwachstellen-Scan-Engine, mit der große Mengen von Servern auf bekannte Schwachstellen in Webanwendungen und Netzwerken gescannt werden können.

Navigieren Sie zum Nuclei-Vorlagenordner, z. B. ai-exploits/mlflow/nuclei-templates. Im Docker-Container befinden sich diese im Ordner /root/nuclei-templates. Verweisen Sie dann einfach auf die Vorlagendatei und den Zielserver.

cd ai-exploits/mlflow/nuclei-templates
nuclei -t mlflow-lfi.yaml -u http://<target>:<port>

Verwendung von CSRF-Vorlagen

Cross-Site Request Forgery (CSRF)-Schwachstellen ermöglichen Angreifern, einen Webserver zu betreiben, der eine schädliche HTML-Seite hostet, die im Namen des Opfers eine Anfrage an den Zielserver ausführt. Dies ist ein häufiger Angriffsvektor zur Ausnutzung von Schwachstellen in Webanwendungen, einschließlich Webanwendungen, die nur auf der Localhost-Schnittstelle und nicht im größeren Netzwerk verfügbar sind. Nachfolgend finden Sie ein einfaches Demo-Beispiel zur Verwendung einer CSRF-Vorlage zur Ausnutzung einer Schwachstelle in einer Webanwendung.

Starten Sie einen Webserver im csrf-templates-Ordner. Python ermöglicht es, in jedem Verzeichnis einen einfachen Webserver zu starten. Navigieren Sie zum Vorlagenordner und starten Sie den Server.

cd ai-exploits/ray/csrf-templates
python3 -m http.server 9999

Besuchen Sie nun die soeben gestartete Webserver-Adresse (http://127.0.0.1:9999) und drücken Sie F12, um die Entwicklertools zu öffnen. Klicken Sie dann auf den Netzwerkreiter. Klicken Sie auf den Link zu ray-cmd-injection-csrf.html. Sie sollten sehen, dass der Browser in Ihrem Namen eine Anfrage an den anfälligen Server gesendet hat.

Beitragsrichtlinien

Wir freuen uns über Beiträge zu diesem Repository. Bitte lesen Sie unsere Beitragsrichtlinien für weitere Informationen zur Mitwirkung.

Lizenz

Dieses Projekt ist unter der Apache 2.0-Lizenz lizenziert.