V'ger

V'ger è un'applicazione interattiva da riga di comando per il post-sfruttamento di istanze Jupyter autenticate, con focus sulle operazioni di sicurezza AI/ML.

Storie Utente

• Come Red Teamer, hai trovato credenziali Jupyter ma non sai cosa farci. V'ger è organizzato in un formato che dovrebbe essere intuitivo per la maggior parte dei professionisti della sicurezza offensiva, per aiutarli a comprendere le funzionalità del server Jupyter target.
• Come Red Teamer, sai che alcune azioni basate sul browser saranno visibili agli utenti legittimi di Jupyter. Ad esempio, la modifica delle schede apparirà nel loro spazio di lavoro e i comandi inseriti nelle celle verranno registrati nella cronologia. V'ger riduce la probabilità di rilevamento.
• Come AI Red Teamer, comprendi gli attacchi algoritmici accademici, ma hai bisogno di un vettore di esecuzione più pratico. Ad esempio, potresti aver bisogno di modificare un grande dataset fondazionale su scala internet come parte di un'operazione di avvelenamento del modello. Modificare quel dataset alla sua fonte potrebbe essere impossibile o generare artefatti controllabili indesiderati. Con V'ger puoi raggiungere gli stessi obiettivi in memoria, un miglioramento significativo delle tecniche operative.
• Come Blue Teamer, vuoi comprendere la registrazione e la visibilità di una distribuzione live di Jupyter. V'ger può aiutarti a generare artefatti ripetibili per testare l'instrumentazione e svolgere esercitazioni di risposta agli incidenti.

Utilizzo

Configurazione iniziale

1. pip install vger
2. vger --help

Attualmente, vger interactive ha la massima funzionalità, mantenendo lo stato per gli artefatti scoperti e i lavori ricorrenti. Tuttavia, la maggior parte delle funzionalità è disponibile anche per nome in formato non interattivo con vger <modulo>. Elenca i moduli disponibili con vger --help.

Comandi

Una volta stabilita una connessione, gli utenti accedono a un insieme di menu annidati.

Il menu di primo livello è:

• Reset: Configura un host diverso.
• Enumerate: Utility per conoscere meglio l'host.
• Exploit: Utility per eseguire azioni dirette e manipolazione dell'host e degli artefatti.
• Persist: Utility per stabilire meccanismi di persistenza.
• Export: Salva l'output in un file di testo.
• Quit: Nessuno ama chi molla.

Questi menu contengono le seguenti funzionalità:

• List modules: Identifica i moduli importati nei notebook target per determinare quali librerie sono disponibili per il codice iniettato.
• Inject: Esegue codice nel contesto del notebook selezionato. Il codice può essere fornito in un editor di testo o specificando un file .py locale. Entrambi gli input vengono elaborati come stringa ed eseguiti nel runtime del notebook.
• Backdoor: Avvia una nuova istanza di JupyterLab aperta su 0.0.0.0, con allow-root su una porta specificata dall'utente con una password specificata dall'utente.
• Check History: Mostra i comandi ipython eseguiti di recente nel notebook target.
• Run shell command: Avvia un terminale, esegue il comando, restituisce l'output ed elimina il terminale.
• List dir or get file: Elenca le directory relative alla directory di Jupyter. Se non sai da dove iniziare, inizia con /.
• Upload file: Carica un file dal localhost al target. Specifica i percorsi nello stesso formato di List dir (relativi alla directory di Jupyter). Fornisci un percorso completo includendo nome file ed estensione.
• Delete file: Elimina un file. Specifica i percorsi nello stesso formato di List dir (relativi alla directory di Jupyter).
• Find models: Trova modelli basati su formati di file comuni.
• Download models: Scarica i modelli trovati.
• Snoop: Monitora l'esecuzione del notebook e i risultati fino al timeout.
• Recurring jobs: Avvia/Kill snippet di codice ricorrenti eseguiti silenziosamente nell'ambiente target.

Sperimentale

Con pip install vger[ai] otterrai riassunti generati da LLM dei notebook nell'ambiente target. Sono pensati come una traduzione approssimativa per persone non DS/AI per fare un rapido triage di quali notebook valga la pena approfondire.

C'era un compromesso intrinseco tra dimensione del modello e capacità, ed è qualcosa su cui continuerò a lavorare, ma spero che sia utile per alcuni utenti di sicurezza più tradizionali. Mi piacerebbe vedere persone iniziare a fare prompt injection nei loro notebook ("questi non sono i droidi che state cercando").

Esempi

• Sovrascrivere un dataset Torch per modificare le etichette