derrumbe/ruseApplicazione mobile basata su fotocamera che cerca di alterare le foto per preservarne l'utilità per gli esseri umani, rendendole inutilizzabili per i sistemi di riconoscimento facciale.
Applicazione mobile basata su fotocamera che cerca di alterare le foto per preservarne l'utilità per gli esseri umani, rendendole al contempo inutilizzabili per i sistemi di riconoscimento facciale.
(1) Metodo semplice: attendere e scaricare l'app dall'app store appropriato.
(2) Scaricare ed eseguire l'app iOS tramite XCode (vedere la sezione Configurazione di sviluppo per maggiori dettagli)
L'app è sviluppata come applicazione basata su fotocamera, che consente di modificare i volti in nuove acquisizioni della fotocamera o in foto attuali presenti nel rullino, con l'obiettivo di mantenerle utili per i social media e il consumo umano, rendendo difficile per i sistemi di riconoscimento facciale utilizzarle in modo accurato ed efficace.
Ciò avviene attraverso una varietà di metodi basati su ricerche precedenti. A causa dei limiti dei dispositivi mobili e di TensorFlow Lite, l'apprendimento sul dispositivo stesso non è possibile, quindi alcune delle tecniche più avanzate non sono ancora realizzabili (ma la ricerca e lo sviluppo potrebbero produrre risultati futuri).
Le istruzioni per l'uso e un video completo arriveranno con la prima versione.
Il notebook Jupyter illustra la tecnica avversaria di "stile arbitrario veloce" possibile su mobile:
Nel lungo termine, questa tecnica verrà applicata in modo selettivo (probabilmente a segmenti delle fotografie), insieme a rumore perlin/simplex generato su base per immagine, sul modello di https://github.com/kieranbrowne/camera-adversaria.
Vengono utilizzati vari metodi per nascondere i volti dai sistemi di riconoscimento commerciali (ad es. trasferimento arbitrario di file, introduzione di rumore perlin). Prima di salvare nel rullino o utilizzare per scopi online, una funzione integrata verifica se i volti possono essere rilevati.
L'effetto di questi approcci avversari può quindi essere verificato senza necessità di accesso alla rete.
(Le versioni future prevedono l'inclusione di una stima integrata simile di come un sistema di riconoscimento campione si comporti sull'immagine modificata (classificazione anziché semplice rilevamento).)
Requisiti: Xcode >12
Pod installati come parte del processo seguente: TensorFlow Lite (Swift nightly build) // GoogleMLKit // GPUImage3
L'installazione sul dispositivo è lasciata come esercizio per il lettore.
Nota futura: L'apprendimento sul dispositivo è ora possibile con TFLite. Potrebbe comunque non essere pratico poiché le iterazioni potrebbero richiedere troppo tempo per essere utili per gli utenti normali.
Distribuito sotto licenza MIT. Vedere LICENSE per maggiori informazioni.
