derrumbe/ruseApplication mobile basée sur la caméra qui tente de modifier les photos pour préserver leur utilité pour les humains tout en les rendant inutilisables pour les systèmes de reconnaissance faciale.
Application mobile basée sur la caméra qui tente de modifier les photos pour préserver leur utilité pour les humains tout en les rendant inutilisables pour les systèmes de reconnaissance faciale.
(1) Méthode simple : attendez et téléchargez l'application depuis l’App Store approprié.
(2) Téléchargez et exécutez l'application iOS via Xcode (voir la configuration de développement pour plus de détails)
L'application est développée comme une application basée sur la caméra, permettant la modification des visages sur les nouvelles captures ou les photos actuelles de la pellicule, dans le but de les garder utiles pour les réseaux sociaux et la consommation humaine tout en rendant difficile leur utilisation précise et efficace par les systèmes de reconnaissance faciale.
Cela se fait grâce à une variété de méthodes basées sur des recherches antérieures. En raison des limites des appareils mobiles et de TensorFlow Lite, l'apprentissage sur l'appareil lui-même n'est pas possible — certaines techniques plus avancées ne sont donc pas encore réalisables (mais la recherche et le développement pourraient apporter des résultats futurs).
Les instructions d'utilisation et une vidéo complète seront fournies avec la première version.
Le Jupyter notebook illustre la technique adverse « style rapide arbitraire » qui est possible sur mobile :
À long terme, cette technique sera appliquée de manière sélective (probablement à des segments des photos), accompagnée de bruit Perlin/Simplex généré par image, à la manière de https://github.com/kieranbrowne/camera-adversaria.
Une variété de méthodes sont utilisées pour dissimuler les visages des systèmes de reconnaissance commerciaux (par exemple, transfert de fichier arbitraire, introduction de bruit Perlin). Avant d'enregistrer dans la pellicule ou d'être utilisées en ligne, une fonctionnalité intégrée vérifie si des visages peuvent être détectés.
L'effet de ces approches adverses peut ensuite être vérifié sans avoir besoin d'accès réseau.
(Les futures versions prévoient d'inclure une estimation embarquée similaire de la performance d'un système de reconnaissance type face à l'image modifiée (classification plutôt que simple détection).)
Prérequis : Xcode >12
Pods installés dans le cadre du processus ci-dessous : TensorFlow Lite (version nightly Swift) // GoogleMLKit // GPUImage3
L'installation sur l'appareil est laissée comme exercice pour le lecteur.
Note future : L'apprentissage sur l'appareil est désormais possible avec TFLite. Cela pourrait encore ne pas être pratique car les itérations pourraient prendre trop de temps pour être utiles aux utilisateurs normaux.
Distribué sous licence MIT. Voir LICENSE pour plus d'informations.
