derrumbe/ruseAplicación basada en cámara móvil que intenta alterar fotos para preservar su utilidad para los humanos mientras las hace inutilizables para los sistemas de reconocimiento facial.
Aplicación móvil basada en la cámara que intenta modificar fotos para preservar su utilidad para los humanos, al mismo tiempo que las vuelve inutilizables para sistemas de reconocimiento facial.
(1) Método sencillo: esperar y descargar la aplicación desde la tienda de aplicaciones correspondiente.
(2) Descargar y ejecutar la aplicación iOS mediante Xcode (ver Configuración de desarrollo para más detalles).
La aplicación se desarrolla como una app basada en la cámara, permitiendo modificar rostros en nuevas capturas de cámara o fotos existentes en el carrete con el objetivo de mantenerlas útiles para redes sociales y consumo humano, al mismo tiempo que dificulta que los sistemas de reconocimiento facial las utilicen de manera precisa y eficaz.
Esto se logra mediante una variedad de métodos basados en investigaciones previas. Debido a las limitaciones de los dispositivos móviles y TensorFlow Lite, no es posible el aprendizaje en el propio dispositivo, por lo que algunas de las técnicas más avanzadas aún no son viables (pero la investigación y el desarrollo podrían dar resultados en el futuro).
Las instrucciones de uso y un video completo estarán disponibles con la primera versión.
El cuaderno Jupyter ilustra la técnica adversarial de "estilo rápido arbitrario" que es posible en dispositivos móviles:
A largo plazo, esta técnica se aplicará de forma selectiva (probablemente a segmentos de las fotografías), junto con ruido de Perlin/simplex generado por imagen, como en https://github.com/kieranbrowne/camera-adversaria.
Se utilizan varios métodos para ocultar los rostros de los sistemas de reconocimiento comerciales (por ejemplo, transferencia de archivos arbitraria, introducción de ruido Perlin). Antes de guardar en el carrete o usar en línea, una función interna verifica si se pueden detectar rostros.
El efecto de estos enfoques adversariales puede verificarse sin necesidad de tener acceso a la red.
(Las versiones futuras planean incluir una estimación interna similar de cómo un sistema de reconocimiento de muestra se comporta frente a la imagen modificada — clasificación en lugar de solo detección.)
Requisitos: Xcode >12
Pods instalados como parte del proceso a continuación: TensorFlow Lite (Swift nightly build) // GoogleMLKit // GPUImage3
La instalación en un dispositivo se deja como ejercicio para el lector.
Nota futura: El aprendizaje en el dispositivo ahora es posible con TFLite. Sin embargo, puede que no sea práctico ya que las iteraciones podrían tardar demasiado para ser útiles para usuarios comunes.
Distribuido bajo la licencia MIT. Consulte LICENSE para más información.
