derrumbe/ruseAplicativo baseado em câmera móvel que tenta alterar fotos para preservar sua utilidade para humanos, enquanto as torna inutilizáveis para sistemas de reconhecimento facial.
Aplicação baseada em câmara móvel que tenta alterar fotografias para preservar a sua utilidade para humanos, tornando-as inutilizáveis para sistemas de reconhecimento facial.
(1) Método fácil: Espere e descarregue a aplicação na app store apropriada.
(2) Descarregue e execute a aplicação iOS via XCode (consulte a Configuração de desenvolvimento para mais detalhes)
A aplicação foi desenvolvida como uma aplicação baseada em câmara, permitindo a modificação de rostos em novas capturas ou em fotografias atuais do rolo da câmara, com o objetivo de mantê-las úteis para redes sociais e consumo humano, dificultando a sua utilização precisa e eficaz por sistemas de reconhecimento facial.
Isto é feito através de uma variedade de métodos baseados em pesquisas anteriores. Devido às limitações dos dispositivos móveis e do TensorFlow Lite, a aprendizagem no próprio dispositivo não é possível — por isso, algumas das técnicas mais avançadas ainda não são possíveis (mas a investigação e o desenvolvimento podem produzir resultados futuros).
Instruções de uso e um vídeo completo serão fornecidos com o primeiro lançamento.
O Jupyter notebook ilustra a técnica adversarial "arbitrária rápida" que é possível em dispositivos móveis:
A longo prazo, esta técnica será aplicada seletivamente (provavelmente a segmentos das fotografias), juntamente com ruído Perlin/Simplex gerado por imagem, à la https://github.com/kieranbrowne/camera-adversaria.
Vários métodos são usados para ocultar os rostos de sistemas de reconhecimento comerciais (ex.: transferência arbitrária de ficheiros, introdução de ruído Perlin). Antes de guardar no rolo da câmara ou de usar para fins online, uma funcionalidade integrada verifica se os rostos podem ser detetados.
O efeito destas abordagens adversariais pode então ser verificado sem necessidade de acesso à rede.
(Versões futuras planeiam incluir uma estimativa integrada semelhante de como um sistema de reconhecimento de amostras se comporta face à imagem modificada (classificação em vez de mera deteção).)
Requisitos: Xcode >12
Pods instalados como parte do processo abaixo: TensorFlow Lite (Swift nightly build) // GoogleMLKit // GPUImage3
A instalação no dispositivo fica como exercício para o leitor.
Nota futura: A aprendizagem no dispositivo é agora possível com TFLite. Isto ainda pode não ser prático, pois as iterações podem demorar demasiado tempo para serem úteis para utilizadores comuns.
Distribuído sob a licença MIT. Consulte LICENSE para mais informações.
