derrumbe/ruseМобильное приложение на основе камеры, которое пытается изменять фотографии, чтобы сохранить их полезность для людей, делая их непригодными для систем распознавания лиц.
Мобильное приложение на основе камеры, которое пытается изменять фотографии, сохраняя их полезность для людей, но делая их бесполезными для систем распознавания лиц.
(1) Простой способ: подождать и загрузить приложение из соответствующего магазина приложений.
(2) Загрузить и запустить приложение для iOS через Xcode (см. раздел «Настройка разработки» для получения более подробной информации).
Приложение разработано как приложение на основе камеры, позволяющее изменять лица на новых снимках с камеры или на текущих фотографиях из фотоальбома с целью сохранить их полезными для социальных сетей и человеческого восприятия, одновременно затрудняя их точное и эффективное использование системами распознавания лиц.
Это достигается с помощью различных методов, основанных на предыдущих исследованиях. Из-за ограничений мобильных устройств и TensorFlow Lite обучение на самом устройстве невозможно, поэтому некоторые из более продвинутых методов пока недоступны (но исследования и разработки могут дать результаты в будущем).
Инструкции по использованию и полное видео будут доступны с первым релизом.
Jupyter-ноутбук иллюстрирует технику состязательной атаки «произвольный быстрый стиль», которая возможна на мобильных устройствах:
В долгосрочной перспективе этот метод будет применяться выборочно (вероятно, к сегментам фотографий) вместе с шумом Перлина/симплекса, генерируемым для каждого изображения, по аналогии с https://github.com/kieranbrowne/camera-adversaria.
Для сокрытия лиц от коммерческих систем распознавания используется множество методов (например, произвольная передача файлов, внесение шума Перлина). Перед сохранением в фотоальбом или использованием в онлайн-целях встроенная функция проверяет, можно ли обнаружить лица.
Эффект от этих состязательных подходов затем можно проверить без необходимости доступа к сети.
(В будущих версиях планируется включить аналогичную встроенную оценку того, как эталонная система распознавания справляется с изменённым изображением (классификация, а не просто обнаружение).)
Требования: Xcode >12
Pod-ы, устанавливаемые в рамках описанного ниже процесса: TensorFlow Lite (Swift nightly build) // GoogleMLKit // GPUImage3
Установка на устройство оставляется в качестве упражнения для читателя.
Примечание на будущее: обучение на устройстве теперь возможно с TFLite. Тем не менее, это может быть непрактично, так как итерации могут занимать слишком много времени для обычных пользователей.
Распространяется под лицензией MIT. См. LICENSE для получения дополнительной информации.
