Как обмануть системы распознавания лица?
Используя специальный софт можно запросто найти по фото любого человека, и пожалуй кто угодно был бы рад сделать так, чтобы эти сервисы не могли его обнаружить. В эпоху повсеместного распространения камер видеонаблюдения, социальных сетей и цифровых следов, возможность оставаться анонимным становится всё более ценной. Технологии распознавания лиц, хоть и несут в себе потенциал для повышения безопасности, также открывают двери для несанкционированного сбора и использования персональных данных. Это может включать отслеживание перемещений, анализ поведения и даже создание досье на людей без их ведома.
Fawkes — приложение, которое заменяет на фото часть пикселей так, что для невооружённого взгляда не изменится ровным счётом ничего, но системы распознавания впадают в ступор. Этот процесс, известный как «атака на основе искажения», основан на внесении минимальных, незаметных для человеческого глаза изменений в изображение. Эти изменения, однако, оказывают существенное влияние на то, как алгоритмы машинного обучения интерпретируют черты лица. Fawkes работает, создавая «шум» на изображении, который намеренно сбивает с толку нейронные сети, заставляя их делать ошибочные выводы о принадлежности лица. Это похоже на то, как если бы вы немного изменили свою прическу или надели очки – для человека это незначительные перемены, но для компьютерной системы они могут полностью изменить её представление о вас.
Эффективность программы была проверена на самых разных инструментах, в том числе и на алгоритмах от Amazon и Microsoft, не позволив им найти пользователя по фотографии. Исследования показали, что Fawkes успешно противостоит как коммерческим, так и исследовательским системам распознавания лиц. Это означает, что фотографии, обработанные Fawkes, могут значительно снизить риск быть идентифицированным при загрузке в социальные сети, на форумы или другие онлайн-платформы, где используются подобные технологии. Таким образом, Fawkes предоставляет пользователям дополнительный уровень контроля над своими цифровыми отпечатками и помогает сохранить приватность в условиях растущей слежки.
