Nie chcesz, żeby algorytm rozpoznał twoją twarz? Wystarczy jedna rzecz

Chronienie swojej prywatności w dobie rosnącego cyfrowego nadzoru robi się trudne, szczególnie w świecie coraz to bardziej zdominowanym przez technologię rozpoznawania twarzy. A te mają już zastosowanie w przestrzeni publicznej w wielu krajach na świecie - w Chinach, ale także i w Europie, m.in. w Wielkiej Brytanii czy Danii. W UE wiele państw nadal to rozważa - w Polsce jak na razie nie toczą się oficjalnie prace legislacyjne dotyczące wykorzystania przez służby takiej technologii do identyfikacji twarzy.

Jak zmylić systemy rozpoznawania twarzy?

Temat zbadali David Noever i Forrest McKee z PeopleTec i opisali w artykule "Nowatorski kamuflaż kamery AI: maskowanie twarzy bez pełnego kamuflażu", opublikowanym na łamach ArXiv, czyli otwartego archiwum tekstów naukowych Cornell University. Odkryli, że subtelne zastosowanie makijażu w kluczowych obszarach twarzy, takich jak linie brwi, grzbiet nosa i kontury szczęki, może skutecznie zakłócić działanie systemów rozpoznawania twarzy.

Systemom do identyfikacji twarzy nadal z powodzeniem opierają się maski, które zyskały popularność szczególnie podczas pandemii i nadal są skuteczne bez względu na używany algorytm. Dobrze radzą sobie także techniki - CV Dazzle (polegającej na tworzeniu asymetrii za pomocą makijażu o wysokim kontraście) czy Juggalo (który zakrywa linie szczęki i policzków). Jednak, jak zauważają autorzy, te metody przyciągają uwagę, łatwo je zauważyć i nie działają na nowoczesne detektory twarzy trenowane na modelach kluczowych punktów.

Obejrzyj w

Wystarczy lekko zaciemnić kluczowe punkty twarzy

W przeciwieństwie do wcześniejszych metod, które polegały na wyrazistych i asymetrycznych wzorach makijażu, te delikatne modyfikacje nie przyciągają uwagi ludzkich obserwatorów, a jednocześnie skutecznie oszukują algorytmy rozpoznawania twarzy.

Badacze uważają, że zastosowanie strategicznego przyciemnienia skóry w okolicach o dużej koncentracji punktów może więc skutecznie zakłócać działanie systemów rozpoznawania twarzy. Wykorzystanie AI i metody testów polegających na sprawdzeniu, jak model radzi sobie z zakłóceniami w danych, poprzez stopniowym wprowadzaniu drobnych zmian, aż model zacznie popełniać błędy - stwarza możliwość generowania wielu subtelnych przebrań, które mogą efektywnie dezorientować algorytmy rozpoznawania twarzy.

Do prób wykorzystali klasyfikatory kaskadowe Haara (wykorzystywane w przetwarzaniu obrazu i wizji komputerowej do detekcji obiektów na zdjęciach lub wideo) oraz systemy komercyjne - takie jak BetaFaceAPI i Microsoft Bing Visual Search. Testy wykazały, że pionowe zakłócenia blisko gęstych punktów twarzy znacząco utrudniają wykrywanie bez konieczności użycia widocznych przebrań.

“To kontrowersyjny temat”

Jeden z autorów badania zaznaczył, że rozpoznawanie twarzy jest tematem kontrowersyjnym, niosącym duże ryzyko, ponieważ łączy w sobie wszystkie najlepsze i najgorsze cechy AI, od uprzedzeń po śledzenie tłumów. Stwierdził również, że systemy rozpoznawania twarzy pozwalają na pewne formy atakowania tych algorytmów bez przyciągania uwagi. Dodał też, że tego rodzaju technologia musi być postrzegana z ostrożnością - mówił David Noever w rozmowie z portalem „The Register”.

Emily Wenger, profesor nadzwyczajna inżynierii elektrycznej i komputerowej na Duke University, która pracowała nad projektami przeciwdziałającymi rozpoznawaniu twarzy, takimi jak Glaze i Fawkes, zwróciła uwagę, że maski pozostają jednym z nielicznych sprawdzonych sposobów unikania tych systemów. Przyznała też, że maski są obecnie praktyczne, ponieważ są łatwe w noszeniu i stały się bardziej akceptowalne w związku z pandemią COVID-19. Podkreśliła jednak, że rozpoznawanie sposobu chodzenia staje się coraz bardziej zaawansowane, co może zagrozić skuteczności masek w przyszłości.

Źródło grafiki: Adobe Stock