Kiedy myślimy o chińskim systemie totalitarnym to jednym z najbardziej zatrważających obrazów nie wydają się więzienia, tortury, naloty policyjne. To wszystko już było bowiem w historii. Przeraża coś innego: system rozpoznawania twarzy, który sprawia, że w dowolnym miejscu w kraju, gdzie tylko są kamery (a obecnie są prawie wszędzie) można automatycznie rozpoznać dowolnego obywatela. W ten sposób nie da się uciec przed systemem represji. Tymczasem nad technologią rozpoznawania twarzy intensywnie od lat pracuje Amazon, który wspiera inne kraje w jego wdrażaniu. Współpracuje także z rządem USA.

Pomimo głosów sprzeciwu Amazon rozwijał program „Rekognition” jako narzędzie do monitorowania „interesujących osób” i podwoił liczbę dostarczanych rządom innych technologii nadzoru. Na przykład spółka zależna od Amazona, firma Ring, nawiązała współpracę z ponad 1300 organami ścigania, aby wykorzystać materiał filmowy z domowych kamer bezpieczeństwa w dochodzeniach kryminalnych.

W proceder były zaangażowane także inne wielkie firmy technologiczne, jak IBM czy Microsoft. Wycofały się one pod wpływem kontrowersji. Amazon postanowił zawiesić swoją współpracę z rządem USA w tej sferze znacznie później, kiedy ataki na niego się potęgowały. Co interesujące, krytyka nie dotyczyła praw wszystkich obywateli, możliwości ograniczania wolności i zwiększania kontroli, ale złego traktowania nielegalnych imigrantów. To ich w dużej mierze miały bowiem dotyczyć opracowywane rozwiązania. Rząd chciał w ten sposób radzić sobie z niekontrolowaną migracją.

W tym wypadku przeciwko tej technologii nie wystąpili więc zwykli obywatele, ale tzw. obrońcy sprawiedliwości rasowej. W lutym 2018 roku badaczka MIT Joy Buolamwini i Timnit Gebru, ówczesny badacz Microsoftu, opublikowali badanie pt. „Gender Shades” na temat uprzedzeń płciowych i rasowych osadzonych w komercyjnych systemach rozpoznawania twarzy. W tym czasie badanie obejmowało systemy sprzedawane przez Microsoft, IBM i Megvii, jednego z największych chińskich dostawców rozpoznawania twarzy. Nie obejmowało „Rekognition” Amazona.

Badacze ci podkreślali wtedy, że najgorszy system, należący do IBM, był o 34,4 punktów procentowych gorszy w klasyfikowaniu płci dla kobiet o ciemnej karnacji niż dla mężczyzn o jasnej karnacji. Odkrycia natychmiast obaliły twierdzenia o dokładności programów, które firmy wykorzystywały do sprzedaży swoich produktów, i wywołały debatę na temat samego systemu rozpoznawania twarzy.

Amazon przez długi czas odpierał zarzuty, ale po zastrzeleniu przez policję Georga Floyda, czarnoskórego dilera i przestępcę, kiedy rozpętała się akcja Black Lives Matter, w końcu i ta korporacja musiała ograniczyć swoją działalność w tym zakresie i zawiesić współpracę ze służbami. Dokonała tego jednak pod wpływem politycznej poprawności, a nie troski o wolność obywateli.

Zapewne zresztą, kiedy tylko sprawa przycichnie, współpraca ruszy na nowo. Skoro zresztą największym problemem okazuje się to, że system nie rozpoznaje w równym stopniu twarzy białych i czarnych, to wystarczy go ulepszyć. W ten sposób uniknie się posądzeń o rasową dyskryminację, sprawi, że system będzie jeszcze doskonalszy, a przez to kontrola społeczna też będzie na dużo wyższym poziomie.

Zatrważające jest w tym wszystkim to, że ludzie są już tak pozbawieni myślenia, że bardziej przeszkadza im rzekomy rasizm niż ograniczenie ich podstawowych praw. Społeczeństwo zostało tak zindoktrynowane, że bardziej zabiega o ideologiczne cele niż swoje własne dobro. Zamiast żądać odrzucenia systemu represji domaga się jego unowocześnienia. W praktyce do tego się to bowiem sprowadza.