Portal the-decoder.com zwraca uwagę, że od 2016 roku Chiny współpracują z największymi firmami technologicznymi w kraju nad opracowaniem narzędzi automatyzacji opartych na sztucznej inteligencji dla własnego systemu sądowniczego. Jak dotąd system został zaprojektowany w celu zmniejszenia obciążenia pracą prokuratorów, zwłaszcza w przypadku rutynowych zadań. Na przykład automatycznie sporządza akty oskarżenia na podstawie instrukcji człowieka.

Jednak według raportu opublikowanego w South China Morning Post (SCMP), system SI staje się coraz głębiej zintegrowany z chińskim systemem prawnym. Około sześć lat temu projekt był czymś więcej niż bazą danych, donosi SCMP. W międzyczasie Sąd Najwyższy przyjął zasadę, że sędziowie muszą postępować zgodnie z zaleceniami systemu SI, a jeśli nie postępują zgodnie z nimi, przedstawiają pisemne uzasadnienie, które jest zawarte w dokumentach sprawy.

Według SCMP, Sąd Najwyższy postrzega system jako sposób na ujednolicenie krajowego orzecznictwa i przeniesienie go do dużych części Chin, gdzie występują „znaczne różnice w rozwoju regionalnym, zarządzaniu i dochodach”.

Przed wprowadzeniem systemu każdy lokalny sąd utrzymywał własny system informacyjny, a sędziowie rzadko dzielili się informacjami z innymi sądami lub Pekinem, donosi SCMP. Dzięki nowemu „inteligentnemu systemowi sądowemu” każdy sąd musi mieć ujednolicony cyfrowy system raportowania połączony z centralną bazą danych w Pekinie.

Według Sądu Najwyższego, system uczy się na podstawie 100 000 spraw każdego dnia i monitoruje je pod kątem ewentualnych błędnych decyzji lub korupcji. Oprócz rejestrów sądowych, system ma mieć dostęp do baz danych policji, prokuratorów i agencji rządowych.

Oczekuje się na przykład, że sztuczna inteligencja pomoże w egzekwowaniu wyroków „poprzez niemal natychmiastowe znalezienie i przejęcie majątku skazanego oraz wystawienie go na aukcję internetową”. W połączeniu z chińskim systemem kredytów socjalnych może odmówić dłużnikom dostępu do transportu, hoteli lub innych usług socjalnych i egzekwować ten zakaz.

W czasopiśmie opublikowanym przez Chińską Akademię Inżynierii Xu i współpracownicy publikują pozytywne dane na temat systemu, twierdząc, że zmniejsza on średnie obciążenie pracą sędziów o ponad jedną trzecią. Według nich w latach 2019-2021 zaoszczędzono 1,7 miliarda roboczogodzin i równowartość 45 miliardów dolarów w opłatach prawnych. System ten, jak powiedział Xu, „wniósł znaczący wkład w sądowy postęp ludzkiej cywilizacji”.

Zhang Linghan, profesor prawa na Chińskim Uniwersytecie Nauk Politycznych i Prawa w Pekinie, skrytykował system w krajowym czasopiśmie Law and Social Development jako ograniczający swobodę sędziowską.

Indywidualny osąd sędziego, jego doświadczenie i wyszkolenie zostałyby odsunięte na dalszy plan. Chociaż mogłoby to do pewnego stopnia poprawić wydajność i sprawiedliwość, doprowadziłoby to ludzi do uzależnienia od technologii i podważyłoby wolną wolę.

Sun Yubao, sędzia Sądu Ludowego Strefy Rozwoju Gospodarczego i Technologicznego Yangzhou w prowincji Jiangsu, jest również krytyczny. Pisząc w chińskojęzycznym magazynie Legality Vision, twierdzi, że oczekiwania wobec sztucznej inteligencji jako panaceum są zbyt wysokie i że rola sędziego musi zostać wzmocniona: „SI nie może zrobić wszystkiego”.

Krytycy systemu obawiają się również, że sędziowie będą orzekać zgodnie z poradami systemu SI, aby uniknąć konieczności kwestionowania systemu, nawet jeśli SI może wybrać nieodpowiednie odniesienia lub przepisy.