Sztuczna inteligencja może być zagrożeniem dla ludzkości

Nowy raport wykonany na zlecenie Departamentu Stanu USA przedstawia alarmujący obraz katastrofalnego ryzyka bezpieczeństwa narodowego, stwarzanego przez szybko ewoluującą sztuczną inteligencję. 

Wniosek ten oparto na wywiadach z ponad 200 osobami, w tym z kierownictwem wiodących firm AI, badaczami cyberbezpieczeństwa, ekspertami od broni masowego rażenia i urzędnikami bezpieczeństwa narodowego w rządzie USA.

Raport stanowczo stwierdza, że najbardziej zaawansowane systemy AI mogą w najgorszym przypadku ,,stanowić zagrożenie dla gatunku ludzkiego na poziomie wyginięcia.”

Poproszony  o komentarz w tej sprawie przez amerykańską telewizję informacyjną CNN  urzędnik Departamentu Stanu USA podkreślił jednak, że  raport nie reprezentuje poglądów rządu USA. Uznał teź, że chociaż ostrzeżenie w raporcie jest kolejnym przypomnieniem, że  AI może zniewolić inwestorów i społeczeństwo, to prawdziwe  niebezpieczeństwa też są tam obecne.

W sprawie raportu wypowiedział się też  Jeremie Harris, CEO i współzałożyciel Gladstone AI, ,,AI jest już technologią transformacyjną ekonomicznie. Może pozwolić nam leczyć choroby, dokonywać odkryć naukowych i pokonywać wyzwania, które kiedyś uważaliśmy za nie do pokonania,

ale może również powodować poważne ryzyko, w tym ryzyko katastroficzne, o którym musimy wiedzieć” - powiedział Harris. Przyznał, że  rosnąca liczba dowodów, w tym analizy i badania empiryczne opublikowane na najważniejszych konferencjach AI na świecie dowodzą, że powyżej pewnego progu zdolności AI mogą one działać w sposób niekontrolowany.

Rzecznik Białego Domu Robyn Patterson powiedział, że prezydent Joe Biden wydał zarządzenie w sprawie sztucznej inteligencji i jest ono najbardziej znaczącym działaniem jakie podjęły rządy na świecie w związku z zarządzaniem ryzykiem związanym ze sztuczną inteligencją.

Patterson poinformował też, że ,,prezydent i wiceprezydent będą nadal współpracować z międzynarodowymi partnerami i będą wzywać Kongres do przyjęcia dwustronnego ustawodawstwa w celu zarządzania ryzykiem związanym z tymi nowymi technologiami.''

Autorzy raportu przekonują, że najbardziej zaawansowane systemy AI można uzbroić w celu spowodowania potencjalnie nieodwracalnych uszkodzeń.  Mają oni  też obawy, że  prywatne  laboratoria AI w pewnym momencie mogą  stracić kontrolę nad systemami, które rozwijają, a konsekwencje tego mogą być poważnym  zagrożeniem dla globalnego bezpieczeństwa w sposób porównywalny do zastosowania broni jądrowej,, Autorzy uznali też, że istnieje ryzyko wyścigu zbrojeń AI, konfliktu  i wypadków śmiertelnych w dużej skali .”

Raport  wzywa też do podjęcia dramatycznych nowych kroków mających na celu stawienie czoła temu zagrożeniu, w tym do uruchomienia nowej agencji AI, wyposażając  ją w  odpowiednie regulacje prawne, np. dotyczące ograniczenia  mocy komputera, którą można wykorzystać do szkolenia modeli AI. Raport wskazuje też na  wyraźną i pilną potrzebę interwencji w tej sprawie  przez rząd USA.