Były naukowiec Google ostrzega przed zagrożeniami związanymi ze sztuczną inteligencją

Geoffrey Hinton, wieloletni badacz w Google, który niedawno przeszedł na emeryturę w wieku 75 lat, dodał swój głos do tych, którzy twierdzą, że potencjalne zagrożenia związane z nową technologią zasługują na kontrolę.

Oprogramowanie takie jak system chatbota GPT-4, opracowany przez start-up OpenAI z San Francisco, "przyćmiewa człowieka pod względem ilości ogólnej wiedzy, jaką posiada i przyćmiewa go na długi czas" - powiedział Hinton w wywiadzie dla BBC News. "Jeśli chodzi o rozumowanie, nie jest tak dobry, ale już potrafi przeprowadzić proste rozumowanie".

"A biorąc pod uwagę tempo postępu, spodziewamy się, że sytuacja będzie się poprawiać dość szybko. Musimy się więc o to martwić" - powiedział.

GPT-4 to duży model uczenia się, który został przeszkolony na ogromnych ilościach danych oraz historycznych i współczesnych tekstach napisanych przez ludzkich autorów. Może samodzielnie tworzyć tekst i generować posty na blogach, wiersze i programy komputerowe. Może angażować się w rozmowy podobne do ludzkich i udzielać odpowiedzi na pytania, donosi New York Times. Systemy te są jednak wciąż na wczesnym etapie rozwoju i wykazują różne wady: Pomimo mówienia w pewny siebie sposób, GPT-4 przedstawia nieprawidłowe informacje jako faktyczne i wymyśla informacje w incydentach, które naukowcy nazywają "halucynacjami".

Podobne systemy mogą generować przekonujący dźwięk oraz fotorealistyczne obrazy i wideo, czasami wzorowane na prawdziwych ludziach.

Obecnie tym wczesnym wersjom sztucznej inteligencji brakuje samoświadomości. Trwa debata na temat tego, czy samoświadomość jest w ogóle możliwa w przypadku cyfrowego tworu.