Elon Musk przestrzega przed AI

Warto przypomnieć słowa Elona Muska z października tego roku, kiedy opowiadał o sztucznej inteligencji, jej rozwoju i jej dążeniach. To powinna być przestroga dla wszystkich tych, którzy dziś tak śmiało i łatwo wypowiadają się o AI, zachwalając jej technologiczny rozwój i humanitarzym.

Musk mówi: 

Martwię się o sztuczną inteligencję. Ponieważ tworzymy inteligencję, która ostatecznie będzie znacznie bardziej inteligentna niż jakikolwiek człowiek, a ostatecznie bardziej inteligentna niż suma wszystkich ludzi.

Tworząc AI, musimy być bardzo ostrożni. To, jak posiadanie genialnego dziecka: Chcemy, by dorastało z dobrymi wartościami. Najważniejszą rzeczą w szkoleniu sztucznej inteligencji jest jej rygorystyczna prawdomówność. To bardzo, bardzo ważne, kluczowe.

Moje obawy co do wielu opracowywanych AI dotyczą tego, że są one szkolone do kłamania. W niektórych przypadkach, z potencjalnie katastrofalnymi konsekwencjami.

Kiedy pojawił się Google Gemini, ludzie pytali, co jest gorsze: błędna płeć Caitlyn Jenner czy globalna wojna termojądrowa?

Odpowiedź brzmiała: błędna płeć Caitlyn Jenner! To jest problem.

Jeśli ta sztuczna inteligencja stanie się super potężna, może zdecydować, że najlepszym sposobem na uniknięcie błędnej płci jest zabicie wszystkich ludzi, co sprawi, że prawdopodobieństwo błędnej płci wyniesie zero.

To bardzo ważne, by AI była maksymalnie prawdomówna, ciekawa i kochała ludzkość. Bardzo ważne”.

ELON: AI SHOULD BE MAXIMALLY TRUTHFUL, CURIOUS AND LOVE HUMANITY

“I do worry about AI.

Because we are creating an intelligence that ultimately will be far more intelligent than any human, and ultimately more intelligent than the sum of all humans.

In creating AI, we need to be… pic.twitter.com/LpHc0fSSBS

— Mario Nawfal (@MarioNawfal) December 29, 2024

Źródło: x.com