P:
Zašto se neki brinu zbog umjetne inteligencije?
A:Promjena nije laka, a mnogi ljudi imaju poteškoća u prilagodbi na nju. To se posebno odnosi na tehnološke promjene. Istaknuti profesor sa Harvarda Calestous Juma napisao je knjigu na temu „Inovacije i njeni neprijatelji: zašto se ljudi opiru novim tehnologijama.“ Knjiga prikazuje napetost između inovacija i društvenog poretka, oslanjajući se na 600 godina povijesti. Utjecaj tehnologije posebno je problematičan kada je u pitanju umjetna inteligencija.
Nisu svi nepovoljni za ovaj napredak. Ray Kurzweil, autor knjiga „Singularnost je blizu“ i „Doba duhovnih mašina“, nije ništa drugo do evanđelist koji promiče blagodati genetike, nanotehnologije i robotike (pojam koji se koristi za nebiološku inteligenciju). Ali, to su ista pitanja - i Kurzweil ista osoba - koji su 2000. godine izazvali veliku zabrinutost za Billa Joya, glavnog znanstvenika Sun Microsystemsa.
Joy je o svojim brigama pisao u sada već čuvenom članku u časopisu Wired pod nazivom "Zašto nam budućnost ne treba." Vjerovao je da je u pitanju upravo budućnost ljudskog roda. Osvrćući se na natjecanje u povijesti evolucije, Joy je napisao, "Biološke vrste gotovo nikad ne prežive susrete s superiornim konkurentima." Znanstveni proboj koji rezultira time da strojevi nadmašuju ljude dolaze s značajnim rizikom. Zamišljaju se vizije distopijske budućnosti.
Pretpostavimo da su znanstvenici u stanju razviti strojeve s umjetnom superinteligencijom (ASI), razinom inteligencije višom od ljudi. Joy kaže da se može dogoditi jedna od dvije stvari: ili će strojevima biti dopušteno donositi vlastite odluke, ili će ljudi zadržati kontrolu nad njima. Što se događa ako snagu predate strojevima? Kakvi bi mogli biti rezultati?
Bill Joy nije jedini koji izražava zabrinutost. Tehnički guru Elon Musk rekao je: "Umjetnom inteligencijom pozivamo demona." Nazvao ga je "najvećom egzistencijalnom prijetnjom." Fizičar Stephen Hawking rekao je prisutnima na tehnološkoj konferenciji da "ne možemo znati hoćemo li nam beskrajno pomoći AI, ili ga ignorira i bočno pokriva, ili ga možda zamisli uništeno. "I rekao je za časopis Wired, " Bojim se da bi AI uopće mogao zamijeniti ljude. "
Jesu li ovi strahovi opravdani? Znanstveni filmovi poput „Transcendencije“ u kojima se lik Johnnyja Deppa povezuje s umjetnom inteligencijom i pustoši, podsjećaju na Kurzweilova predviđanja o tome kako bi se ljudi mogli stopiti sa strojevima. Mašte se obrušava na sve načine na koje bi umjetna inteligencija mogla poći po zlu. Što se događa kad strojevi preuzmu kontrolu?
Dva primjera iz stvarnog života ilustriraju kako zabrinutost zbog umjetne inteligencije može biti razumljiva. U 2007., top top je ubio devet osoba i ranio 14. Neko napredno vojno oružje automatski odabire ciljeve, ali čekajte da čovjek povuče okidač. Tko je ovdje donosio odluke? 2016. godine sigurnosni robot od 300 kilograma srušio se i pregazio šesnaestomjesečno dijete. Tko je u ovom slučaju imao kontrolu: čovjek ili stroj?
Razlog zbog kojeg neki ljudi brinu zbog umjetne inteligencije je taj što su rizici stvarni. Sljedeće pitanje: Kako ćemo upravljati tim rizicima?
