P:
Zašto neke tvrtke razmišljaju o dodavanju "ljudske povratne informacije" modernim AI sustavima?
A:Neke tvrtke koje rade s vrhunskom AI tehnologijom rade na uspostavljanju ljudskih kontrola nad ovim sustavima, dajući alatima za strojno učenje i duboko učenje neki neposredan ljudski nadzor. Ni ove tvrtke nisu mali igrači - Googleovi DeepMind i Openlon Alon Elon Musk dva su primjera velikih kompanija koje se bave napretkom napretka umjetne inteligencije. Imajući to u vidu, rezultati se razlikuju - na primjer, DeepMind je bio predmet rasprave zbog uočenog nespremnosti javnosti davati ključne podatke, dok OpenAI mnogo više, otvoreno govori o svom radu na kontroli umjetne inteligencije.
Čak je i takav značaj koji je Bill Gates razmatrao o tom pitanju, Gates je rekao da je jedan od mnogih koji su zabrinuti zbog pojave umjetne superinteligence koja bi na neki način mogla preći ljudsku kontrolu. Musk je sa svoje strane iznio i neki alarmantni jezik o mogućnosti "lošijeg AI."
To je vjerojatno najneugodniji razlog zbog kojeg tvrtke rade na primjeni ljudskih kontrola na AI - ideja da će neka tehnološka jedinstvenost rezultirati super-moćnom osjetnom tehnologijom koju ljudi jednostavno više ne mogu kontrolirati. Još od zore ljudskih ambicija, postavili smo alate kako bismo bili sigurni da možemo upravljati silama koje posjedujemo - bilo da su to konji s uzde i pojaseve, električna energija u izoliranim žicama ili bilo koji drugi mehanizam upravljanja, koji ima kontrola je urođeno ljudska funkcija i stoga ima smisla u svijetu da se, kako se umjetna inteligencija bliži stvarnoj funkcionalnosti, ljudi primjenjuju svoje izravne kontrole kako bi tu moć držali pod kontrolom.
Međutim, strah od super inteligentnih robota nije jedini razlog zbog kojeg tvrtke primjenjuju ljudske kontrole za strojno učenje i AI projekte. Drugi glavni razlog je strojna pristranost - to je ideja da su sustavi umjetne inteligencije često ograničeni u procjeni dotičnih podataka - tako da pojačavaju svaku pristranost svojstvenu sustavu. Većina profesionalaca koji se bave strojnim učenjem mogu ispričati grozne priče o IT sustavima koji nisu bili u mogućnosti tretirati ljudske korisničke skupine - bilo da je riječ o spolu ili etničkoj nejednakosti ili nekom drugom neuspjehu sustava da stvarno razumije nijanse naših ljudskih društava i kako komuniciramo s ljudima.
U određenom smislu, možemo staviti ljudsku kontrolu na sustave jer se bojimo da bi mogli biti previše moćni - ili alternativno, jer se bojimo da možda neće biti dovoljno moćni. Ljudske kontrole pomažu u ciljanju skupova podataka strojnog učenja radi pružanja veće preciznosti. Oni pomažu u jačanju ideja koje računalo jednostavno ne može samostalno naučiti, bilo zato što model nije dovoljno sofisticiran, jer AI nije napredovao dovoljno daleko, ili zato što neke stvari leže u provinciji ljudske spoznaje. Umjetna inteligencija izvrsna je za neke stvari - na primjer, sustav temeljen na nagrađivanju i postizanju rezultata omogućio je umjetnoj inteligenciji da pobijedi ljudskog igrača u neizmjerno složenoj društvenoj igri „Idi“ - ali za ostale stvari, ovaj sustav temeljen na poticajima je potpuno neprimjeren.
Ukratko, postoje brojni uvjerljivi razlozi da se ljudski korisnici izravno uključe u funkcioniranje projekata umjetne inteligencije. Čak i najbolje tehnologije umjetne inteligencije mogu puno razmišljati samostalno - ali bez stvarnog biološkog ljudskog mozga koji može obrađivati stvari poput emocija i društvenih običaja jednostavno ne može vidjeti veliku sliku na ljudski način.
Kvalificirana tvrtka za strojno učenje može pomoći u postizanju ove ravnoteže kombinacijom stručnjaka za poslovanje i teme i programerima strojnog učenja s vještinama za rješavanje velikih poslovnih problema.
