P:
Zašto DARPA istražuje "objasniti AI"?
A:Općenito, objašnjiva umjetna inteligencija postaje mnogo najavljeni dio vrhunskog rada u znanosti o podacima. Pomaže u upravljanju ljudskom kontrolom inherentno hlapljivih i dinamičnih vrsta tehnologije - objašnjava AI pomaže odgovoriti na mnoga naša kolektivna pitanja o tome kako će umjetna inteligencija raditi.
Da biste razumjeli objasniti AI, pomaže vam shvatiti kako izgleda "redovito AI". Tradicionalno, kako AI počinje dobivati oblik, tipični projekt sastoji se od maštovito novih softverskih mogućnosti, skrivenih u algoritmima i nastavnim skupovima i linearnom kodu, to je svojevrsni "blok kutija" za korisnike. Znaju da to funkcionira - samo ne znaju točno kako.
To može dovesti do "pitanja povjerenja", gdje korisnici mogu dovoditi u pitanje osnovu na kojima tehnologija donosi odluke. To bi se trebalo obratiti na objašnjenje AI: Objašnjivi projekti AI dolaze s dodatnom infrastrukturom kako bi krajnjim korisnicima pokazali namjeru i strukturu AI - zašto to radi.
U doba u kojem vrhunski inovatori poput Billa Gatesa i Elona Muska izražavaju zabrinutost zbog toga kako će umjetna inteligencija raditi, objašnjeno AI izgleda izuzetno atraktivno. Stručnjaci tvrde da bi dobri objašnjivi AI mogao krajnjim korisnicima pomoći da shvate zašto tehnologije rade ono što rade, povećavaju povjerenje, a također povećavaju jednostavnost i korištenje tih tehnologija.
Naime, DARPA posebno objašnjava zašto je zainteresirana za nove projekte. Stranica na web stranici DARPA pokazuje da Ministarstvo obrane predviđa "bujicu" aplikacija umjetne inteligencije i određenu količinu kaosa u svom razvoju.
„Stalni napredak obećava proizvodnju autonomnih sustava koji će percipirati, učiti, odlučivati i djelovati sami“, piše David Gunning. „Međutim, učinkovitost ovih sustava ograničena je trenutnom nesposobnošću računala da ljudskim korisnicima objasni svoje odluke i postupke. … Objašnjeni AI - posebno objašnjeno strojno učenje - bit će od presudne važnosti za buduće ratnike koji će razumjeti, na odgovarajući način vjerovati i učinkovito upravljati s naraštajem generacije umjetno inteligentnih partnera stroja. "
Gunningov internetski esej sugerira da će razjašnjivi AI sustavi pomoći „pružiti obrazloženje“ tehnologijama, pokazati njihove snage i slabosti i učiniti da slučajevi uporabe budu transparentniji. Grafički prikaz na stranici pokazuje kako će jasan niz funkcionalnosti umjetne inteligencije iz podataka o treningu dopuniti nešto što se zove objašnjivi model i objašnjeno sučelje koje će pomoći korisniku da odgovori na pitanja. Gunning dalje sugerira da će AI program koji će se moći objasniti imati dva glavna područja fokusiranja - jedno će biti prosijavanje multimedijskih podataka da bi se pronašlo ono što je korisno korisnicima, a drugi fokus bi bio simuliranje procesa odlučivanja za podršku odlucivanju.
DARPA se nada da će pružiti "skup alata" koji može pomoći u razvoju budućih AI sustava koji mogu biti razumljivi.
