P:
Zašto bi tvrtka mogla ugasiti AI projekt chatbota?
A:Tvrtke bi mogle ugasiti projekte chatbota s umjetnom inteligencijom iz više razloga, ali najvjerojatnije ih je moguće grupirati u par kategorija. Prvo, tvrtke mogu ugasiti chatbot tehnologije ako djeluju na načine koji bi mogli učiniti kompaniju neugodnom, poput promoviranja neprimjerenog govora. Kompanije mogu isključiti projekt chatbota ako počne pokazivati razboritost i sposobnost koje se ili ne mogu lako kontrolirati ili mogu predstavljati neku vrstu moguće prijetnje javnom zdravlju i sigurnosti.
Oba smo scenarija dokumentirana u novijoj povijesti. Microsoftov eksperiment s Tay chatbotom završio je kad je Tay počeo poprimati neke od najgorih karakteristika svojih ljudskih kolega - rasističkih i agresivnih komentara i općenito prigovarajućih aktivnosti, od kojih je većina bila jasno naučena ili čak izravno parolirana od korisnika.
U vrlo različitoj studiji slučaja, postavljanje chatbota koje je pokrenuo Facebook zaustavljeno je kada su znanstvenici promatrali dva chatbota koji međusobno komuniciraju na način koji je pomalo isključiv za ljudsko promatranje. Postojala je tvrdnja da su subjekti za chat započeli "razgovarati u nekoj vrsti koda" koji je za njih bio prikladniji i manje transparentan za njihove ljude. Ovo je primjer one vrlo stvarne zabrinutosti oko umjetne inteligencije općenito - kako napredujemo snažni napredak snažne umjetne inteligencije, ljudi moraju djelovati na način da sadrže i kontroliraju sve primjere implementacije AI-ja kako bi bili sigurni da se ne prelaze granice. Postoji veliki broj etičkih briga i sigurnosnih pitanja koja se trebaju riješiti snažnom umjetnom inteligencijom, a to je jedan od glavnih razloga što će neki chatboti ili drugi projekti umjetne inteligencije u budućnosti zatvoriti dionike koji su izgradili i podržavao ih kroz određeni postupak.
