„Gugl“ je u razvoju vještačke inteligencije napravio nekoliko ozbiljnih grešaka, koje su kompaniju skupo koštale, a jedna od njih je i iritirajuća „politička korektnost“.
Naučni portali navode da je čatbot „Bard“ već prilikom predstavljanja pogriješio kada mu je postavljeno pitanje: „O kojim novim otkrićima svemirskog teleskopa `DŽejms Veb` može pričati devetodišnjaku?“.
„Bard“ je ponudio tri odgovora, uključujući jedan u kojem je tvrdio da je teleskop „snimio prve slike planeta izvan Sunčevog sistema“, što nije tačno jer je prva slika egzoplaneta snimljena još 2004.
Zbog ove greške, koja je u obliku mema obišla svijet, kompanija je izgubila više od 100 milijardi dolara tržišne vrijednosti.
Slična stvar dogodila se nedavno i sa „Guglovim“ čatbotom „DŽemini“ koja uz odgovore na pitanja može stvarati i slike.
Naime, „DŽemini“ je na pitnja najčešće odgovarao samo slikama istorijskih ličnosti i događaja.
Posebno se koncentrisao na rasnu ravnopravnost, koja je na kraju počela da iritira bijele korisnike „Gugla“, a onda i tamnopute.
Na zahtjev da napravi sliku osnivača SAD, „DŽemini“ je davao fotogragije Afroamerikanaca i Indijanaca.
Za slike pape nudio je rješenja sa ženskim i crnačkim papama.
Na zahtjev da napravi slike nacista stvorio je slike crnaca u nacističkim uniformama.
Brojni korisnici „DŽeminija“ optužili su bot za pristrasnost i ekstremno pretjerivanje u promociji različitosti, nakon što su imali problema sa pokušajima da ga natjeraju da generiše slike bijelih ljudi.
U nekim slučajevima „DŽemini“ je čak potpuno odbijao da da slike bijelaca, a pritom je dijelio moralne „packe“ korisnicima koji su to od njega uporno tražili.
Kompanija „Gugl“ priznala je grešku, a „DŽemini“ je na neko vrijeme stavljen van pogona.
„Gugl“ je najavio da će nastojati da popravi „DŽemini“ kroz tri sedmice, a greška ga je stajala dodatnih 90 milijardi dolara.