Iako Googleova umjetna inteligencija postaje sve naprednija, novi podaci pokazuju da korisnici i dalje svakodnevno dobijaju ogroman broj netačnih informacija.
Uprkos visokoj preciznosti od oko 90 posto, ogroman broj pretraga dovodi do toga da se greške dešavaju u milionima slučajeva – i to svake minute.
Procjene pokazuju da bi globalno moglo biti generisano i do 57 miliona pogrešnih odgovora na sat.
Problem “halucinacija”
Jedan od ključnih izazova su takozvane halucinacije, situacije u kojima AI daje samouvjerene, ali netačne odgovore.
Testiranja pokazuju da svaki deseti odgovor može sadržavati grešku, a u nekim slučajevima sistem daje različite odgovore na isto pitanje u razmaku od nekoliko sekundi.
Kod samostalnog rada modela, bez oslanjanja na pretragu, procenat grešaka može biti još veći.
Linkovi ne prate odgovore
Dodatni problem predstavlja nesklad između odgovora i izvora.
Često se dešava da AI ponudi odgovor koji nije potvrđen linkovima koje prikazuje, ili obrnuto – da tačna informacija postoji u izvoru, ali je AI pogrešno interpretira.
Istraživanja pokazuju i da je sistem moguće relativno lako manipulirati, jer se netačne informacije s interneta mogu brzo “uvući” u odgovore.
Još nije zamjena za čovjeka
Tehnološke kompanije same upozoravaju korisnike da informacije treba provjeravati iz više izvora.
Iako umjetna inteligencija ima ogroman potencijal, jasno je da još uvijek nije dovoljno pouzdana da samostalno donosi važne zaključke bez ljudske provjere.
Zbog toga stručnjaci savjetuju oprez – AI može biti koristan alat, ali ne i konačan izvor istine.