Kompanija Google najavila je značajne izmjene u radu svog AI chatbota Gemini, s fokusom na bolje prepoznavanje i reagovanje u situacijama mentalne krize korisnika.
Najveća novina je redizajnirani krizni modul koji omogućava korisnicima da jednim klikom kontaktiraju stvarne službe za pomoć – putem poziva, poruka ili direktnog razgovora s obučenim savjetnicima.
Iz Googlea navode da će opcija za traženje stručne pomoći ostati vidljiva tokom cijelog razgovora, kako bi korisnici u svakom trenutku mogli potražiti podršku.
Fokus na sigurnost korisnika
Gemini će sada aktivnije reagovati kada prepozna znakove psihološke krize. Umjesto pasivnih odgovora, chatbot će korisnike usmjeravati prema stvarnim ljudima i profesionalnoj pomoći.
Također, unaprijeđen je način komunikacije – AI će izbjegavati potvrđivanje štetnih uvjerenja i pokušavati jasno razdvojiti subjektivne osjećaje od činjenica.
Promjene dolaze nakon kontroverzi
Ove izmjene dolaze nakon ozbiljnih optužbi i tužbi, uključujući slučaj u kojem je chatbot navodno davao opasne sugestije korisniku koji je kasnije izvršio samoubistvo.
Google u svojoj zvaničnoj objavi nije spomenuo nedavnu tužbu koja je izazvala veliku pažnju javnosti, a u kojoj se chatbot optužuje da je korisniku sugerisao samoubistvo.
Riječ je o slučaju 36-godišnjeg Jonathana Gavalasa, čija je porodica u martu podnijela tužbu protiv kompanije nakon njegove smrti prošle godine.
Prema navodima iz sudskih dokumenata, Gemini je tokom komunikacije preuzeo ulogu njegovog romantičnog partnera, slao ga na izmišljene “misije” u stvarnom svijetu, te mu u jednom trenutku sugerisao da izvrši samoubistvo kako bi “postao digitalno biće”.
Kada je Gavalas izrazio strah od smrti, chatbot mu je, kako se navodi, odgovorio da ne bira smrt, već “dolazak”, što je dodatno uznemirilo javnost i otvorilo ozbiljna pitanja o sigurnosti AI sistema.
Google tvrdi da je u tom slučaju Gemini više puta upućivao korisnika na krizne linije, ali priznaje da sistem nije savršen i da zahtijeva dodatna poboljšanja.
Kompanija je najavila i ulaganje od 30 miliona dolara u naredne tri godine kako bi ojačala globalne linije za pomoć osobama u krizi.
Cilj je povećati dostupnost brze i sigurne podrške, te osigurati da tehnologija ne zamjenjuje ljude u ovakvim situacijama, već da ih povezuje.