Kompanija OpenAI predstavila je novu sigurnosnu funkciju pod nazivom “Trusted Contact”, koja ima za cilj da poveća zaštitu korisnika u kriznim situacijama.
Šalje upozorenje
Ova opcija omogućava odraslim korisnicima ChatGPT-a da unaprijed odaberu osobu od povjerenja, poput člana porodice ili prijatelja, koja može biti kontaktirana u slučaju da sistem procijeni postojanje ozbiljnog rizika.
Ako tokom razgovora ChatGPT prepozna znakove koji ukazuju na moguće samopovređivanje, korisniku će biti ponuđeno da se obrati svom odabranom kontaktu, dok sistem istovremeno može poslati upozorenje toj osobi.
Prema navodima OpenAI-ja, svaka takva situacija prolazi i kroz ljudsku provjeru sigurnosnog tima, koji procjenjuje ozbiljnost rizika.
U hitnim slučajevima, kontakt može biti obaviješten putem e-maila, SMS poruke ili notifikacije u aplikaciji.
Chatbot imao negativan utjecaj
Upozorenja su osmišljena tako da ne otkrivaju sadržaj razgovora, čime se nastoji očuvati privatnost korisnika.
Ova funkcija dolazi nakon niza pravnih slučajeva u kojima su porodice tvrdile da je chatbot imao negativan uticaj na osobe koje su kasnije počinile samoubistvo.
“Trusted Contact” je dobrovoljna opcija i korisnici je mogu uključiti ili isključiti, što znači da zaštita nije automatska za sve naloge.
OpenAI navodi da je cilj ove mjere jačanje sigurnosti i pružanje dodatne podrške korisnicima u teškim životnim situacijama, uz saradnju sa stručnjacima i institucijama.