Meta je uvela novu sigurnosnu funkciju koja će roditeljima slati upozorenje kada njihov tinejdžer u razgovoru s Meta AI chatbotom jasno spomene samoubistvo ili samopovređivanje.
Kompanija radi i na sistemu koji bi u slučajevima neposredne opasnosti mogao kontaktirati hitne službe, bez obzira na to da li je korisnik maloljetna ili punoljetna osoba.
Svako upozorenje provjeravat će i ljudi
Meta je razvila poseban sistem umjetne inteligencije koji treba prepoznati razgovore u kojima tinejdžer govori o namjeri da sebi nanese povrede.
Prije nego što upozorenje bude poslano roditelju, svaki slučaj koji sistem označi pregledat će i član stručnog tima. Iz Mete navode da će roditelje upozoravati i kada namjera nije potpuno jasna, jer žele dati prednost sigurnosti.
Kompanija priznaje da takav pristup može dovesti i do upozorenja u situacijama u kojima stvarna opasnost ne postoji.
Nova funkcija trenutno je dostupna roditeljima koji koriste Instagramov sistem roditeljskog nadzora u Sjedinjenim Američkim Državama, Velikoj Britaniji, Australiji i Kanadi. Globalno širenje planirano je do kraja godine.
Moguće kontaktiranje hitnih službi
Meta je i ranije roditeljima slala upozorenja kada tinejdžer više puta pretražuje pojmove povezane sa samoubistvom ili samopovređivanjem na Instagramu.
Roditelji također mogu vidjeti teme o kojima je njihovo dijete razgovaralo s Meta AI tokom prethodne sedmice.
Proširena je i opcija „Limited Content“, kojom roditelji mogu aktivirati strožija ograničenja. Meta AI će u tom režimu odbijati širi broj neprimjerenih upita, pored već postojećih ograničenja razgovora o seksualnim temama, romantičnim odnosima i alkoholu.
Kompanija je najavila i mogućnost kontaktiranja hitnih službi kada razgovor s chatbotom ukaže na neposredan rizik od samoubistva. Meta sličan postupak već primjenjuje kada sadržaj objavljen na Facebooku ili Instagramu ukazuje na ozbiljnu opasnost.