Meta uvodi novu bezbednosnu meru koja će roditeljima slati upozorenje kada razgovor njihovog deteta sa Meta AI sistemom pokaže moguće znake samoubilačkih misli ili samopovređivanja.

Funkcija je namenjena nalozima tinejdžera povezanima sa Instagram roditeljskim nadzorom, a cilj je da porodice dobiju priliku da reaguju pre nego što kriza postane ozbiljnija.

Kada tinejdžer u razgovoru jasno ili prikriveno pomene mogućnost da povredi sebe, poseban AI sistem označiće komunikaciju za proveru. Meta navodi da će svaki označeni razgovor pregledati obučeni tim pre nego što roditelju bude poslato upozorenje. Ako namera deteta nije potpuno jasna, kompanija planira da postupi oprezno i ipak obavesti roditelja.

Uz upozorenje će biti dostavljeni stručni materijali koji treba da pomognu roditeljima da razgovoru pristupe smireno i pruže odgovarajuću podršku. Meta AI već usmerava tinejdžere ka kriznim linijama i savetuje im da se obrate roditelju, školskom savetniku ili drugoj odrasloj osobi od poverenja.

Nova opcija trenutno je dostupna korisnicima roditeljskog nadzora u SAD, Velikoj Britaniji, Australiji i Kanadi, dok je globalno uvođenje planirano do kraja godine. Ona se nadovezuje na postojeća Instagram upozorenja kada tinejdžer u kratkom periodu više puta pretražuje pojmove povezane sa samoubistvom ili samopovređivanjem.

Kompanija razvija i mogućnost kontaktiranja hitnih službi kada razgovor odrasle osobe ili tinejdžera ukaže na neposrednu opasnost po život. Meta tvrdi da je odgovore sistema unapredila uz povratne informacije više od 75 stručnjaka za mentalno zdravlje mladih.

Odluka stiže u trenutku pojačane kontrole tehnoloških kompanija zbog načina na koji AI četbotovi komuniciraju sa ranjivim korisnicima. Iako mera može pomoći roditeljima da ranije prepoznaju problem, ona ponovo otvara pitanja privatnosti tinejdžera, tačnosti automatskog prepoznavanja rizika i odgovornosti platformi. Konačni efekat zavisiće od brzine upozorenja, stručne procene i reakcije porodice u najosetljivijim trenucima.

IZVOR: TECH CRUNCH, FOTO: UNSPLASH

Meta uvodi alarm za roditelje: Jedna poruka tinejdžera AI botu može pokrenuti upozorenje