Kompanija Instagram predstavila je novi alat koji će obaveštavati roditelje ukoliko njihovi tinejdžeri više puta pretražuju pojmove povezane sa samoubistvom i samopovređivanjem na toj društvenoj mreži.

Nova funkcija biće dostupna sledeće nedelje u Sjedinjenim Državama i još nekoliko zemalja, a cilj joj je dodatna zaštita mladih korisnika i veće uključivanje roditelja u praćenje potencijalno rizičnog ponašanja na internetu.

Kako funkcioniše novi Instagram alat za roditelje?

Prema saopštenju kompanije, sistem će prepoznati ponovljene pretrage termina koji ukazuju na ozbiljnu emocionalnu uznemirenost ili potrebu za podrškom. U tom slučaju roditelji će dobiti obaveštenje putem mejla, SMS poruke, WhatsApp-a ili notifikacije unutar aplikacije.

Uz upozorenje, roditeljima će biti ponuđeni i resursi sa savetima kako da započnu razgovor sa detetom i pruže adekvatnu podršku.

Iz kompanije navode da je cilj da se roditeljima omogući pravovremena reakcija, ali i da se izbegne prekomerno slanje obaveštenja kako bi sistem ostao efikasan i relevantan.

Postojeće mere bezbednosti na Instagramu

Instagram već blokira pretrage koje su direktno povezane sa samoubistvom i samopovređivanjem, kao i objave koje promovišu ili glorifikuju takav sadržaj. Takođe, tinejdžerima je ograničen prikaz osetljivih tema.

Pored toga, kompanija radi na razvoju sličnog sistema upozorenja i za AI funkcionalnosti unutar platforme, koji bi roditelje obaveštavao ukoliko tinejdžeri pokušaju da započnu zabrinjavajuće razgovore sa AI alatima.

Tehnološke kompanije pod pojačanim pritiskom

Uvođenje novih bezbednosnih alata dolazi u trenutku kada su velike tehnološke kompanije pod sve većim nadzorom javnosti i pravosuđa zbog načina na koji štite maloletne korisnike.

Instagram se trenutno nalazi na suđenju u Los Anđelesu zajedno sa platformom YouTube u vlasništvu kompanije Google, zbog optužbi da su njihovi proizvodi namerno dizajnirani tako da izazivaju zavisnost kod dece.

Kompanije Snap i TikTok, koje su prvobitno bile deo postupka, postigle su nagodbu pre početka suđenja.

Paralelno sa rastom veštačke inteligencije, tehnološke firme suočavaju se i sa tužbama porodica koje tvrde da njihovi AI proizvodi nisu imali adekvatne zaštitne mehanizme za decu.

Uvođenje novog alata pokazuje da Instagram pokušava da ojača sistem zaštite tinejdžera i odgovori na sve veći pritisak regulatora i javnosti.

IZVOR: WGN I FOTO: PEXELS

Instagram uvodi novu zaštitu za tinejdžere: Roditelji će dobijati upozorenja o zabrinjavajućim pretragama