Instagram na udaru kritika zbog neprikladnih slika dece i njihove automatske moderacije

Instagram nije uklanjao naloge koji su objavljivali slike dece, i koji su privlačili stotine seksualizovanih komentara, čak i nakon što su ovi nalozi ručno prijavljeni.

Matična kompanija Instagrama, Meta, tvrdi da ima pristup nulte tolerancije eksploataciji dece. Ali prijavljeni nalozi ipak nisu uklonjeni, jer prema Instagram-ovoj automatskoj moderaciji nisu kršili nikakve smernice korišćenja aplikacije, piše britanski Guardian.

U jednom slučaju, korisnik je prijavio nalog koji objavljuje fotografije dece u seksualizovanim pozama, koristeći Instagram-ove alate za to. Kompanija je istog dana dostavila odgovor u koje je pisalo da “zbog velikog obima” nije bila u mogućnosti da pogleda izveštaj, ali da je njihova “tehnologija otkrila da ovaj nalog verovatno ne krši nikakva pravila”.

Korisniku je savetovano da blokira nalog ili da ga ponovo prijavi. Ovaj nalog imao je više od 33.000 pratilaca.

Ovo izaziva zabrinutost u vezi sa alatkama za prijavljivanje u aplikacijama, jer mnogi od ovih naloga ostaju aktivni čak i kada se sumnja na nezakonite aktivnosti.

Naime, ovakvi nalozi se često koriste za ono što se naziva “breadcrumbing”, odnosno, pravljenje puta od mrvica hleda - gde prestupnici objavljuju tehnički legalne slike, ali se zatim dogovaraju da se sastanu u tajnim grupama na internetu kako bi razmenjivali druge ilegalne materijale vezane za decu.

Meta je kasnije uklonila ovaj nalog, nakon što ga je “postala svesna”. Ipak, pitanje ostaje, koliko je automatska moderacija pouzdana kada se radi o ovakvom sadržaju i koliko još ovakvih naloga postoji na društvenoj mreži, a da ih Meta nije svesna.

(Telegraf.rs)