Dok se TikTok suočava s ponovnim ispitivanjem utjecaja na mlade korisnike, aktivisti i grupe za digitalna prava zahtijevaju sveobuhvatne reforme kako bi se riješilo ono što nazivaju sistemskim propustima u načinu na koji platforma štiti tinejdžere.

Njihovi zahtjevi idu mnogo dalje od kozmetičkih popravki, pozivajući na pravnu odgovornost, algoritamsku transparentnost i preispitivanje načina na koji su digitalni prostori dizajnirani za mlade.

Hitnost ovih zabrinutosti pojačana je nedavnim ubistvom 17-godišnje pakistanske influenserice na TikToku, Sane Yousaf, koja je ubijena na svoj rođendan u Islamabadu. Njeno ubistvo izazvalo je ogorčenje na društvenim mrežama, ističući kako se mladi kreatori - posebno žene - često suočavaju ne samo s online uznemiravanjem već i s opasnostima iz stvarnog svijeta.

Iako tragedija nije direktno povezana s dizajnom TikTok platforme, ona je stvorila dodatni pritisak na kompaniju da se pozabavi širim sigurnosnim rizicima za ranjive korisnike.

„TikTok se mora promijeniti od toga da je zarazan po dizajnu, a prihvatiti sigurnost po dizajnu“, rekla je za TRT World Teresa Barrio Traspaderne, aktivistica Amnesty Internationala za digitalna prava djece i mladih.

„Hiperpersonalizacija je problem“

U srži kritike je TikTokov algoritam, koji personalizira sadržaj na osnovu ponašanja korisnika - šta gledaju, koliko dugo gledaju i čime se zanimaju.

Istraživanje Amnesty Internationala pokazalo je da su čak i automatizirani profili koji simuliraju 13-godišnjake dobili potencijalno štetan sadržaj - uključujući videozapise koji romantiziraju, normaliziraju ili potiču depresiju, samopovređivanje i samoubistvo - samo nakon pet do šest sati na TikToku.

Manuelno istraživanje pokazalo je da se u roku od samo tri do 20 minuta, preko polovine preporučenih videozapisa već fokusiralo na probleme s mentalnim zdravljem.

Amnesty poziva TikTok da: zabrani ciljano oglašavanje za sve korisnike mlađe od 18 godina, globalno, zaustavi zadanu personalizaciju sadržaja za tinejdžere u svom feedu „za vas“, osim ako se izričito ne odluče za to, uvede zaštitne mjere za sprečavanje „zečijih rupa“ vođenih algoritmima koje više puta promoviraju štetan materijal i provede odgovarajuće procjene utjecaja na prava djeteta, što do sada nije učinio.

„TikTok još uvijek nije smisleno riješio ključni problem „zečije rupe“. Koraci koje je poduzeo su uglavnom kozmetički“, rekla je glasnogovornica Amnesty Internationala. Izrazila je žaljenje što se kompanija i dalje oslanja na stare alate poput opcija osvježavanja feeda i kontrolnih ploča za vrijeme provedeno pred ekranom, bez rješavanja osnovnog problema hiperpersonalizacije koja potiče angažman na štetu dobrobiti.

Također je istakla da TikTok još nije proveo procjenu utjecaja na prava djeteta - osnovnu odgovornost prema međunarodnim standardima ljudskih prava - što znači da još nije pravilno procijenio ili riješio rizike koje njegova platforma predstavlja za dobrobit djece.

Tehnološki stručnjaci ponavljaju ove zabrinutosti. Bibhu Pattnaik, sa sjedištem u SAD-u, digitalni strateg i novinar u Benzingi, vodećoj platformi za medije i podatkovne tehnologije, naglasio je potrebu za sistemskim promjenama na nivou platforme.

„Platforme poput TikToka trebale bi implementirati snažnije postavke privatnosti za tinejdžere, koje bi također trebale ograničiti algoritamsku izloženost ovisnosti ili štetnom sadržaju i redovno pružati upute za mentalno zdravlje“, rekao je za TRT World.

Dodao je da bi TikTok trebao sarađivati ​​sa stručnjacima kako bi stvorio funkcije koje promoviraju zdrave navike korištenja ekrana i daju prioritet emocionalnom blagostanju na globalnom nivou.

Zagovornici digitalnih prava: „Sigurnost po dizajnu, a ne profit po dizajnu“

Aktivistica za digitalna prava Nighat Dad, koja vodi pakistansku Fondaciju za digitalna prava, smatra da TikTok - i slične platforme - treba preispitati način na koji pristupa sigurnosti, posebno za mlade i marginalizirane korisnike.

„TikTok mora prestati tretirati zlostavljanje na osnovu spola kao kolateralnu štetu“, rekla je. „Sigurnost po dizajnu, posebno za žene i mlade korisnike, trebala bi biti osnovni princip - a ne reaktivno rješenje.“

Dad je naglasila važnost lokaliziranog moderiranja sadržaja na maternjim jezicima i kulturnim kontekstima, sistema za odgovor u stvarnom vremenu na govor mržnje i uznemiravanje, transparentnih algoritamskih praksi kako bi se razumjelo kako štetni trendovi sadržaja dobijaju na značaju i ulaganja u regionalne timove za povjerenje i sigurnost koji razumiju stvarnost na terenu.

„Mora doći do prelaska s reaktivnog moderiranja na proaktivnu, sistemsku zaštitu“, dodala je.

Šta bi vlade trebale učiniti?

Dok nekoliko zemalja - uključujući Australiju, Francusku i Švicarsku - vrši pritisak za zabranu ili ograničavanje pristupa društvenim mrežama za mlađe tinejdžere, aktivisti upozoravaju da opće zabrane promašuju poentu.

Prema Amnestyju, takve politike riskiraju da se mladi ljudi isključe iz vitalnih digitalnih prostora, bez rješavanja ključnih šteta.

„Zabrana društvenih medija jednostavno prebacuje teret na mlade ljude, umjesto da kompanije budu odgovorne“, rekao je Traspaderne, savjetujući vladama da uvedu i provode stroge propise koji zahtijevaju dizajn platformi usmjeren na sigurnost, ograničavanje prikupljanja podataka od maloljetnika i zabranu ciljanih oglasa za djecu.

Rastući globalni zamah

Korisnici i zagovornici na društvenim mrežama i dalje izražavaju zabrinutost. Heštegovi poput #SaferSocialMedia i #ProtectYoungUsers dobili su na značaju, posebno nakon tragičnih slučajeva povezanih s korištenjem TikToka. Reddit teme i objave na Twitteru otkrivaju široko rasprostranjenu nelagodu, ne samo zbog izloženosti sadržaju, već i zbog toga koliko duboko aplikacija oblikuje identitet, ponašanje i mentalno zdravlje tinejdžera.

Etiopska zagovornica digitalnih prava Eden Tadesse objavila je: „TikTok može biti toksičan i izazivati ​​ovisnost kod djece i mladih... Platforma je poduzela mjere za poštovanje prava mladih u Evropi, ali to ne čini u ostatku svijeta“, pozivajući globalne korisnike da podrže tekuće reformske napore.

Nakon ubistva Sane Yousuf, pakistanski korisnik Shehroze, koji je analizirao sadržaj na TikToku, napisao je: „Postoje stotine Sana Yousuf, koji su maltretirani, proganjani, uznemiravani... Vlasti i moderatori sadržaja ih svakodnevno iznevjeravaju tako što zatvaraju oči pred njihovim molbama.“

Istaknuta analitičarka Ayesha Ijaz Khan također se oglasila, upozoravajući na rizike s kojima se mala djeca suočavaju na platformama poput TikToka: „Vidim malu djecu s pametnim telefonima... čak i prije nego što im je dozvoljeno [da budu na društvenim mrežama], i ne mogu a da ne pomislim na sve što bi moglo poći po zlu.“

Slično tome, grupa za digitalna prava, Fondacija za digitalna prava (DRF), osudila je širenje rodno motiviranog govora mržnje i dezinformacija nakon Sanine smrti, pozivajući platforme da odlučno djeluju protiv online zlostavljanja.

Za mnoge aktiviste, TikTok je samo jedan primjer šireg obrasca - gdje se poslovni modeli vođeni angažmanom direktno sukobljavaju s pravima i sigurnošću mladih korisnika.

„Tehnološke kompanije su imale godine da riješe ove probleme“, kaže Dad. „Ako neće djelovati dobrovoljno, onda vlade moraju intervenirati - jer su životi i budućnost djece u pitanju.“

Nedavne studije potvrđuju ove zabrinutosti. Istraživanje Centra za suzbijanje digitalne mržnje, britansko-američke neprofitne kompanije, otkrilo je da TikTokov algoritam šalje štetan sadržaj - poput videa koji promoviraju poremećaje u ishrani ili samopovređivanje - tinejdžerima svakih 39 sekundi. Druga studija iz 2023. godine provedena u Grčkoj povezala je često korištenje TikToka s rastućom anksioznošću, depresijom i lošim snom kod adolescenata, pri čemu su djevojčice posebno ranjive. Stručnjaci upozoravaju da platforma postaje digitalni „ekspres lonac“ za mlade korisnike koji se već bore s mentalnim zdravljem.

Uprkos tome, popularnost TikToka nastavlja rasti. U 2024. godini, platforma je dobila približno 100 miliona novih korisnika, čime je njen ukupan broj aktivnih korisnika širom svijeta dostigao oko 1,6 milijardi.

TRT World je kontaktirao TikTok kako bi saznao šta imaju reći.

Kao odgovor, TikTok je rekao da nudi „mnogo restriktivnije“ iskustvo za tinejdžere u poređenju s odraslima, uključujući globalne zaštitne mjere i obrazovne alate. Međutim, kompanija nije direktno odgovorila na konkretne zabrinutosti koje su iznijele grupe za ljudska prava - poput poziva na globalnu zabranu ciljanog oglašavanja maloljetnicima ili nezavisnu procjenu utjecaja na prava djeteta. TikTok se za detalje o postojećim politikama osvrnuo na svoje mjere za sigurnost i dobrobit mladih.