Izvršna direktorica „Mreže za prevenciju nasilja“ Judy Korn osvrnula se na ekstremizam vidljiv na TikToku. Na forumu o povjerenju i sigurnosti u Dublinu rekla je da se priroda ekstremizma danas sve više mijenja zajedno s taktikama koje se koriste na platformi, pisao je Sky News.
Nihilistički ekstremizam ne aktivira tradicionalne filtre za sadržaj na TikToku što ga čini težim za otkrivanje. Njega ne pokreće nijedna ideologija ni politika. Pokreću ga „razaranje i kaos“, rekla je. Ekstremisti na društvenim mrežama koriste generativnu umjetnu inteligenciju za širenje svojih nasilnih poruka. Generativna umjetna inteligencija mnogo je pametnija od čovjeka i brže uči kako proizvesti sadržaj koji prenosi željenu poruku, a da pritom ne krši propise ni smjernice platforme, rekla je Korn.
Mladi sve podložniji ekstremima
Korn je istaknula da osim islamističkog i desničarskog ekstremizma, danas najbrže raste nihilistički nasilni ekstremizam. Nasilni ekstremisti postaju sve mlađi. To se događa zbog eho komora, pisao je portal Global Network on Extremism and Technology. Kod generacije Z promjena je vidljiva u njihovom humoru i ostalim online interakcijama. Pripadnici ovih dobnih skupina pritom su podložni ekstremističkoj retorici.
Zbog toga, Korn je najavila da TikTok uvodi niz novih mjera da bi bolje zaštitio svoje korisnike. Platforma je objavila da se 98,9 posto sadržaja uklanja prije nego što bude prijavljeno. Podatak se odnosi na sadržaj uklonjen kršenja politika o mržnji i nasilnim organizacijama proaktivno.
Ostale mjere
TikTok je također najavio novi nevidljivu vodeni žig koji će korisnicima pomoći prepoznati kada je sadržaj stvoren pomoću umjetne inteligencije.
„Zajednički izazov u industriji je to što se ove oznake mogu ukloniti ako se sadržaj preuzme pa ponovno učita ili uredi negdje drugdje“, rekla je Jade Nester, direktorica za javne politike u području podataka za Europu u TikToku.
Ovi nevidljivi žigovi pomoći će kod tog problema dodavanjem tehnološkog vodenog žiga. Njega će samo TikTok moći pročitati, rekla je Neser. Osim toga TikTok je najavio novu stavku wellness centar koji potiče korisnike da se fokusiraju na svoje mentalno zdravlje kroz meditaciju, afirmacije i kontrolirano korištenje ekrana.
