TikTok gaat sneller waarschuwen voor gevaarlijke challenges

"We hebben onze aanpak van gevaarlijke challenges en hoaxes aangescherpt," vertelt Alexandra Evans, hoofd van het veiligheidsbeleid bij TikTok. Het bedrijf zegt riskante challenges eerder automatisch te kunnen detecteren. "We hebben nieuwe technologie die ons sneller kan alarmeren bij een plotselinge toename van video's die onze regels overtreden. Daardoor kunnen we nu ook potentieel gevaarlijk gedrag beter tegengaan", aldus Evans. 

Een onschuldige hashtag kan ineens gebruikt worden voor een gevaarlijke challenge. "Zo wordt een hashtag als #FoodChallenge vaak gebruikt om lekkere recepten en kookinspiratie te delen. Zien we een piek in aan die hashtag gekoppelde content die de regels schendt, dan wordt ons team gewaarschuwd om te onderzoeken hoe dat komt."

Waarschuwingen

TikTok heeft het veiligheidscentrum in zijn app uitgebreid met meer informatie over challenges. De vaak jonge gebruikers wordt daarin opgeroepen om 'kritisch na te denken'. "Als je denkt dat iets onveilig kan zijn, doe het dan niet. Dat is onze boodschap", zegt Evans. "Challenges veranderen continu en zijn heel lastig te voorspellen. Ons werk is dus nooit klaar."

TikTok-gebruikers krijgen de komende tijd ook nieuwe meldingen en aangepaste waarschuwingen te zien als ze zoeken naar bepaalde challenges. "We hebben het taalgebruik verbeterd. De formuleringen zijn nu directer en empathischer", zegt Evans. 

Levensgevaarlijke challenges

TikTok kwam de afgelopen jaren meermaals onder vuur te liggen nadat gebruikers elkaar uitdaagden voor levensgevaarlijke challenges. In maart zou een 12-jarige Amerikaanse jongen aan de gevolgen van een challenge zijn overleden en in januari stierf een 10-jarig Italiaans meisje door de blackout challenge op TikTok.

Volgens TikTok zijn er ook veel challenges die wel "leuk en veilig" zijn. Het bekendste voorbeeld is de Ice Bucket Challenge uit 2014, die zorgde voor meer bewustzijn voor de ziekte ALS.

TikTok liet in een onderzoek in tien landen jongeren beoordelen wat ze van video's met challenges vonden. Veertien procent van de challenges werd als ‘riskant en gevaarlijk’ beoordeeld, drie procent werd gezien als ‘erg gevaarlijk’. Een derde van de challenges beoordeelden ze als ‘een beetje riskant maar nog wel veilig'.

'Tieners zoeken de grenzen op'

Dat challenges vooral populair zijn onder jongeren komt doordat veel tieners juist in die levensfase op zoek zijn naar gevaren, sensatie en spanning, zegt hoogleraar mediaopvoeding Peter Nikken van het Nederlands Jeugdinstituut. "Ze zoeken de grenzen op en doen dat tegenwoordig allemaal op de smartphone, bijvoorbeeld met challenges."

Voor ouders is het lastig om toezicht te houden op wat kinderen online doen, aldus Nikken. "Een algemeen gesprek lukt nog wel, maar door de kleine schermpjes mis je als ouder makkelijk het zicht. Bovendien vertellen kinderen niet snel zelf uit henzelf wat hen overkomt op sociale media."

Nikken vindt het positief dat TikTok strenger gaat optreden. "Het is prettig als platforms hun verantwoordelijkheid pakken. Zeker als je als kind geen sociaal vangnet hebt van betrokken ouders en zorgzame vrienden, dan ben je extra kwetsbaar voor gevaarlijke challenges."

Volgens Nikken is het belangrijk dat de informatie die TikTok laat zien toegankelijk en transparant is. "Het moet in een taal en vorm zijn die aanspreekt bij de doelgroep. Bijvoorbeeld door jongeren zelf in te schakelen, hen te laten vertellen over hun ervaringen."

Hoaxes over zelfbeschadiging

TikTok verwijdert al hoaxes rond zelfmoord en zelfbeschadiging, maar zegt nu ook scherper te letten op de waarschuwingen voor hoaxes die gebruikers - vaak met de beste bedoelingen - rondsturen.

Uit het onderzoek onder tieners bleek namelijk dat waarschuwingen over dit soort hoaxes op zichzelf ook een schadelijk effect kunnen hebben. "We zullen paniekzaaiende waarschuwingen over deze hoaxes verwijderen, juist omdat die schadelijk kunnen zijn door de zelfbeschadigingshoax als ‘waar’ te behandelen."

Privacy

TikTok nam eerder dit jaar al een aantal maatregelen die de veiligheid van jonge gebruikers zouden moeten vergroten. Zo worden de accounts van gebruikers tussen de 13 en 15 jaar standaard op privé gezet en kunnen onbekenden hun video's niet automatisch zien.

In Nederland lopen er twee rechtszaken tegen TikTok waarin miljarden euro's aan schadevergoeding worden geëist vanwege het schenden van de privacy van jonge gebruikers. In juli kreeg het bedrijf van de Autoriteit Persoonsgegevens al een boete van 750.000 euro wegens overtreding van de privacywet.