TikTok: het algoritme dat de mentale gezondheid van jongeren in gevaar brengt

Achter het ogenschijnlijk onschuldige entertainment van TikTok schuilt een ernstig gevaar voor jongeren. Volgens een nieuw rapport van Amnesty International, gepubliceerd op 21 oktober, blijft het Chinese platform kinderen en adolescenten, die al kwetsbaar zijn, blootstellen aan depressieve en zelfs suïcidale content, en dat ondanks Europese regelgeving die minderjarigen zou moeten beschermen.

Het rapport, getiteld Entraîné·e·s dans le “rabbit hole ('Gevangen in de ‘rabbit hole'), belicht TikTok’s onvermogen om de negatieve effecten van een algoritmisch model te corrigeren dat is ontworpen om engagement te maximaliseren… ten koste van de mentale gezondheid van de meest kwetsbaren.

Drie uur om in de val te lopen

De onderzoekers van Amnesty creëerden drie valse profielen van 13-jarige tieners in Frankrijk. Resultaat: binnen minder dan een uur op de “For You”-feed werden de accounts overspoeld met video’s over verdriet, depressie en suïcidale gedachten.

“Onze technische bevindingen tonen hoe snel tieners die interesse tonen in mentale gezondheidscontent in een toxische spiraal (‘rabbit hole’) terechtkomen,” zegt Lisa Dittmer, onderzoeker op het gebied van kinder- en jongerenrechten bij Amnesty International. “In slechts drie tot vier uur op de TikTok ‘For You’-feed werden de nepaccounts blootgesteld aan video’s die zelfdoding idealiseerden of jongeren lieten zien die hun intentie uitspraken om een einde aan hun leven te maken, inclusief informatie over methoden. Getuigenissen van jongeren en rouwende ouders in Frankrijk tonen hoe TikTok het zelfbeschadigingsgedrag en suïcidale gedachten van jongeren heeft genormaliseerd en verergerd, tot het punt waarop methodes en challenges werden aangeraden.”

In samenwerking met het Algorithmic Transparency Institute (ati.io) bevestigt de studie dat TikTok depressieve content actief versterkt. Wanneer accounts interageren met content over mentale gezondheid, verdubbelt het percentage verdrietige of morbide aanbevelingen.

Schokkende getuigenissen

Naast technische tests verzamelde Amnesty aangrijpende getuigenissen van jongeren en families in Frankrijk.

Maëlle, 18 jaar, vertelt dat ze sinds 2021 gegrepen werd door content over zelfbeschadiging: “Mensen zien die zich live snijden of uitleggen hoe je jezelf van het leven kunt beroven… dat beïnvloedt je, het zet je aan om hetzelfde te doen.”

“Voor deze platforms worden onze kinderen producten, geen mensen. Ze gebruiken algoritmes en filterbubbels om de emoties van kinderen te exploiteren en hun aandacht te grijpen. Het algoritme observeert interesses die het niet zou mogen, het dringt door in de privésfeer van het kind. Maar kinderen hebben rechten,” aldus Stéphanie Mistre, moeder van Marie Le Tiec, een Franse tiener die in 2021 werd meegesleurd in TikTok’s depressieve content en op 15-jarige leeftijd zelfdoding pleegde.

TikTok en het Europese DSA

In Europa moet TikTok zich houden aan de Digital Services Act (DSA), die platforms verplicht systemische risico’s voor kinderrechten te identificeren en te beperken. Amnesty spreekt van een duidelijke schending van deze verplichting.

“Dit nieuwe bewijs van overtredingen van de DSA door TikTok moet dringend worden meegenomen in het lopende onderzoek van de Europese Commissie. Dwingende en effectieve maatregelen zijn nodig om TikTok eindelijk veilig te maken voor jongeren in de EU en wereldwijd,” zegt Katia Roux, pleitbezorger bij Amnesty International Frankrijk.

Een economisch model onder vuur

Centraal in het probleem staat de aandachtseconomie. Het TikTok-algoritme is ontworpen om gebruikers zo lang mogelijk op het platform te houden, zelfs door extreme content aan te bevelen. Deze engagementgedreven mechaniek voedt een vicieuze cirkel van verslaving en psychisch leed.

Volgens Amnesty schendt dit model de kinderrechten zoals gedefinieerd door de Verenigde Naties. De organisatie wijst ook op blijvende tekortkomingen in contentmoderatie: video’s die zelfbeschadiging promoten blijven online ondanks herhaalde meldingen.

Richting strengere regulering

In Frankrijk neemt het parlementaire debat over de verantwoordelijkheid van digitale platforms toe. Het Amnesty-rapport levert nieuwe argumenten voor degenen die pleiten voor strengere regels voor algoritmes.

Voor ouders en opvoeders is de situatie alarmerend: jongeren worden niet alleen blootgesteld aan schokkende content, ze worden erin getrokken, aangemoedigd en opgesloten. Een algoritmische spiraal die, in tijden van Europese regelgeving, de cruciale vraag oproept: wie beschermt echt de kinderen in het digitale tijdperk?