Nieuwe studie van Sitra: algoritmes vormen het wereldbeeld van jonge Europeanen

Algoritmes vormen de informatieomgeving van jonge Europeanen op een manier die ze niet volledig waarnemen of controleren. Daardoor worden ze blootgesteld aan een vervormd politiek universum, vol emoties en sensatie, dat hun deelname aan de democratie kan ontmoedigen. Dat blijkt uit de nieuwe studie van het Finse innovatiefonds Sitra, “Algorithms and Democracy: How social media shapes young Europeans’ worldviews”, uitgevoerd in samenwerking met het Behavioural Insights Team (BIT) en Bondata.

De studie toont ook aan dat de helft van de jonge Europese volwassenen teleurstelling, angst, woede of verdriet ervaart bij politieke en maatschappelijke discussies op sociale media. Dat resultaat geldt in alle onderzochte landen: Finland, Frankrijk en Roemenië. Sociale media zijn in korte tijd uitgegroeid tot centrale informatiebronnen en belangrijke ruimtes voor burgerdebatten in het digitale tijdperk.

“De platforms zijn echter geen neutrale tussenpersonen. Via ondoorzichtige algoritmes sturen ze het publieke debat, het gedrag en de emoties,” legt Kristo Lehtonen, directeur internationale programma’s bij Sitra, uit.

Om de Europese democratie te beschermen en te vernieuwen, wilde Sitra analyseren hoe algoritmes van platforms politieke inhoud verspreiden onder jonge Europeanen en oplossingen voorstellen om de digitale publieke ruimte veiliger te maken voor democratie en gebruikers. De studie bouwt voort op eerdere onderzoeken van Sitra naar digitale macht, oftewel vormen van macht gebaseerd op data en digitale technologieën.

Politieke bias en sensatiezucht

De studie bestaat uit twee complementaire onderdelen. Het eerste onderdeel is een platformaudit uitgevoerd door het internationale Behavioural Insights Team, bekend om zijn gedragswetenschappelijk onderzoek. Hiervoor creëerde BIT avatars van 18 tot 24 jaar op TikTok, Instagram en X en observeerde de politieke inhoud die algoritmes in Finland, Roemenië en Frankrijk voorschotelden. In totaal werden deze avatars blootgesteld aan 1.719 politieke publicaties, die door de onderzoekers werden gecategoriseerd.

Het tweede onderdeel is een enquête uitgevoerd door het Finse onderzoeksbureau Bondata onder 18- tot 29-jarigen in dezelfde landen. Hierbij werd vooral gekeken naar de emoties die de inhoud op sociale media oproept.

Tijdens de studie werden de BIT-avatars gemiddeld veel meer blootgesteld aan rechtse dan aan linkse of centrumpolitieke inhoud. Die trend bleef bestaan, zelfs wanneer de avatars interesse toonden in linkse politiek. Roemenië vormt een uitzondering, met overwegend centrumpolitieke feeds, voornamelijk bestaande uit overheidscommunicatie. Van de 1.719 onderzochte politieke publicaties waren 58% rechts, 26% links en 16% centrum.

De resultaten benadrukken ook de toenemende achteruitgang van de kwaliteit van sociale media, soms aangeduid als “enshittification”, doordat platforms engagement en monetisatie boven gebruikerservaring stellen. Niet minder dan 67% van de politieke inhoud bestond uit opinie, entertainment of niet-verifieerbare content. Veel ervan was sensationeel, polariserend en vaak extremistisch. Voorbeelden zijn AI-gegenereerde video’s waarin gorilla’s misogynistische en xenofobische uitspraken doen, of memes die nazi-ideologie ondersteunen.

“Dit soort inhoud overtreedt de platformregels niet en kan niet worden geverifieerd. Maar wanneer het dominant wordt, ontstaat een omgeving waarin constructief burgerdebat moeilijk wordt,” legt Ilkka Räsänen uit, projectleider en hoofd Europese zaken bij Sitra. Een op de drie jonge volwassenen in Finland, Frankrijk en Roemenië zegt regelmatig te worden geconfronteerd met desinformatie, haatspraak, vijandige opmerkingen of complottheorieën op sociale media.

In het Bondata-onderzoek zegt meer dan een derde van de jonge volwassenen in deze landen regelmatig of vaak geconfronteerd te worden met desinformatie, complottheorieën, haatspraak of vijandige opmerkingen op sociale media. De helft van de respondenten geeft aan frustratie, woede, angst of verdriet te voelen bij het volgen van politieke discussies online.

Zeven aanbevelingen van Sitra

De studie doet zeven aanbevelingen aan beleidsmakers, autoriteiten, opvoeders en platforms om de digitale publieke ruimte gezonder en veiliger te maken voor democratie en gebruikers:

1. Transparantie van rankings en gebruikerscontrole
   
   Platforms moeten, conform de DSA, op een duidelijke manier de belangrijkste rangschikkingscriteria uitleggen, instelbare voorkeuren aanbieden en een feed zonder profilering mogelijk maken.

2. Onafhankelijke audits en risicobewaking
   
   De EU moet onafhankelijke, systematische audits van langetermijnrisico’s waarborgen, met regelmatige monitoring van ideologische amplificatie, blootstelling aan problematische inhoud en emotionele/gedragsmatige effecten.

3. Beschermende standaardinstellingen voor grote platforms
   
   Aan VLOPs (Very Large Online Platforms) zouden standaard beschermende instellingen moeten worden opgelegd, zoals het beperken van autoplay, duidelijke contentcontrols en eenvoudige tools om aanbevelingen aan te passen.

4. Versterken van democratische veerkracht en digitale geletterdheid
   
   Democratische veerkracht moet worden ondersteund door educatie in digitale informatie en civic tech. De EU zou ook epistemische rechten moeten integreren in digitale governance.

5. Samenwerking, traceerbaarheid en auditbaarheid
   
   De EU en lidstaten moeten de toepassing van DSA en AI Act coördineren, duidelijke labels en traceerbaarheid voor door AI gegenereerde politieke inhoud eisen en auditcapaciteit versterken om algoritmische risico’s te controleren.

6. Versterken van gebruikersmobiliteit en digitale zelfbeschikking
   
   Dataportabiliteit moet verder gaan dan persoonlijke data; standaarden voor reputatieportabiliteit ontwikkelen en expliciet erkennen dat bescherming tegen manipulatie een democratisch recht is.

7. Minimumleeftijd voor sociale media verhogen
   
   De EU en lidstaten zouden het minimumleeftijdscriterium voor volledig gebruik van sociale media moeten verhogen en effectief handhaven, via gecoördineerde Europese actie.