TikTok, de populaire videodienst die wereldwijd honderden miljoenen jongeren aan het scherm kluistert via een geavanceerd aanbevelingsalgoritme, ligt opnieuw zwaar onder vuur in de Verenigde Staten. Twee Amerikaanse senatoren hebben in een vernietigende brief opheldering geëist van de top van het bedrijf over een omstreden intern experiment. Uit uitgelekte documenten blijkt dat TikTok een cruciale veiligheidsfunctie bewust uitschakelde voor miljoenen gebruikers om de impact op de gebruikersactiviteit te meten. Een zestienjarige jongen die in de testgroep belandde, overleed kort daarna door zelfdoding nadat zijn feed werd overspoeld met duister materiaal.
- Amerikaanse senatoren eisen antwoorden over een TikTok-experiment waarbij veiligheidsfilters werden uitgeschakeld.
- Ongeveer 10 procent van de Amerikaanse gebruikers — zo’n 15 miljoen mensen — diende als controlegroep.
- Een 16-jarige gebruiker uit de controlegroep kreeg duizenden depressieve video’s te zien en pleegde zelfmoord.
- TikTok heeft tot 1 september de tijd gekregen om dertien gedetailleerde vragen van het Congres te beantwoorden.
Veiligheidsfilter werd bewust uitgeschakeld voor controlegroep
Het experiment, dat aan het licht kwam via vertrouwelijke documenten uit een rechtszaak en gerapporteerd werd door Bloomberg Businessweek, vond plaats rond 2021 en 2022. TikTok ontwikkelde destijds een mechanisme om ‘filterbubbels’ te doorbreken. Dat filter moest voorkomen dat gebruikers achter elkaar video’s voorgeschoteld kregen over hetzelfde zware onderwerp, zoals depressie of zelfbeschadiging.
Om te testen wat het effect van dit filter was op de dagelijkse activiteit van gebruikers (DAU), schakelde het bedrijf de bescherming uit bij circa 10 procent van de Amerikaanse accounts. Deze groep van ongeveer 15 miljoen mensen fungeerde als controlegroep. Eén van hen was de 16-jarige Chase Nasca. Nadat hij op 25 januari 2022 willekeurig in de controlegroep werd geplaatst, ontving zijn account een stroom aan video’s over eenzaamheid, wanhoop en zelfdoding. Binnen een maand overleed hij.
Uit een intern document van TikTok blijkt dat de filterbubbelpreventie bij de jongen bewust niet werkte, omdat het bedrijf een afweging maakte tussen gebruikerveiligheid en het meten van commerciële statistieken.
Politici noemen het testen op kinderen verdorven
De democratische senator Richard Blumenthal en de republikeinse senator Marsha Blackburn stuurden een vier pagina’s tellende brief aan TikTok-topman Shou Chew en Adam Presser, hoofd van de Amerikaanse tak. De politici noemen het besluit om gebruikers als proefkonijn te gebruiken “verdorven” en “stuitend”. Ze benadrukken dat het Congres TikTok al vanaf oktober 2021 had gewaarschuwd voor de gevaren van het algoritme voor minderjarigen.
Volgens de senatoren toont het experiment aan dat TikTok de veiligheid van jongeren ondergeschikt maakt aan het behalen van hogere betrokkenheidscijfers en advertentie-inkomsten.
In de brief eisen de wetgevers dat TikTok voor 1 september dertien vragen beantwoordt. Ze willen onder meer weten welke medewerkers op de hoogte waren van de proef, waarom minderjarigen niet werden uitgesloten en of er nog meer experimenten zijn geweest waarbij veiligheidsopties werden vertraagd of uitgeschakeld.
Spanning tussen productoptimalisatie en ethische grenzen
In de techsector is het uitvoeren van zogeheten A/B-tests — waarbij functies bij een klein deel van de gebruikers worden aangepast om het gedrag te vergelijken — een standaardinformatiebron. Normaal gesproken worden deze testen gebruikt om de gebruikerservaring te verbeteren. Het bewust uitschakelen van beschermings- en veiligheidsfilters bij kwetsbare doelgroepen overschrijdt echter de grens van wat politiek en maatschappelijk acceptabel wordt geacht.
Dit betekent dat technologiebedrijven in de toekomst mogelijk aan strengere wettelijke kaders voor algoritmetesten worden onderworpen. Voor sociale media impliceert dit dat het gebruik van ‘controlegroepen’ bij veiligheidsvoorzieningen juridisch zware consequenties kan hebben wanneer er schade ontstaat.
TikTok heeft inhoudelijk nog niet direct gereageerd op de brief van de senatoren. In een eerdere verklaring stelde een woordvoerder dat het bedrijf diep betrokken is bij de veiligheid en het welzijn van jongeren, meeleeft met getroffen families en voortdurend blijft investeren in moderatie en veiligheidssystemen.
