Default
Door staff@engadget.com (Karissa Bell) - 20 Aug 2026
TikTok wordt geconfronteerd met een nieuwe reeks vragen over zijn veiligheidsprestaties en hoe zijn algoritme problematische ‘filterbubbels’ heeft aangewakkerd. Senatoren Marsha Blackburn en Richard Blumenthal stuurden een scherp geformuleerde brief naar de topmanagers van het bedrijf, waarin ze hen ondervroegen over de manier waarop de app belangrijke veiligheidsvoorzieningen heeft getest en in sommige gevallen achtergehouden.
De brief komt nadat Bloomberg rapporteerde over een experiment dat het bedrijf in 2021 begon met betrekking tot een algoritmische veiligheidsfunctie. De wijziging was bedoeld om gebruikers te helpen 'repeterende patronen', of wat soms 'filterbubbels' worden genoemd, te vermijden in de 'voor jou'-feed. Het bedrijf zei destijds dat de update bedoeld was om te voorkomen dat "te veel van een inhoudscategorie wordt bekeken die prima kan zijn als een enkele video, maar problematisch als deze in clusters wordt bekeken."
Wat het bedrijf destijds niet deelde, was dat het van plan was de functie voor miljoenen gebruikers achter te houden, zodat TikTok de ‘controlegroep’ kon gebruiken om de impact ervan op de betrokkenheid te testen. Een Amerikaanse tiener, Chase Nasca, stierf door zelfmoord kort nadat zijn account onderdeel werd van de controlegroep, aldus Bloomberg. De tiener "viel in een filterbubbel waar op zijn account een repetitieve hoeveelheid inhoud werd aanbevolen over zelfmoord en zelfbeschadiging en depressieve onderwerpen, vooral in de aanloop naar de datum van zijn zelfmoord", aldus een intern TikTok-document dat eerder deze maand door de outlet werd gerapporteerd.
In hun brief eisen de senatoren dat TikTok details verstrekt over het experiment, en anderen vinden het leuk. Het bedrijf werd ook onder druk gezet of het ooit zou besluiten een veiligheidsfunctie niet uit te rollen vanwege de potentiële impact ervan op de betrokkenheid of advertentie-inkomsten. Het bedrijf kreeg 1 september de deadline om te reageren. “Deze laatste onthullingen laten zien dat TikTok niet alleen over informatie beschikte over de gevaren die door zijn aanbevelingssystemen werden veroorzaakt, maar miljoenen gebruikers opzettelijk de toegang tot een veiligheidsinterventie ontzegde, zodat het bedrijf de impact van de interventie op de betrokkenheid kon bestuderen”, aldus de brief.
Beide wetgevers zijn nauw betrokken geweest bij het aandringen op sociale mediabedrijven voor meer waarborgen voor tieners, en zijn grote voorstanders geweest van de Kids Online Safety Act (KOSA). Het experiment uit 2021 begon kort nadat een TikTok-beleidsfunctionaris verscheen op een hoorzitting van het Congres waarin Blumenthal en Blackburn er bij het bedrijf op aandrongen meer te doen om kinderen op zijn platform te beschermen. “Deze onthullingen zijn afschuwelijk, maar ze worden nog sinister gemaakt omdat TikTok op de hoogte was van de effecten van zijn aanbevelingsalgoritmen op kinderen”, schrijven de senatoren.
TikTok reageerde niet onmiddellijk op een verzoek om commentaar.
De brief komt nadat Bloomberg rapporteerde over een experiment dat het bedrijf in 2021 begon met betrekking tot een algoritmische veiligheidsfunctie. De wijziging was bedoeld om gebruikers te helpen 'repeterende patronen', of wat soms 'filterbubbels' worden genoemd, te vermijden in de 'voor jou'-feed. Het bedrijf zei destijds dat de update bedoeld was om te voorkomen dat "te veel van een inhoudscategorie wordt bekeken die prima kan zijn als een enkele video, maar problematisch als deze in clusters wordt bekeken."
Wat het bedrijf destijds niet deelde, was dat het van plan was de functie voor miljoenen gebruikers achter te houden, zodat TikTok de ‘controlegroep’ kon gebruiken om de impact ervan op de betrokkenheid te testen. Een Amerikaanse tiener, Chase Nasca, stierf door zelfmoord kort nadat zijn account onderdeel werd van de controlegroep, aldus Bloomberg. De tiener "viel in een filterbubbel waar op zijn account een repetitieve hoeveelheid inhoud werd aanbevolen over zelfmoord en zelfbeschadiging en depressieve onderwerpen, vooral in de aanloop naar de datum van zijn zelfmoord", aldus een intern TikTok-document dat eerder deze maand door de outlet werd gerapporteerd.
In hun brief eisen de senatoren dat TikTok details verstrekt over het experiment, en anderen vinden het leuk. Het bedrijf werd ook onder druk gezet of het ooit zou besluiten een veiligheidsfunctie niet uit te rollen vanwege de potentiële impact ervan op de betrokkenheid of advertentie-inkomsten. Het bedrijf kreeg 1 september de deadline om te reageren. “Deze laatste onthullingen laten zien dat TikTok niet alleen over informatie beschikte over de gevaren die door zijn aanbevelingssystemen werden veroorzaakt, maar miljoenen gebruikers opzettelijk de toegang tot een veiligheidsinterventie ontzegde, zodat het bedrijf de impact van de interventie op de betrokkenheid kon bestuderen”, aldus de brief.
Beide wetgevers zijn nauw betrokken geweest bij het aandringen op sociale mediabedrijven voor meer waarborgen voor tieners, en zijn grote voorstanders geweest van de Kids Online Safety Act (KOSA). Het experiment uit 2021 begon kort nadat een TikTok-beleidsfunctionaris verscheen op een hoorzitting van het Congres waarin Blumenthal en Blackburn er bij het bedrijf op aandrongen meer te doen om kinderen op zijn platform te beschermen. “Deze onthullingen zijn afschuwelijk, maar ze worden nog sinister gemaakt omdat TikTok op de hoogte was van de effecten van zijn aanbevelingsalgoritmen op kinderen”, schrijven de senatoren.
TikTok reageerde niet onmiddellijk op een verzoek om commentaar.