Default
Door staff@engadget.com (Anna Washenko) - 07 Jul 2026
Het ondersteuningsteam van Discord ging gisteren naar X om uit te leggen hoe een bug in de moderatietools ervoor zorgde dat accounts ten onrechte werden verbannen. Hoewel dit weekend ongeveer 200 accounts door het probleem werden getroffen, heeft het probleem sinds mei 2026 mogelijk gevolgen gehad voor ongeveer 8.200 accounts.
Posts met vierkante rasterafbeeldingen leken het probleem te zijn en werden door Discord ten onrechte gemarkeerd als materiaal voor seksueel misbruik van kinderen. Dat betekende helaas dat alles, van een spreadsheet tot een schaakbord tot het Minecraft-inventarismenu, tot een onterecht verbod had kunnen leiden.
We weten dat dit geen bevredigende verklaring is als dit jouw account was, en we hadden dit eerder moeten onderkennen. We werken aan betere waarborgen, zodat dit niet stilletjes opnieuw kan gebeuren, en in bredere zin, aan het ervoor zorgen dat onze veiligheidssystemen geen mensen straffen die niets verkeerd hebben gedaan...
— Discord-ondersteuning (@discord_support) 7 juli 2026
Het bedrijf maakt gebruik van door AI aangedreven tools voor inhoudsmoderatie om bekend schadelijk materiaal te vergelijken met wat zijn leden posten. Het ondersteuningsteam erkende dat het bekend is dat het systeem valse positieven genereert, dus worden gemarkeerde accounts meestal beoordeeld door een persoon van het Trust & Safety-team van het bedrijf voordat er actie wordt ondernomen tegen een gebruiker. "Het beoogde gedrag is om uploads tijdelijk te onderbreken tijdens die beoordeling, en niet om het account te verbannen", staat in de berichten. "We hadden een bug die dit laatste veroorzaakte. Toen ons personeel die accounts controleerde en opruimde, verhinderde dezelfde bug dat het verbod automatisch werd opgeheven, dus het bleef gewoon van kracht."
Zoals Discord in zijn verontschuldiging zegt, is het een gênante vergissing om ongeveer twee maanden actief te zijn. Het bedrijf zei dat alle accounts die als valse positieven waren verboden, nu moeten worden hersteld.
Posts met vierkante rasterafbeeldingen leken het probleem te zijn en werden door Discord ten onrechte gemarkeerd als materiaal voor seksueel misbruik van kinderen. Dat betekende helaas dat alles, van een spreadsheet tot een schaakbord tot het Minecraft-inventarismenu, tot een onterecht verbod had kunnen leiden.
We weten dat dit geen bevredigende verklaring is als dit jouw account was, en we hadden dit eerder moeten onderkennen. We werken aan betere waarborgen, zodat dit niet stilletjes opnieuw kan gebeuren, en in bredere zin, aan het ervoor zorgen dat onze veiligheidssystemen geen mensen straffen die niets verkeerd hebben gedaan...
— Discord-ondersteuning (@discord_support) 7 juli 2026
Het bedrijf maakt gebruik van door AI aangedreven tools voor inhoudsmoderatie om bekend schadelijk materiaal te vergelijken met wat zijn leden posten. Het ondersteuningsteam erkende dat het bekend is dat het systeem valse positieven genereert, dus worden gemarkeerde accounts meestal beoordeeld door een persoon van het Trust & Safety-team van het bedrijf voordat er actie wordt ondernomen tegen een gebruiker. "Het beoogde gedrag is om uploads tijdelijk te onderbreken tijdens die beoordeling, en niet om het account te verbannen", staat in de berichten. "We hadden een bug die dit laatste veroorzaakte. Toen ons personeel die accounts controleerde en opruimde, verhinderde dezelfde bug dat het verbod automatisch werd opgeheven, dus het bleef gewoon van kracht."
Zoals Discord in zijn verontschuldiging zegt, is het een gênante vergissing om ongeveer twee maanden actief te zijn. Het bedrijf zei dat alle accounts die als valse positieven waren verboden, nu moeten worden hersteld.