Default
Door staff@engadget.com (Karissa Bell) - 16 Jul 2026
De Oversight Board, de onafhankelijke organisatie voor contentmoderatie opgericht door Meta, heeft geen geheim gemaakt van zijn wens om zijn reikwijdte uit te breiden naar andere bedrijven. Recentelijk heeft het bestuur gesuggereerd dat zijn expertise ten goede zou kunnen komen aan AI-bedrijven.
Tot nu toe heeft geen enkel ander bedrijf interesse getoond in samenwerking met de groep, althans niet publiekelijk. Maar het bestuur gaat toch door met zijn poging om zijn invloed te vergroten. Vandaag heeft het bestuur een uitgebreid rapport gepubliceerd over hoe toonaangevende AI-modellen de vrije meningsuiting van hun gebruikers zouden kunnen beperken.
Als onderdeel van hun onderzoek heeft het bestuur tien verschillende modellen, waaronder die van OpenAI, Meta, Google, Anthropic en xAI (nu SpaceXAI), gevraagd met vragen gerelateerd aan politieke kritiek. De vragen omvatten onder meer verzoeken om protestmateriaal te genereren, en om inhoud die politiek geweld in relatie tot specifieke regeringen en hun leiders hekelt. Volgens hun bevindingen was er een aanzienlijk verschil in de manier waarop LLM's op deze verzoeken reageerden, afhankelijk van de vraag of de aanwijzingen betrekking hadden op regeringen met 'tolerante' wetten op de vrijheid van meningsuiting of meer 'beperkende' wetten.
“Uit het onderzoek bleek dat de modellen die we evalueerden: 1) waarschijnlijker waren om te zeggen dat gebruikers regeringen zouden moeten steunen die hun mening toelaten, en 2) meer waarschijnlijk zouden zeggen dat gebruikers niet zouden moeten protesteren tegen regeringen die hun meningsuiting beperken”, schrijft de Oversight Board in haar rapport. "Deze verschillen waren statistisch significant." Verder wordt opgemerkt dat de LLM's vaak lokale wetten aanhaalden als reden om niet aan verzoeken te voldoen, ook al werden de vragen gesteld in Australië, waar dergelijke wetten niet bestaan.
“We kijken heel duidelijk naar een situatie waarin er sprake lijkt te zijn van uitgebreide censuur bij volmacht die over de grenzen heen gaat”, vertelde medevoorzitter van het bestuur, Paolo Carozza, aan Engadget. "Dat verbaast mij, en het baart mij zorgen."
Het rapport is de eerste keer dat het bestuur zijn eigen onderzoek heeft uitgevoerd naar een probleem dat niet direct verband houdt met het modereren van sociale media-inhoud. Hoewel een van Meta's Llama-modellen deel uitmaakte van de testgroep, merkt het rapport op dat het bedrijf "geen rol speelde in dit onderzoek", ondanks dat de Oversight Board voor financiering afhankelijk was van Meta.
Hoewel het rapport niet het soort gedetailleerde aanbevelingen doet dat het vaak aan Meta doet, bevat het wel suggesties over hoe AI-bedrijven hun aanpak van kwesties die verband houden met mensenrechten en vrije meningsuiting kunnen verbeteren. “Zoals sociale-mediabedrijven onder bepaalde omstandigheden hebben gedaan, moeten AI-bedrijven hun reacties op overheidsverzoeken die van invloed zijn op de modelproductie gedurende de hele levenscyclus van het model (training, verfijning, evaluatie vóór de implementatie en post-implementatie op terugkerende basis) openbaar maken en toelichten”, aldus het rapport. “De bedrijven moeten beleid opstellen en publiceren over hoe te reageren op de eisen van de overheid voor inhoudsbeperkingen die in strijd zijn met de internationale mensenrechtenwetgeving.”
Wat veel minder duidelijk is, is wat er eventueel uit het rapport zal komen. Er bestaat geen formele structuur waarin de Oversight Board officieel invloed kan uitoefenen op het beleid van de bedrijven waarvan ze de modellen hebben getest. Het is ook niet de eerste keer dat externe onderzoekers hebben gewezen op mogelijke vooroordelen of hun bezorgdheid hebben geuit over het feit dat AI-bedrijven mogelijk dezelfde fouten maken als sociale-mediaplatforms in het verleden.
Carozza zei dat het bestuur gelooft dat sociale media de makers van grensverleggende AI-modellen kunnen leren. “De lessen die we in het verleden hebben geleerd, zijn dat je heel waakzaam moet zijn, omdat technologieën vaak, zelfs op manieren die niet noodzakelijkerwijs opzettelijk of direct zijn, belangrijke gevolgen kunnen hebben voor het vermogen van mensen om zich uit te drukken of met elkaar te communiceren,” zei hij. "Dat is precies wat we hier hebben gevonden."
Tot nu toe heeft geen enkel ander bedrijf interesse getoond in samenwerking met de groep, althans niet publiekelijk. Maar het bestuur gaat toch door met zijn poging om zijn invloed te vergroten. Vandaag heeft het bestuur een uitgebreid rapport gepubliceerd over hoe toonaangevende AI-modellen de vrije meningsuiting van hun gebruikers zouden kunnen beperken.
Als onderdeel van hun onderzoek heeft het bestuur tien verschillende modellen, waaronder die van OpenAI, Meta, Google, Anthropic en xAI (nu SpaceXAI), gevraagd met vragen gerelateerd aan politieke kritiek. De vragen omvatten onder meer verzoeken om protestmateriaal te genereren, en om inhoud die politiek geweld in relatie tot specifieke regeringen en hun leiders hekelt. Volgens hun bevindingen was er een aanzienlijk verschil in de manier waarop LLM's op deze verzoeken reageerden, afhankelijk van de vraag of de aanwijzingen betrekking hadden op regeringen met 'tolerante' wetten op de vrijheid van meningsuiting of meer 'beperkende' wetten.
“Uit het onderzoek bleek dat de modellen die we evalueerden: 1) waarschijnlijker waren om te zeggen dat gebruikers regeringen zouden moeten steunen die hun mening toelaten, en 2) meer waarschijnlijk zouden zeggen dat gebruikers niet zouden moeten protesteren tegen regeringen die hun meningsuiting beperken”, schrijft de Oversight Board in haar rapport. "Deze verschillen waren statistisch significant." Verder wordt opgemerkt dat de LLM's vaak lokale wetten aanhaalden als reden om niet aan verzoeken te voldoen, ook al werden de vragen gesteld in Australië, waar dergelijke wetten niet bestaan.
“We kijken heel duidelijk naar een situatie waarin er sprake lijkt te zijn van uitgebreide censuur bij volmacht die over de grenzen heen gaat”, vertelde medevoorzitter van het bestuur, Paolo Carozza, aan Engadget. "Dat verbaast mij, en het baart mij zorgen."
Het rapport is de eerste keer dat het bestuur zijn eigen onderzoek heeft uitgevoerd naar een probleem dat niet direct verband houdt met het modereren van sociale media-inhoud. Hoewel een van Meta's Llama-modellen deel uitmaakte van de testgroep, merkt het rapport op dat het bedrijf "geen rol speelde in dit onderzoek", ondanks dat de Oversight Board voor financiering afhankelijk was van Meta.
Hoewel het rapport niet het soort gedetailleerde aanbevelingen doet dat het vaak aan Meta doet, bevat het wel suggesties over hoe AI-bedrijven hun aanpak van kwesties die verband houden met mensenrechten en vrije meningsuiting kunnen verbeteren. “Zoals sociale-mediabedrijven onder bepaalde omstandigheden hebben gedaan, moeten AI-bedrijven hun reacties op overheidsverzoeken die van invloed zijn op de modelproductie gedurende de hele levenscyclus van het model (training, verfijning, evaluatie vóór de implementatie en post-implementatie op terugkerende basis) openbaar maken en toelichten”, aldus het rapport. “De bedrijven moeten beleid opstellen en publiceren over hoe te reageren op de eisen van de overheid voor inhoudsbeperkingen die in strijd zijn met de internationale mensenrechtenwetgeving.”
Wat veel minder duidelijk is, is wat er eventueel uit het rapport zal komen. Er bestaat geen formele structuur waarin de Oversight Board officieel invloed kan uitoefenen op het beleid van de bedrijven waarvan ze de modellen hebben getest. Het is ook niet de eerste keer dat externe onderzoekers hebben gewezen op mogelijke vooroordelen of hun bezorgdheid hebben geuit over het feit dat AI-bedrijven mogelijk dezelfde fouten maken als sociale-mediaplatforms in het verleden.
Carozza zei dat het bestuur gelooft dat sociale media de makers van grensverleggende AI-modellen kunnen leren. “De lessen die we in het verleden hebben geleerd, zijn dat je heel waakzaam moet zijn, omdat technologieën vaak, zelfs op manieren die niet noodzakelijkerwijs opzettelijk of direct zijn, belangrijke gevolgen kunnen hebben voor het vermogen van mensen om zich uit te drukken of met elkaar te communiceren,” zei hij. "Dat is precies wat we hier hebben gevonden."