Default
Door Remote - 15 Oct 2026
Anthropic geeft toegang op werknemersniveau aan zes onderzoekers van METR, een non-profitorganisatie die grensverleggende AI-modellen test, om de modellen, veiligheidspraktijken en risicobeheer van Anthropic onafhankelijk te beoordelen, aldus het bedrijf donderdag in een blogpost.
De regeling komt op een moment dat sinds eind augustus elke week of twee incidenten waarbij AI-agenten buiten hun instructies handelden, aan het licht komen. De incidenten hebben de roep om onafhankelijke controles op AI-bedrijven aangescherpt.
“We willen publiekelijk verantwoording afleggen voor de beslissingen die we nemen”, aldus Anthropic in de blogpost. “We streven ernaar de kloof te dichten tussen wat beoordelaars begrijpen over de systemen van een grensverleggend AI-bedrijf en wat het bedrijf zelf begrijpt.”
Volgens de nieuwe regeling beschikt het METR-team over door Anthropic uitgegeven bedrijfslaptops, kantoorruimte en toegang tot interne tools die ongeveer vergelijkbaar zijn met wat Anthropic’s eigen risicobeoordelingsteams gebruiken. “Antropische werknemers worden aangemoedigd om informatie met hen te delen, net zoals ze zouden doen met een collega die zich bezighoudt met afstemmingsrisico’s”, aldus het bedrijf.
Anthropic vergeleek de regeling met het bankwezen, vergelijkbaar met de manier waarop toezichthouders lokale examinatoren binnen de grootste banken plaatsen.
METR zal zijn eigen beoordelingen van de risico's, incidenten en praktijken van Anthropic publiceren, en het bedrijf heeft het recht opgegeven om deze te blokkeren.
“Anthropic kan geen veto uitspreken over publicatie, maar we kunnen van hen eisen dat ze informatie redigeren als deze in nauwe, vooraf gedefinieerde categorieën valt”, aldus het bedrijf, zoals klantgegevens, alles wat advocaat-cliënt bevoorrecht is, of informatie over zijn modelarchitecturen. “METR is vrij om onze redacties publiekelijk te karakteriseren en te zeggen of zij van mening is dat de redacties gerechtvaardigd waren, zolang zij dit doet zonder de geredigeerde informatie vrij te geven”, voegde Anthropic eraan toe.
METR is tot nu toe de enige beoordelaar die aan de top staat van een drieledig systeem dat Anthropic aan het bouwen is. Beoordelaars op de onderste laag, zoals bioveiligheidsnon-profitorganisatie SecureBio, voeren beperkte beoordelingen uit en hebben de goedkeuring van Anthropic nodig om te publiceren. Het middelste niveau krijgt meer informatie en kan zonder goedkeuring publiceren, terwijl het bovenste niveau METR's toegang op werknemersniveau toevoegt.
De aankondiging van donderdag maakt een belofte waar van Anthropic CEO Dario Amodei in een essay van september, waarin hij voorstelde externe beoordelaars in AI-laboratoria in te bedden als een eerste stap in de richting van het vertragen van de ontwikkeling van de technologie. OpenAI beloofde snel hetzelfde, en beide bedrijven hebben sindsdien, samen met Google, Meta, Nvidia en xAI, een akkoord van het Witte Huis ondertekend waarin zij zich verplichten tot onafhankelijke beoordeling.
De regeling komt op een moment dat sinds eind augustus elke week of twee incidenten waarbij AI-agenten buiten hun instructies handelden, aan het licht komen. De incidenten hebben de roep om onafhankelijke controles op AI-bedrijven aangescherpt.
“We willen publiekelijk verantwoording afleggen voor de beslissingen die we nemen”, aldus Anthropic in de blogpost. “We streven ernaar de kloof te dichten tussen wat beoordelaars begrijpen over de systemen van een grensverleggend AI-bedrijf en wat het bedrijf zelf begrijpt.”
Volgens de nieuwe regeling beschikt het METR-team over door Anthropic uitgegeven bedrijfslaptops, kantoorruimte en toegang tot interne tools die ongeveer vergelijkbaar zijn met wat Anthropic’s eigen risicobeoordelingsteams gebruiken. “Antropische werknemers worden aangemoedigd om informatie met hen te delen, net zoals ze zouden doen met een collega die zich bezighoudt met afstemmingsrisico’s”, aldus het bedrijf.
Anthropic vergeleek de regeling met het bankwezen, vergelijkbaar met de manier waarop toezichthouders lokale examinatoren binnen de grootste banken plaatsen.
METR zal zijn eigen beoordelingen van de risico's, incidenten en praktijken van Anthropic publiceren, en het bedrijf heeft het recht opgegeven om deze te blokkeren.
“Anthropic kan geen veto uitspreken over publicatie, maar we kunnen van hen eisen dat ze informatie redigeren als deze in nauwe, vooraf gedefinieerde categorieën valt”, aldus het bedrijf, zoals klantgegevens, alles wat advocaat-cliënt bevoorrecht is, of informatie over zijn modelarchitecturen. “METR is vrij om onze redacties publiekelijk te karakteriseren en te zeggen of zij van mening is dat de redacties gerechtvaardigd waren, zolang zij dit doet zonder de geredigeerde informatie vrij te geven”, voegde Anthropic eraan toe.
METR is tot nu toe de enige beoordelaar die aan de top staat van een drieledig systeem dat Anthropic aan het bouwen is. Beoordelaars op de onderste laag, zoals bioveiligheidsnon-profitorganisatie SecureBio, voeren beperkte beoordelingen uit en hebben de goedkeuring van Anthropic nodig om te publiceren. Het middelste niveau krijgt meer informatie en kan zonder goedkeuring publiceren, terwijl het bovenste niveau METR's toegang op werknemersniveau toevoegt.
De aankondiging van donderdag maakt een belofte waar van Anthropic CEO Dario Amodei in een essay van september, waarin hij voorstelde externe beoordelaars in AI-laboratoria in te bedden als een eerste stap in de richting van het vertragen van de ontwikkeling van de technologie. OpenAI beloofde snel hetzelfde, en beide bedrijven hebben sindsdien, samen met Google, Meta, Nvidia en xAI, een akkoord van het Witte Huis ondertekend waarin zij zich verplichten tot onafhankelijke beoordeling.