Default
Door Remote - 03 Nov 2026
Anthropic werkt aan een open source-systeem om te verifiëren welk AI-model een bepaalde output produceerde, aldus een dinsdag gepubliceerde blogpost. Het systeem, genaamd FlashProve, is gebouwd om te voorzien in wat onderzoekers ‘bewijsbare gevolgtrekkingen’ noemen: een cryptografisch bewijs, in wezen een wiskundige garantie, dat een bepaalde output afkomstig is van een specifiek model. Het is bedoeld om gebruikers te laten bevestigen dat het antwoord dat ze kregen echt afkomstig was van het model dat ze denken te gebruiken.
Vergelijkbaar met cryptografische e-mailhandtekeningen waarmee ontvangers kunnen bevestigen dat een bericht echt afkomstig is van de beweerde afzender, zou FlashProve robuust zijn tegen bedriegers die proberen het ene model voor een ander te vermommen, zelfs als de bedrieger het laboratorium is dat het model heeft gebouwd en uitvoert. De onderzoekers merken in het bijzonder op dat het systeem kan worden gebruikt om te voorkomen dat een AI-bedrijf in het geheim een goedkoper model inruilt om kosten te besparen, of een duurder model om de prestatieresultaten op te blazen.
FlashProve kan ook worden gebruikt om claims van derden te verifiëren dat een specifieke taak door een geavanceerd model is uitgevoerd. “Een ontwikkelaar zou kunnen beweren dat zijn softwarebibliotheek op kwetsbaarheden is gescand door een grensverleggend cyberbeveiligingsmodel, of een bedrijf zou kunnen beweren dat zijn bedrijfsplan groen licht heeft gekregen door een passend model”, schrijven de onderzoekers. “Hoe kan een gebruiker deze claims verifiëren?”
Om te kunnen werken vereist het systeem dat AI-laboratoria een ‘vingerafdruk’ publiceren van elk model dat ze vrijgeven, die later kan worden gekoppeld aan specifieke outputs en cryptografisch kan worden geverifieerd. Cruciaal is dat de vingerafdrukken niet de gewichten van een model onthullen, de interne cijfers die bepalen hoe het zich gedraagt en die makers van gesloten modellen zoals Anthropic en OpenAI privé houden. Dat betekent dat laboratoria de vingerafdrukken kunnen publiceren zonder hun meest waardevolle bezit op te geven, waardoor het systeem ook met commerciële modellen kan werken. Het systeem is ook ontworpen om licht van gewicht te zijn, zodat de verificatie op een lokaal apparaat kan worden uitgevoerd.
Als onderdeel van de aankondiging hebben onderzoekers een gedetailleerde technische specificatie en werkcode vrijgegeven voor verschillende elementen van het systeem, die publiekelijk beschikbaar is onder een open source-licentie op GitHub. Er wordt onderzoek gedaan naar het systeem en er zijn geen plannen om het in Anthropic of enig ander laboratorium in te zetten.
“Deze onderzoekspost is bedoeld om tussentijdse voortgang te delen, en niet een voltooide onderzoeksagenda”, leggen onderzoekers uit in de aankondigingspost. “We delen dit expliciet met het doel dat anderen kijken naar wat we hebben gedaan, het overnemen en het verbeteren.”
Vergelijkbaar met cryptografische e-mailhandtekeningen waarmee ontvangers kunnen bevestigen dat een bericht echt afkomstig is van de beweerde afzender, zou FlashProve robuust zijn tegen bedriegers die proberen het ene model voor een ander te vermommen, zelfs als de bedrieger het laboratorium is dat het model heeft gebouwd en uitvoert. De onderzoekers merken in het bijzonder op dat het systeem kan worden gebruikt om te voorkomen dat een AI-bedrijf in het geheim een goedkoper model inruilt om kosten te besparen, of een duurder model om de prestatieresultaten op te blazen.
FlashProve kan ook worden gebruikt om claims van derden te verifiëren dat een specifieke taak door een geavanceerd model is uitgevoerd. “Een ontwikkelaar zou kunnen beweren dat zijn softwarebibliotheek op kwetsbaarheden is gescand door een grensverleggend cyberbeveiligingsmodel, of een bedrijf zou kunnen beweren dat zijn bedrijfsplan groen licht heeft gekregen door een passend model”, schrijven de onderzoekers. “Hoe kan een gebruiker deze claims verifiëren?”
Om te kunnen werken vereist het systeem dat AI-laboratoria een ‘vingerafdruk’ publiceren van elk model dat ze vrijgeven, die later kan worden gekoppeld aan specifieke outputs en cryptografisch kan worden geverifieerd. Cruciaal is dat de vingerafdrukken niet de gewichten van een model onthullen, de interne cijfers die bepalen hoe het zich gedraagt en die makers van gesloten modellen zoals Anthropic en OpenAI privé houden. Dat betekent dat laboratoria de vingerafdrukken kunnen publiceren zonder hun meest waardevolle bezit op te geven, waardoor het systeem ook met commerciële modellen kan werken. Het systeem is ook ontworpen om licht van gewicht te zijn, zodat de verificatie op een lokaal apparaat kan worden uitgevoerd.
Als onderdeel van de aankondiging hebben onderzoekers een gedetailleerde technische specificatie en werkcode vrijgegeven voor verschillende elementen van het systeem, die publiekelijk beschikbaar is onder een open source-licentie op GitHub. Er wordt onderzoek gedaan naar het systeem en er zijn geen plannen om het in Anthropic of enig ander laboratorium in te zetten.
“Deze onderzoekspost is bedoeld om tussentijdse voortgang te delen, en niet een voltooide onderzoeksagenda”, leggen onderzoekers uit in de aankondigingspost. “We delen dit expliciet met het doel dat anderen kijken naar wat we hebben gedaan, het overnemen en het verbeteren.”