Default
Door Remote - 08 Apr 2026
In het kort
Een nieuw voorgestelde ‘Agentic Risk Standard’ verdeelt AI-banen in taken waarvoor alleen kosten worden betaald en die worden beschermd door escrow- en fondsafhandelingstaken waarvoor acceptatie vereist is.
In simulaties verminderde de acceptatie de verliezen van gebruikers met maar liefst 61%, hoewel premies zonder premie ervoor zorgden dat verzekeraars insolvent werden.
Nauwkeurige schattingen van het faalpercentage blijven de grootste uitdaging, aangezien zowel over- als onderschatting systeemrisico's met zich meebrengen.
Nu AI-agenten betalingen, financiële transacties en andere transacties beginnen af te handelen, groeit de bezorgdheid over de financiële risico's die de mens achter de agent treft als deze systemen falen. Een consortium van onderzoekers stelt dat de huidige AI-veiligheidstechnieken dit risico niet aanpakken en dat er nieuwe verzekeringstechnieken moeten worden overwogen.
In een recent artikel hebben onderzoekers van Microsoft, Google DeepMind, Columbia University en startups Virtuals Protocol en t54.ai de Agentic Risk Standard voorgesteld, een raamwerk op verrekeningsniveaus dat is ontworpen om gebruikers te compenseren wanneer een AI-agent een taak verkeerd uitvoert, er niet in slaagt een dienst te leveren, of financieel verlies veroorzaakt.
“Technische waarborgen kunnen alleen probabilistische betrouwbaarheid bieden, terwijl gebruikers in omgevingen waar veel op het spel staat vaak afdwingbare garanties over de uitkomsten nodig hebben”, aldus de krant.
De auteurs stellen dat het meeste huidige AI-onderzoek zich richt op het verbeteren van het gedrag van modellen, inclusief het verminderen van vooroordelen, het moeilijker maken van systemen om te manipuleren en het begrijpelijker maken van hun beslissingen.
“Deze risico’s zijn fundamenteel op productniveau en kunnen niet worden geëlimineerd door technische veiligheidsmaatregelen alleen, omdat het gedrag van agenten inherent stochastisch is”, schreven ze. “Om deze kloof tussen betrouwbaarheid op modelniveau en gebruikersgerichte zekerheid te dichten, stellen we een aanvullend raamwerk voor, gebaseerd op risicobeheer.”
De Agentic Risk Standard voegt financiële waarborgen toe aan de manier waarop AI-taken worden afgehandeld. Voor eenvoudige taken waarbij de gebruiker alleen het risico loopt servicekosten te betalen, wordt de betaling in bewaring gehouden en pas vrijgegeven nadat het werk is bevestigd. Voor taken met een hoger risico waarbij vooraf geld moet worden vrijgegeven, zoals handel of valutawissel, schakelt het systeem een verzekeraar in. De verzekeraar evalueert het risico, eist van de dienstverlener dat hij onderpand stelt en betaalt de gebruiker terug als zich een gedekte storing voordoet.
Het artikel merkte op dat niet-financiële schade zoals hallucinaties, laster of psychologische schade buiten het kader blijven.
De onderzoekers zeiden dat het systeem werd getest met behulp van een simulatie met 5.000 proeven, en voegde eraan toe dat het experiment beperkt was en niet was ontworpen om de faalpercentages in de echte wereld weer te geven.
“Deze resultaten motiveren toekomstig werk op het gebied van risicomodellering voor diverse faalwijzen, empirische meting van faalfrequenties onder implementatie-achtige omstandigheden, en het ontwerp van acceptatie- en onderpandschema’s die robuust blijven onder detectorfouten en strategisch gedrag”, aldus de studie.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Een nieuw voorgestelde ‘Agentic Risk Standard’ verdeelt AI-banen in taken waarvoor alleen kosten worden betaald en die worden beschermd door escrow- en fondsafhandelingstaken waarvoor acceptatie vereist is.
In simulaties verminderde de acceptatie de verliezen van gebruikers met maar liefst 61%, hoewel premies zonder premie ervoor zorgden dat verzekeraars insolvent werden.
Nauwkeurige schattingen van het faalpercentage blijven de grootste uitdaging, aangezien zowel over- als onderschatting systeemrisico's met zich meebrengen.
Nu AI-agenten betalingen, financiële transacties en andere transacties beginnen af te handelen, groeit de bezorgdheid over de financiële risico's die de mens achter de agent treft als deze systemen falen. Een consortium van onderzoekers stelt dat de huidige AI-veiligheidstechnieken dit risico niet aanpakken en dat er nieuwe verzekeringstechnieken moeten worden overwogen.
In een recent artikel hebben onderzoekers van Microsoft, Google DeepMind, Columbia University en startups Virtuals Protocol en t54.ai de Agentic Risk Standard voorgesteld, een raamwerk op verrekeningsniveaus dat is ontworpen om gebruikers te compenseren wanneer een AI-agent een taak verkeerd uitvoert, er niet in slaagt een dienst te leveren, of financieel verlies veroorzaakt.
“Technische waarborgen kunnen alleen probabilistische betrouwbaarheid bieden, terwijl gebruikers in omgevingen waar veel op het spel staat vaak afdwingbare garanties over de uitkomsten nodig hebben”, aldus de krant.
De auteurs stellen dat het meeste huidige AI-onderzoek zich richt op het verbeteren van het gedrag van modellen, inclusief het verminderen van vooroordelen, het moeilijker maken van systemen om te manipuleren en het begrijpelijker maken van hun beslissingen.
“Deze risico’s zijn fundamenteel op productniveau en kunnen niet worden geëlimineerd door technische veiligheidsmaatregelen alleen, omdat het gedrag van agenten inherent stochastisch is”, schreven ze. “Om deze kloof tussen betrouwbaarheid op modelniveau en gebruikersgerichte zekerheid te dichten, stellen we een aanvullend raamwerk voor, gebaseerd op risicobeheer.”
De Agentic Risk Standard voegt financiële waarborgen toe aan de manier waarop AI-taken worden afgehandeld. Voor eenvoudige taken waarbij de gebruiker alleen het risico loopt servicekosten te betalen, wordt de betaling in bewaring gehouden en pas vrijgegeven nadat het werk is bevestigd. Voor taken met een hoger risico waarbij vooraf geld moet worden vrijgegeven, zoals handel of valutawissel, schakelt het systeem een verzekeraar in. De verzekeraar evalueert het risico, eist van de dienstverlener dat hij onderpand stelt en betaalt de gebruiker terug als zich een gedekte storing voordoet.
Het artikel merkte op dat niet-financiële schade zoals hallucinaties, laster of psychologische schade buiten het kader blijven.
De onderzoekers zeiden dat het systeem werd getest met behulp van een simulatie met 5.000 proeven, en voegde eraan toe dat het experiment beperkt was en niet was ontworpen om de faalpercentages in de echte wereld weer te geven.
“Deze resultaten motiveren toekomstig werk op het gebied van risicomodellering voor diverse faalwijzen, empirische meting van faalfrequenties onder implementatie-achtige omstandigheden, en het ontwerp van acceptatie- en onderpandschema’s die robuust blijven onder detectorfouten en strategisch gedrag”, aldus de studie.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!