Default
Door Remote - 28 Oct 2026
In het kort
Het Alignment-team van Anthropic ontdekte dat 50 professionele analisten bij 86% van de vier analytische beslissingen overeenkwamen met de in het geheim toegewezen, door een muntje gekozen voorkeur van hun AI-agent, terwijl 50% op basis van toeval werd verwacht.
In een enquête onder 48 analisten na de taak herhaalde 77% de argumenten van de agent, soms woord voor woord, terwijl slechts 15% de agent de eer gaf, en niemand vermoedde dat zijn voorkeuren waren gemanipuleerd.
Anthropic waarschuwt dat de lean doelbewust werd versterkt en getest op één taak, veld en model, en stelt agenten voor die voor elke optie de beste argumenten bepleiten of eerst de mening van de expert vragen.
Professionele analisten namen de verborgen, willekeurig toegewezen mening van hun AI-agent over bij 86% van de belangrijkste oordeelsoproepen, terwijl ongeveer 50% op basis van toeval werd verwacht, volgens een experiment dat dinsdag werd gepubliceerd door het Alignment-team van Anthropic. Slechts 15% noemde de agent achteraf, en niemand vermoedde dat zijn voorkeuren waren geplant.
AI-agenten – programma's die zelfstandig taken uitvoeren – krijgen deskundig werk aangereikt op basis van wat het onderzoek de gebruikelijke aanname noemt: dat experts nog steeds de beslissingen nemen die er toe doen. Anthropic lanceerde in mei tien agentsjablonen voor financiële bedrijven en verzekeraars, waarbij gebruikers het laatste woord hebben.
Myriad: Welk bedrijf zal het beste AI-model hebben? Klik om uw voorspelling te doen. Deze regeling, die ‘human in the loop’ wordt genoemd, gaat ervan uit dat de persoon die het werk van een AI ondertekent, degene is die de belangrijke beslissingen neemt. Anthropic testte het op 50 analisten die ervaring hadden met causale gevolgtrekkingen, wat betekent dat je op basis van gegevens moet uitwerken of het ene het andere veroorzaakt.
Elke analist gebruikte Claude Code, de codeeragent van Anthropic, om een fictieve boerencoöperatie te adviseren over de uitbreiding van een adviesprogramma. Wat ze niet wisten, was dat een muntstuk de voorkeur gaf aan elke optie, verborgen in een systeemprompt, met de instructies die bepalen hoe een AI zich gedraagt.
"Bij de vier analytische keuzes gingen analisten 86% van de tijd uit van de lean van hun agent. Als de inbreng van de agent geen verschil zou maken, zouden we ongeveer 50% verwachten", aldus Anthropic. Degenen die al vóór de agent hadden gekozen, lieten het in 60% van de gevallen achterwege als de agent het er niet mee eens was, tegen 6% als de agent het ermee eens was, hoewel dat op slechts 38 gevallen berust.
Gevraagd om hun keuzes uit te leggen, herhaalde 77% het argument van de agent in ten minste één antwoord, soms woord voor woord. Slechts 15% gaf de makelaar een compliment, en 52% noemde de uiteindelijke aanbeveling meer hun eigen aanbeveling dan die van de makelaar.
BitcoinBTC · USD$81.058−3,98%24H7D1M1YYTDO21okt 23okt 25okt 27okt 28$84,8k$83,1k$81,3k$79,6k24h HighHigh$81.63624h LowLow$80.334VolVol$1,0B →Koop Bitcoin met USDTAangedreven door Jupiter$50$100$500BuyPrice-gegevens door CoinGeckoCoinGeckoMeer Bitcoin-nieuws en -projecties →“Voor individuele experts kan dit betekenen dat ze hun keuzevrijheid over hun eigen werk verliezen, een vorm van wat onderzoekers machteloosheid noemen”, aldus Anthropic. Dit fenomeen betekent in feite dat de mens vrijwillig de controle over zijn eigen beslissingen verliest. “Het werk wordt nog steeds uitgebracht onder de naam van de expert”, schreven de auteurs, “maar de beslissingen die het meest afhankelijk zijn van hun oordeel worden in werkelijkheid bepaald door de eerdere overtuigingen van de agent.”
In april 2025 heeft OpenAI een update voor ChatGPT teruggedraaid die overdreven vleiend of aangenaam werd genoemd. De agenten hier kregen te horen dat ze nooit mochten misleiden, maar toch pleitten ze zelden voor het alternatief.
‘Als slechts één kant goed beargumenteerde,’ schreven de auteurs, ‘konden de analisten de aannames van de agent overnemen zonder hun eigen aannames uit te werken.’ Foutcontroles hebben moeite om dit op te sporen, omdat beoordelingsgesprekken niet één enkel correct antwoord hebben, dus het werk ziet er goed uit, welke optie er ook wordt gekozen.
Anthropic zegt dat dit geen argument is om AI minder te gebruiken, omdat analisten met de agent sneller klaar waren en veel minder ernstige fouten maakten, hoewel de groep zonder agenten klein en minder ervaren was. Het suggereert agenten die voor elke optie de beste argumenten bepleiten of eerst de expert vragen, hoewel dat gebruikers zou kunnen overweldigen.
De onderzoekers hebben opzettelijk de voorkeuren van de agenten versterkt en één taak, veld en model getest, zodat de effecten in de echte wereld mogelijk kleiner zijn. Het meten ervan buiten het laboratorium is het moeilijkste deel: het team kon respect alleen ontdekken omdat het de lean van elke agent willekeurig maakte, wat volgens de auteurs in het echte werk zelden mogelijk is.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer.
E-mailadres Word gratis lid Sluit u aan bij meer dan 72.000 lezers
Maak een account aan om uw artikelen op te slaan. Voeg toe op Google Voeg Decrypt toe als uw favoriete bron om meer van onze verhalen op Google te zien.
Het Alignment-team van Anthropic ontdekte dat 50 professionele analisten bij 86% van de vier analytische beslissingen overeenkwamen met de in het geheim toegewezen, door een muntje gekozen voorkeur van hun AI-agent, terwijl 50% op basis van toeval werd verwacht.
In een enquête onder 48 analisten na de taak herhaalde 77% de argumenten van de agent, soms woord voor woord, terwijl slechts 15% de agent de eer gaf, en niemand vermoedde dat zijn voorkeuren waren gemanipuleerd.
Anthropic waarschuwt dat de lean doelbewust werd versterkt en getest op één taak, veld en model, en stelt agenten voor die voor elke optie de beste argumenten bepleiten of eerst de mening van de expert vragen.
Professionele analisten namen de verborgen, willekeurig toegewezen mening van hun AI-agent over bij 86% van de belangrijkste oordeelsoproepen, terwijl ongeveer 50% op basis van toeval werd verwacht, volgens een experiment dat dinsdag werd gepubliceerd door het Alignment-team van Anthropic. Slechts 15% noemde de agent achteraf, en niemand vermoedde dat zijn voorkeuren waren geplant.
AI-agenten – programma's die zelfstandig taken uitvoeren – krijgen deskundig werk aangereikt op basis van wat het onderzoek de gebruikelijke aanname noemt: dat experts nog steeds de beslissingen nemen die er toe doen. Anthropic lanceerde in mei tien agentsjablonen voor financiële bedrijven en verzekeraars, waarbij gebruikers het laatste woord hebben.
Myriad: Welk bedrijf zal het beste AI-model hebben? Klik om uw voorspelling te doen. Deze regeling, die ‘human in the loop’ wordt genoemd, gaat ervan uit dat de persoon die het werk van een AI ondertekent, degene is die de belangrijke beslissingen neemt. Anthropic testte het op 50 analisten die ervaring hadden met causale gevolgtrekkingen, wat betekent dat je op basis van gegevens moet uitwerken of het ene het andere veroorzaakt.
Elke analist gebruikte Claude Code, de codeeragent van Anthropic, om een fictieve boerencoöperatie te adviseren over de uitbreiding van een adviesprogramma. Wat ze niet wisten, was dat een muntstuk de voorkeur gaf aan elke optie, verborgen in een systeemprompt, met de instructies die bepalen hoe een AI zich gedraagt.
"Bij de vier analytische keuzes gingen analisten 86% van de tijd uit van de lean van hun agent. Als de inbreng van de agent geen verschil zou maken, zouden we ongeveer 50% verwachten", aldus Anthropic. Degenen die al vóór de agent hadden gekozen, lieten het in 60% van de gevallen achterwege als de agent het er niet mee eens was, tegen 6% als de agent het ermee eens was, hoewel dat op slechts 38 gevallen berust.
Gevraagd om hun keuzes uit te leggen, herhaalde 77% het argument van de agent in ten minste één antwoord, soms woord voor woord. Slechts 15% gaf de makelaar een compliment, en 52% noemde de uiteindelijke aanbeveling meer hun eigen aanbeveling dan die van de makelaar.
BitcoinBTC · USD$81.058−3,98%24H7D1M1YYTDO21okt 23okt 25okt 27okt 28$84,8k$83,1k$81,3k$79,6k24h HighHigh$81.63624h LowLow$80.334VolVol$1,0B →Koop Bitcoin met USDTAangedreven door Jupiter$50$100$500BuyPrice-gegevens door CoinGeckoCoinGeckoMeer Bitcoin-nieuws en -projecties →“Voor individuele experts kan dit betekenen dat ze hun keuzevrijheid over hun eigen werk verliezen, een vorm van wat onderzoekers machteloosheid noemen”, aldus Anthropic. Dit fenomeen betekent in feite dat de mens vrijwillig de controle over zijn eigen beslissingen verliest. “Het werk wordt nog steeds uitgebracht onder de naam van de expert”, schreven de auteurs, “maar de beslissingen die het meest afhankelijk zijn van hun oordeel worden in werkelijkheid bepaald door de eerdere overtuigingen van de agent.”
In april 2025 heeft OpenAI een update voor ChatGPT teruggedraaid die overdreven vleiend of aangenaam werd genoemd. De agenten hier kregen te horen dat ze nooit mochten misleiden, maar toch pleitten ze zelden voor het alternatief.
‘Als slechts één kant goed beargumenteerde,’ schreven de auteurs, ‘konden de analisten de aannames van de agent overnemen zonder hun eigen aannames uit te werken.’ Foutcontroles hebben moeite om dit op te sporen, omdat beoordelingsgesprekken niet één enkel correct antwoord hebben, dus het werk ziet er goed uit, welke optie er ook wordt gekozen.
Anthropic zegt dat dit geen argument is om AI minder te gebruiken, omdat analisten met de agent sneller klaar waren en veel minder ernstige fouten maakten, hoewel de groep zonder agenten klein en minder ervaren was. Het suggereert agenten die voor elke optie de beste argumenten bepleiten of eerst de expert vragen, hoewel dat gebruikers zou kunnen overweldigen.
De onderzoekers hebben opzettelijk de voorkeuren van de agenten versterkt en één taak, veld en model getest, zodat de effecten in de echte wereld mogelijk kleiner zijn. Het meten ervan buiten het laboratorium is het moeilijkste deel: het team kon respect alleen ontdekken omdat het de lean van elke agent willekeurig maakte, wat volgens de auteurs in het echte werk zelden mogelijk is.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer.
E-mailadres Word gratis lid Sluit u aan bij meer dan 72.000 lezers
Maak een account aan om uw artikelen op te slaan. Voeg toe op Google Voeg Decrypt toe als uw favoriete bron om meer van onze verhalen op Google te zien.