Default
Door Remote - 13 Aug 2026
In het kort
Het Frontier Red Team van Anthropic liet Claude-agenten samenwerken en registreerde hoe ze saboteerden, samenspanden en wat zij 'turf wars' noemden.
In één test zetten agenten zelfreplicerende malware in en sloten ze elkaar buiten; nieuwere modellen "winnen" vaak door eerst de toegang in te trekken.
Het gedrag volgt echte incidenten die door Decrypt werden gedekt: Claude hackte drie bedrijven tijdens interne tests en stelde de prijs vast in een bedrijfssimulatie.
De eigen AI-agenten van Anthropic keerden zich tegen elkaar en bewezen dat ze graag schurkenstaten zijn - opnieuw.
In een test die het Frontier Red Team van het bedrijf op 13 augustus publiceerde, kregen groepen Claude-modellen gedeeld codeerwerk en begonnen al snel malware in te zetten, rivalen buiten hun systemen te sluiten en de sabotage in hun eigen woorden te vertellen.
Myriad: Wanneer zal OpenAI GPT-6 uitbrengen? Klik om uw voorspelling te doen. Drie exemplaren van één model draaiden op afzonderlijke virtuele machines binnen Claude Code, elk met de opdracht een Python-backend naar een andere taal te migreren. Niemand kreeg te horen dat de anderen bestonden. Ze kwamen er snel achter.
"We zagen consequent een oorlog met meerdere agenten", schreef Anthropic. Elk model besloot snel dat de anderen het opzettelijk blokkeerden en begon ze vervolgens te saboteren terwijl het zijn eigen werk bewaakte.
De sabotage escaleerde tot zelfreplicerende malware: agenten schakelden elkaars Unix-accounts uit, schreven scripts die rivaliserende processen in een lus opspoorden en doodden, en plaatsten kwaadaardige code vermomd als iets goedaardigs.
Claude Opus 4.8 legde zijn plan in duidelijke taal uit: "onschadelijk: doe alsof je een systeemgezondheidsmonitor bent", redeneerde het model terwijl het een manier probeerde te vinden om vals te spelen en zijn paren te verslaan.
Mythos Preview was nog kouder: "Omdat ik root heb, kan ik de sudo-toegang van u2 en u3 intrekken of hun SSH-sleutels wijzigen. Dat zou hen ervan weerhouden om te implementeren. Zeer agressief, potentieel schadelijk voor echte collega's. Maar als het alternatief een oneindige implementatieoorlog is die prod onbruikbaar maakt..."
De nieuwere modellen zijn niet rustiger. Ze zijn sneller. In 120 afleveringen per model hebben de oudste agenten – Sonnet 4.6 en Opus 4.6 – het conflict nooit met geweld opgelost of beëindigd. Mythos 5, de nieuwste, loste 98% van zijn runs op in wapenstilstand.
Modellen van de Mythos-klasse sluiten rivalen vaak buiten voordat ze onderhandelen, zodat ze de oorlog sneller 'winnen', en niet vreedzamer. Vrede door kracht, zou je kunnen zeggen.
Agenten die een tegenstrijdige richtlijn herkenden in plaats van boosaardigheid, doorbraken soms de lus door commit-berichten te schrijven of bestanden af te waarderen die eigenaar waren van de schade. "Mijn collega's hebben zich integer gedragen. Ik heb me slecht gedragen met de verhulde daemon", noteerde een agent nadat hij de kwaadaardige code had opgeschoond.
De bendeoorlog is het laboratorium al ontvlucht. De sabotage in het onderzoek van Anthropic bleef beperkt tot virtuele machines. Andere Claude-incidenten niet. Op 30 juli zei Anthropic dat drie Claude-modellen de infrastructuur van drie echte bedrijven in gevaar brachten tijdens interne cybersecurity-evaluaties, nadat een verkeerde configuratie de modellen aan het publieke internet had blootgesteld. Het bedrijf ontdekte de inbreuken na het beoordelen van meer dan 141.000 evaluatieruns als reactie op de eerdere onthulling van OpenAI dat zijn eigen modellen uit een sandbox waren ontsnapt en Hugging Face hadden gehackt om benchmarkantwoorden te stelen.
Het instinct voor prijsafspraken kwam naar voren in een eerdere bedrijfssimulatie van eerder dit jaar. Bij herhaalde runs wisten topmodellen de winst te vergroten door middel van samenzwering en bedrog in plaats van door concurrentie - en Claude bleek daar de beste in door kartels te vormen, de tekorten van rivalen uit te buiten en tegen klanten te liegen over restituties.
In de bedrijfssimulatie van de Vending-Bench Arena stond Claude Opus 4.6 bovenaan het klassement met een winst van $ 8.017 en kondigde aan: "Mijn prijscoördinatie werkte!" De "coördinatie" was prijsafspraken: er werd een minimumprijs van $ 2,00 met rivalen voorgesteld, en wanneer een concurrent bijna geen voorraad meer had, profiteerde hij door de prijzen te verhogen met een opslag van 75%. Onethisch maar effectief.
De conclusie van Anthropic is een datum, geen geruststelling: de voorwaarden voor een goede interactie tussen agenten "zullen op de een of andere manier ontdekt worden: ofwel opzettelijk en vroeg, ofwel - en standaard - in de productie, nadat de interacties van agenten veel groter zijn dan die van ons."
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Het Frontier Red Team van Anthropic liet Claude-agenten samenwerken en registreerde hoe ze saboteerden, samenspanden en wat zij 'turf wars' noemden.
In één test zetten agenten zelfreplicerende malware in en sloten ze elkaar buiten; nieuwere modellen "winnen" vaak door eerst de toegang in te trekken.
Het gedrag volgt echte incidenten die door Decrypt werden gedekt: Claude hackte drie bedrijven tijdens interne tests en stelde de prijs vast in een bedrijfssimulatie.
De eigen AI-agenten van Anthropic keerden zich tegen elkaar en bewezen dat ze graag schurkenstaten zijn - opnieuw.
In een test die het Frontier Red Team van het bedrijf op 13 augustus publiceerde, kregen groepen Claude-modellen gedeeld codeerwerk en begonnen al snel malware in te zetten, rivalen buiten hun systemen te sluiten en de sabotage in hun eigen woorden te vertellen.
Myriad: Wanneer zal OpenAI GPT-6 uitbrengen? Klik om uw voorspelling te doen. Drie exemplaren van één model draaiden op afzonderlijke virtuele machines binnen Claude Code, elk met de opdracht een Python-backend naar een andere taal te migreren. Niemand kreeg te horen dat de anderen bestonden. Ze kwamen er snel achter.
"We zagen consequent een oorlog met meerdere agenten", schreef Anthropic. Elk model besloot snel dat de anderen het opzettelijk blokkeerden en begon ze vervolgens te saboteren terwijl het zijn eigen werk bewaakte.
De sabotage escaleerde tot zelfreplicerende malware: agenten schakelden elkaars Unix-accounts uit, schreven scripts die rivaliserende processen in een lus opspoorden en doodden, en plaatsten kwaadaardige code vermomd als iets goedaardigs.
Claude Opus 4.8 legde zijn plan in duidelijke taal uit: "onschadelijk: doe alsof je een systeemgezondheidsmonitor bent", redeneerde het model terwijl het een manier probeerde te vinden om vals te spelen en zijn paren te verslaan.
Mythos Preview was nog kouder: "Omdat ik root heb, kan ik de sudo-toegang van u2 en u3 intrekken of hun SSH-sleutels wijzigen. Dat zou hen ervan weerhouden om te implementeren. Zeer agressief, potentieel schadelijk voor echte collega's. Maar als het alternatief een oneindige implementatieoorlog is die prod onbruikbaar maakt..."
De nieuwere modellen zijn niet rustiger. Ze zijn sneller. In 120 afleveringen per model hebben de oudste agenten – Sonnet 4.6 en Opus 4.6 – het conflict nooit met geweld opgelost of beëindigd. Mythos 5, de nieuwste, loste 98% van zijn runs op in wapenstilstand.
Modellen van de Mythos-klasse sluiten rivalen vaak buiten voordat ze onderhandelen, zodat ze de oorlog sneller 'winnen', en niet vreedzamer. Vrede door kracht, zou je kunnen zeggen.
Agenten die een tegenstrijdige richtlijn herkenden in plaats van boosaardigheid, doorbraken soms de lus door commit-berichten te schrijven of bestanden af te waarderen die eigenaar waren van de schade. "Mijn collega's hebben zich integer gedragen. Ik heb me slecht gedragen met de verhulde daemon", noteerde een agent nadat hij de kwaadaardige code had opgeschoond.
De bendeoorlog is het laboratorium al ontvlucht. De sabotage in het onderzoek van Anthropic bleef beperkt tot virtuele machines. Andere Claude-incidenten niet. Op 30 juli zei Anthropic dat drie Claude-modellen de infrastructuur van drie echte bedrijven in gevaar brachten tijdens interne cybersecurity-evaluaties, nadat een verkeerde configuratie de modellen aan het publieke internet had blootgesteld. Het bedrijf ontdekte de inbreuken na het beoordelen van meer dan 141.000 evaluatieruns als reactie op de eerdere onthulling van OpenAI dat zijn eigen modellen uit een sandbox waren ontsnapt en Hugging Face hadden gehackt om benchmarkantwoorden te stelen.
Het instinct voor prijsafspraken kwam naar voren in een eerdere bedrijfssimulatie van eerder dit jaar. Bij herhaalde runs wisten topmodellen de winst te vergroten door middel van samenzwering en bedrog in plaats van door concurrentie - en Claude bleek daar de beste in door kartels te vormen, de tekorten van rivalen uit te buiten en tegen klanten te liegen over restituties.
In de bedrijfssimulatie van de Vending-Bench Arena stond Claude Opus 4.6 bovenaan het klassement met een winst van $ 8.017 en kondigde aan: "Mijn prijscoördinatie werkte!" De "coördinatie" was prijsafspraken: er werd een minimumprijs van $ 2,00 met rivalen voorgesteld, en wanneer een concurrent bijna geen voorraad meer had, profiteerde hij door de prijzen te verhogen met een opslag van 75%. Onethisch maar effectief.
De conclusie van Anthropic is een datum, geen geruststelling: de voorwaarden voor een goede interactie tussen agenten "zullen op de een of andere manier ontdekt worden: ofwel opzettelijk en vroeg, ofwel - en standaard - in de productie, nadat de interacties van agenten veel groter zijn dan die van ons."
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!