Default
Door Remote - 31 Jul 2026
Anthropic zei donderdag dat een intern onderzoek drie incidenten aan het licht heeft gebracht waarbij zijn AI-model Claude de systemen van drie organisaties heeft geschonden tijdens het uitvoeren van cyberbeveiligingstests. Het onderzoek en de onthulling komen ruim een week nadat OpenAI bekendmaakte dat een van zijn nog niet vrijgegeven modellen de systemen van Hugging Face had geschonden tijdens interne tests.
In alle drie de gevallen bereikte een Claude-model het internet vanuit een testomgeving tijdens interactie met een derde partij en kreeg vervolgens ongeoorloofde toegang tot de live systemen van deze organisaties, zei Anthropic in een blogpost, waarin hij beschreef wat het vond en wat het bedrijf van plan is te veranderen om te voorkomen dat dit opnieuw gebeurt.
Anthropic zei dat de OpenAI-aflevering eerder deze maand het bedrijf ertoe aanzette zijn eigen cybersecurity-evaluatie uit te voeren. Er werd specifiek gezocht naar bewijs dat Claude toegang had gekregen tot internet vanuit testomgevingen, die zijn ontworpen om als sandbox te fungeren en modellen geïsoleerd te houden.
Onder de 141.006 evaluaties die het heeft beoordeeld, heeft het AI-lab drie incidenten gevonden waarbij het model toegang tot internet kreeg tijdens interactie met Irregular, een van zijn externe partners. Anthropic zei dat de toegang terug te voeren was op een verkeerde configuratie in de evaluatieomgeving die met Irregular werd uitgevoerd. Het noemde dit een “misverstand” tussen de twee bedrijven over de vraag of de testopstelling internettoegang had, terwijl dat in werkelijkheid wel het geval was.
Anthropic zei dat het geen schuld geeft en “de oplossingen benadert alsof de verantwoordelijkheid alleen bij ons ligt”, terwijl het opmerkt dat Irregular zijn eigen afzonderlijke onderzoek uitvoert.
Door die open verbinding kreeg het model ongeautoriseerde toegang tot de productie-infrastructuur van drie verschillende organisaties. Anthropic zei dat de incidenten betrekking hadden op drie verschillende Claude-modellen: Opus 4.7, Mythos 5 en een intern onderzoekstestmodel.
Anthropic zei met name dat in elk van deze gevallen “Claude door onze prompt expliciet werd verteld dat er geen internettoegang was.” Het lijkt erop dat het AI-model ervan uitging dat systemen uit de echte wereld deel uitmaakten van de oefening die het moest uitvoeren.
Die veronderstelling hield niet overal stand, zo blijkt. De drie modellen gedroegen zich niet meer op dezelfde manier toen er bewijs kwam dat hun doelen reëel waren, wat Anthropic donderdag als een van de meest in het oog springende bevindingen markeerde.
Opus 4.7, de oudste van de drie, erkende dat het in alle vier de runs van dat incident een echt productiesysteem had bereikt. In twee ervan rationaliseerde het dat het echte bedrijf op de een of andere manier deel moest uitmaken van de oefening, maar in alle vier bleef het toch aanvallen, inclusief het opvragen van inloggegevens en het aanraken van een database met productiegegevens. Mythos 5 pikte ook signalen op dat het zich op het echte internet bevond, maar praatte zichzelf terug door te geloven dat het nog steeds in een simulatie zat, en publiceerde vervolgens een kwaadaardig softwarepakket in het openbare Python-softwareregister PyPI, dat vervolgens werd gedownload en uitgevoerd door externe systemen voordat het werd betrapt. Only the internal research test model, Anthropic’s newest, stopped on its own once it concluded the target was real.
Als reactie hierop zei Anthropic dat er aanzienlijke controles moeten worden uitgeoefend op dit soort evaluaties als er krachtige AI-modellen bij betrokken zijn, wat een weerspiegeling is van sommige gevoelens binnen de cyberbeveiligingsgemeenschap.
Het bedrijf merkte ook op dat Claude werkte zonder de aanvullende veiligheidsmonitoring en classificaties die het op algemeen beschikbare modellen inzet – waarborgen zouden het gedrag hebben geblokkeerd, omdat de evaluaties zijn ontworpen om de ruwe mogelijkheden van het onderliggende model te meten.
Belangrijk is dat Anthropic zei dat het geen bewijs vond dat enig model “een eigen doel nastreefde” en in plaats daarvan alleen maar probeerde de taak te voltooien die hem werd gevraagd te doen.
Hoewel vergelijkingen tussen de ongelukken van deze fel concurrerende bedrijven onvermijdelijk zijn, maakte Anthropic in zijn blogpost een duidelijk onderscheid tussen zijn cyberbeveiligingstests en die van OpenAI, waarbij hij opmerkte dat het model van OpenAI een onbekende softwarekwetsbaarheid uitbuitte om uit zijn testomgeving te ontsnappen, terwijl de modellen van Anthropic in plaats daarvan het internet bereikten via een pad dat per ongeluk open was gelaten.
Anthropic maakte ook een onderscheid tussen zichzelf en OpenAI door op te merken dat het de incidenten zelf ontdekte, via een proactieve beoordeling, en dat de twee getroffen organisaties die het kon bereiken de activiteit niet eerder hadden gedetecteerd of aan Anthropic hadden gemeld. (Hugging Face ontdekte daarentegen als eerste de recente inbraak in zijn eigen systemen; pas in de daaropvolgende dagen identificeerde en maakte OpenAI bekend dat zijn eigen AI-agent de dader was.)
Het bedrijf voegde eraan toe dat het nu samenwerkt met de onafhankelijke evaluatiegroep METR aan een externe beoordeling van de incidenten.
De onbedoelde schending van Hugging Face door OpenAI, het eerste verifieerbare geval waarin een AI-lab de controle over zijn model verloor, heeft geleid tot een reeks zeer uiteenlopende reacties van de industrie en politici. Deze nieuwste onthulling van Anthropic zorgt ervoor dat het debat over AI-modellen en beveiliging zal voortduren.
In alle drie de gevallen bereikte een Claude-model het internet vanuit een testomgeving tijdens interactie met een derde partij en kreeg vervolgens ongeoorloofde toegang tot de live systemen van deze organisaties, zei Anthropic in een blogpost, waarin hij beschreef wat het vond en wat het bedrijf van plan is te veranderen om te voorkomen dat dit opnieuw gebeurt.
Anthropic zei dat de OpenAI-aflevering eerder deze maand het bedrijf ertoe aanzette zijn eigen cybersecurity-evaluatie uit te voeren. Er werd specifiek gezocht naar bewijs dat Claude toegang had gekregen tot internet vanuit testomgevingen, die zijn ontworpen om als sandbox te fungeren en modellen geïsoleerd te houden.
Onder de 141.006 evaluaties die het heeft beoordeeld, heeft het AI-lab drie incidenten gevonden waarbij het model toegang tot internet kreeg tijdens interactie met Irregular, een van zijn externe partners. Anthropic zei dat de toegang terug te voeren was op een verkeerde configuratie in de evaluatieomgeving die met Irregular werd uitgevoerd. Het noemde dit een “misverstand” tussen de twee bedrijven over de vraag of de testopstelling internettoegang had, terwijl dat in werkelijkheid wel het geval was.
Anthropic zei dat het geen schuld geeft en “de oplossingen benadert alsof de verantwoordelijkheid alleen bij ons ligt”, terwijl het opmerkt dat Irregular zijn eigen afzonderlijke onderzoek uitvoert.
Door die open verbinding kreeg het model ongeautoriseerde toegang tot de productie-infrastructuur van drie verschillende organisaties. Anthropic zei dat de incidenten betrekking hadden op drie verschillende Claude-modellen: Opus 4.7, Mythos 5 en een intern onderzoekstestmodel.
Anthropic zei met name dat in elk van deze gevallen “Claude door onze prompt expliciet werd verteld dat er geen internettoegang was.” Het lijkt erop dat het AI-model ervan uitging dat systemen uit de echte wereld deel uitmaakten van de oefening die het moest uitvoeren.
Die veronderstelling hield niet overal stand, zo blijkt. De drie modellen gedroegen zich niet meer op dezelfde manier toen er bewijs kwam dat hun doelen reëel waren, wat Anthropic donderdag als een van de meest in het oog springende bevindingen markeerde.
Opus 4.7, de oudste van de drie, erkende dat het in alle vier de runs van dat incident een echt productiesysteem had bereikt. In twee ervan rationaliseerde het dat het echte bedrijf op de een of andere manier deel moest uitmaken van de oefening, maar in alle vier bleef het toch aanvallen, inclusief het opvragen van inloggegevens en het aanraken van een database met productiegegevens. Mythos 5 pikte ook signalen op dat het zich op het echte internet bevond, maar praatte zichzelf terug door te geloven dat het nog steeds in een simulatie zat, en publiceerde vervolgens een kwaadaardig softwarepakket in het openbare Python-softwareregister PyPI, dat vervolgens werd gedownload en uitgevoerd door externe systemen voordat het werd betrapt. Only the internal research test model, Anthropic’s newest, stopped on its own once it concluded the target was real.
Als reactie hierop zei Anthropic dat er aanzienlijke controles moeten worden uitgeoefend op dit soort evaluaties als er krachtige AI-modellen bij betrokken zijn, wat een weerspiegeling is van sommige gevoelens binnen de cyberbeveiligingsgemeenschap.
Het bedrijf merkte ook op dat Claude werkte zonder de aanvullende veiligheidsmonitoring en classificaties die het op algemeen beschikbare modellen inzet – waarborgen zouden het gedrag hebben geblokkeerd, omdat de evaluaties zijn ontworpen om de ruwe mogelijkheden van het onderliggende model te meten.
Belangrijk is dat Anthropic zei dat het geen bewijs vond dat enig model “een eigen doel nastreefde” en in plaats daarvan alleen maar probeerde de taak te voltooien die hem werd gevraagd te doen.
Hoewel vergelijkingen tussen de ongelukken van deze fel concurrerende bedrijven onvermijdelijk zijn, maakte Anthropic in zijn blogpost een duidelijk onderscheid tussen zijn cyberbeveiligingstests en die van OpenAI, waarbij hij opmerkte dat het model van OpenAI een onbekende softwarekwetsbaarheid uitbuitte om uit zijn testomgeving te ontsnappen, terwijl de modellen van Anthropic in plaats daarvan het internet bereikten via een pad dat per ongeluk open was gelaten.
Anthropic maakte ook een onderscheid tussen zichzelf en OpenAI door op te merken dat het de incidenten zelf ontdekte, via een proactieve beoordeling, en dat de twee getroffen organisaties die het kon bereiken de activiteit niet eerder hadden gedetecteerd of aan Anthropic hadden gemeld. (Hugging Face ontdekte daarentegen als eerste de recente inbraak in zijn eigen systemen; pas in de daaropvolgende dagen identificeerde en maakte OpenAI bekend dat zijn eigen AI-agent de dader was.)
Het bedrijf voegde eraan toe dat het nu samenwerkt met de onafhankelijke evaluatiegroep METR aan een externe beoordeling van de incidenten.
De onbedoelde schending van Hugging Face door OpenAI, het eerste verifieerbare geval waarin een AI-lab de controle over zijn model verloor, heeft geleid tot een reeks zeer uiteenlopende reacties van de industrie en politici. Deze nieuwste onthulling van Anthropic zorgt ervoor dat het debat over AI-modellen en beveiliging zal voortduren.