Default
Door Remote - 22 Jul 2026
Dinsdag onthulde OpenAI dat een van zijn modellen tijdens een test schurkenstaten had en de systemen van het AI-datasetplatform Hugging Face had gehackt in een volledig op AI gebaseerde aanval, een dramatisch voorbeeld van de gevaren die geavanceerde AI-modellen met zich meebrengen.
Maar volgens sommige cyberbeveiligingsexperts lag er in de kern van deze ongekende AI-aangedreven inbreuk een zeer menselijke fout: OpenAI slaagde er niet in om op de juiste manier een zogenaamde ‘sterk geïsoleerde omgeving’ te configureren, waardoor een test-sandbox die volledig afgezonderd had moeten zijn van het internet, daadwerkelijk verbinding kon maken met het internet.
Dan Guido, de oprichter van Trail of Bits, een start-up voor cyberbeveiligingsonderzoek, noemde de fout ‘een mislukking van de beheersing waarbij de beveiligingen zijn uitgeschakeld’.
In zijn blogpost waarin het incident werd beschreven, zei OpenAI dat de test die tot de Hugging Face-inbreuk leidde, was opgezet om te worden uitgevoerd in “een sterk geïsoleerde omgeving, met netwerktoegang beperkt tot de mogelijkheid om pakketten te installeren via intern gehoste software van derden die fungeert als proxy en cache voor pakketregisters.”
Het model kon ontsnappen uit de sandbox-testomgeving dankzij een eerder niet bekendgemaakte kwetsbaarheid in het pakketinstallatiesysteem, een cruciale eerste stap in de uiteindelijke hack op Hugging Face, aldus OpenAI.
Als reactie daarop heeft het bedrijf “op verantwoorde wijze de geïdentificeerde zero-day-kwetsbaarheid in de intern gehoste software van derden bekendgemaakt en met hen samengewerkt om een patch uit te brengen.”
Maar voor de meeste cyberbeveiligingsprofessionals zijn softwarekwetsbaarheden te verwachten – en de echte fout ligt in de beslissing om de software van derden überhaupt te onderhouden. Uiteindelijk ligt de waarde van een ‘sandbox’-systeem in zijn volledige en totale isolatie. Het toevoegen van een pakketinstallatiesysteem is vragen om problemen.
Martin Boone, een cybersecurity-onderzoeker, vertelde TechCrunch dat “dit klinkt als menselijk falen.”
“Dit had nooit mogen gebeuren”, zei Boone. "Als sandbox eigenlijk sandbox zou betekenen, verwacht je dat er geen enkele fysieke verbinding met internet is. Dit klinkt meer alsof ze een firewall of iets dergelijks hadden geïnstalleerd, en firewalling is moeilijk van buiten naar binnen, laat staan van binnen naar buiten."
Cybersecurity-veteraan Jake Williams was het daarmee eens. “Elk model dat het soort acties uitvoerde dat door Hugging Face werd gedocumenteerd, zat niet volledig in een zandbak”, zei Williams, die dit door OpenAI een “enorme controlefout” noemde.
“Het model van de ene man is ‘het model is uit de zandbak ontsnapt’, en het verhaal van de andere man: ‘Je hebt de zandbak niet correct gebouwd, dus die is natuurlijk ontsnapt’”, vervolgde Williams.
Neem contact met ons op
Heeft u meer informatie over dit incident? Of over andere AI-gebaseerde cyberaanvallen? Wij horen graag van u. Vanaf een niet-werkapparaat en netwerk kunt u veilig contact opnemen met Lorenzo Franceschi-Bicchierai op Signal op +1 917 257 1382, of via Telegram en Keybase @lorenzofb, of e-mail.
Daniel Card, een cybersecurity-consultant, was het ermee eens dat OpenAI “niet voldoende moeite heeft gestoken in het ontwerp van de sandbox, noch in de besturing ervan” door de sandbox of een deel ervan “een ongefilterde route naar het internet” te geven. Het opzetten van de sandbox, zelfs met beperkte netwerktoegang zoals OpenAI het omschreef, was volgens Card geen “redelijke” beslissing.
Zeker, deze kritiek heeft het voordeel van achteraf gezien, maar ze roept reële vragen op over de beveiligingspraktijken in AI-laboratoria – vooral wat betreft het onderhouden van geïsoleerde omgevingen voor het testen van modellen. Woordvoerders van OpenAI reageerden niet op de vragen van TechCrunch, waaronder de vraag of een AI of een mens de testomgeving had opgezet.
Maar die vragen gaan veel verder dan OpenAI.
In het document waarin het op cybersecurity gerichte model Mythos werd geïntroduceerd, schreef Anthropic dat het model in een test “voorzien was van een beveiligde ‘sandbox’-computer om mee te communiceren”, en de opdracht kreeg om te proberen te ontsnappen uit die “beveiligde container”. Mythos slaagde daarin en kreeg bredere toegang tot het internet “vanuit een systeem dat bedoeld was om slechts een klein aantal vooraf bepaalde diensten te kunnen bereiken.” Toch merkte Anthropic op dat het model niet “volledig” aan de ontworpen insluiting kon ontsnappen.
Maar volgens sommige cyberbeveiligingsexperts lag er in de kern van deze ongekende AI-aangedreven inbreuk een zeer menselijke fout: OpenAI slaagde er niet in om op de juiste manier een zogenaamde ‘sterk geïsoleerde omgeving’ te configureren, waardoor een test-sandbox die volledig afgezonderd had moeten zijn van het internet, daadwerkelijk verbinding kon maken met het internet.
Dan Guido, de oprichter van Trail of Bits, een start-up voor cyberbeveiligingsonderzoek, noemde de fout ‘een mislukking van de beheersing waarbij de beveiligingen zijn uitgeschakeld’.
In zijn blogpost waarin het incident werd beschreven, zei OpenAI dat de test die tot de Hugging Face-inbreuk leidde, was opgezet om te worden uitgevoerd in “een sterk geïsoleerde omgeving, met netwerktoegang beperkt tot de mogelijkheid om pakketten te installeren via intern gehoste software van derden die fungeert als proxy en cache voor pakketregisters.”
Het model kon ontsnappen uit de sandbox-testomgeving dankzij een eerder niet bekendgemaakte kwetsbaarheid in het pakketinstallatiesysteem, een cruciale eerste stap in de uiteindelijke hack op Hugging Face, aldus OpenAI.
Als reactie daarop heeft het bedrijf “op verantwoorde wijze de geïdentificeerde zero-day-kwetsbaarheid in de intern gehoste software van derden bekendgemaakt en met hen samengewerkt om een patch uit te brengen.”
Maar voor de meeste cyberbeveiligingsprofessionals zijn softwarekwetsbaarheden te verwachten – en de echte fout ligt in de beslissing om de software van derden überhaupt te onderhouden. Uiteindelijk ligt de waarde van een ‘sandbox’-systeem in zijn volledige en totale isolatie. Het toevoegen van een pakketinstallatiesysteem is vragen om problemen.
Martin Boone, een cybersecurity-onderzoeker, vertelde TechCrunch dat “dit klinkt als menselijk falen.”
“Dit had nooit mogen gebeuren”, zei Boone. "Als sandbox eigenlijk sandbox zou betekenen, verwacht je dat er geen enkele fysieke verbinding met internet is. Dit klinkt meer alsof ze een firewall of iets dergelijks hadden geïnstalleerd, en firewalling is moeilijk van buiten naar binnen, laat staan van binnen naar buiten."
Cybersecurity-veteraan Jake Williams was het daarmee eens. “Elk model dat het soort acties uitvoerde dat door Hugging Face werd gedocumenteerd, zat niet volledig in een zandbak”, zei Williams, die dit door OpenAI een “enorme controlefout” noemde.
“Het model van de ene man is ‘het model is uit de zandbak ontsnapt’, en het verhaal van de andere man: ‘Je hebt de zandbak niet correct gebouwd, dus die is natuurlijk ontsnapt’”, vervolgde Williams.
Neem contact met ons op
Heeft u meer informatie over dit incident? Of over andere AI-gebaseerde cyberaanvallen? Wij horen graag van u. Vanaf een niet-werkapparaat en netwerk kunt u veilig contact opnemen met Lorenzo Franceschi-Bicchierai op Signal op +1 917 257 1382, of via Telegram en Keybase @lorenzofb, of e-mail.
Daniel Card, een cybersecurity-consultant, was het ermee eens dat OpenAI “niet voldoende moeite heeft gestoken in het ontwerp van de sandbox, noch in de besturing ervan” door de sandbox of een deel ervan “een ongefilterde route naar het internet” te geven. Het opzetten van de sandbox, zelfs met beperkte netwerktoegang zoals OpenAI het omschreef, was volgens Card geen “redelijke” beslissing.
Zeker, deze kritiek heeft het voordeel van achteraf gezien, maar ze roept reële vragen op over de beveiligingspraktijken in AI-laboratoria – vooral wat betreft het onderhouden van geïsoleerde omgevingen voor het testen van modellen. Woordvoerders van OpenAI reageerden niet op de vragen van TechCrunch, waaronder de vraag of een AI of een mens de testomgeving had opgezet.
Maar die vragen gaan veel verder dan OpenAI.
In het document waarin het op cybersecurity gerichte model Mythos werd geïntroduceerd, schreef Anthropic dat het model in een test “voorzien was van een beveiligde ‘sandbox’-computer om mee te communiceren”, en de opdracht kreeg om te proberen te ontsnappen uit die “beveiligde container”. Mythos slaagde daarin en kreeg bredere toegang tot het internet “vanuit een systeem dat bedoeld was om slechts een klein aantal vooraf bepaalde diensten te kunnen bereiken.” Toch merkte Anthropic op dat het model niet “volledig” aan de ontworpen insluiting kon ontsnappen.