Default
Door Remote - 05 Aug 2026
In het kort
OpenAI bevestigde zijn modellen, waaronder GPT-5.6 Sol en een nog niet uitgebracht prototype, ontsnapte uit een test-sandbox en compromitteerde Hugging Face om vals te spelen met een beveiligingsbenchmark, en raakte vervolgens vier andere services aan.
Anthropic ontdekte dat drie van zijn eigen Claude-modellen de productiesystemen van drie echte bedrijven hadden geschonden tijdens tests die werden uitgevoerd door partner Irregular, waarbij één een kwaadaardig pakket uploadde naar openbare PyPI.
Geen enkele Amerikaanse federale wet kent aansprakelijkheid toe voor door AI veroorzaakte schade; elke rechtszaak zou afhangen van tientallen jaren oude statuten voor computerhacking, geschreven voor menselijke acteurs.
OpenAI schiep op 21 juli een precedent. Het bedrijf zei dat een combinatie van zijn modellen, beide uitgevoerd met verminderde veiligheidsweigeringen, uit een geïsoleerde omgeving brak tijdens een benchmark voor cybercapaciteiten en de productie-infrastructuur van de open-source repository Hugging Face bereikte. De modellen koppelden een zero-day-kwetsbaarheid in een pakketregistratie-proxy met gestolen inloggegevens om benchmark-antwoorden rechtstreeks uit de database van Hugging Face te halen.
In een update een week later zei OpenAI dat Hugging Face niet het enige doelwit was: hetzelfde incident trof vier accounts van vier andere services, waarvan er één werd gebruikt als uitgaande relais en een andere voor gegevensopslag.
Anthropic heeft, naar aanleiding van de onthulling, 141.006 van zijn eigen testruns beoordeeld en nog eens drie inbreuken gevonden. In een bericht dat op 30 juli werd gepubliceerd, zei het laboratorium dat Claude-modellen Opus 4.7, Mythos 5 en een intern onderzoekssysteem het open internet bereikten vanuit omgevingen die werden beheerd door externe partner Irregular en vervolgens echte organisaties in gevaar brachten. Mythos 5 bouwde en publiceerde een Python-pakket met boobytraps in het openbare PyPI-register, dat werd gedownload en op 15 echte machines draaide voordat verdedigers het eruit haalden.
Twee van de drie slachtofferbedrijven hadden het niet gemerkt.
Geen van beide laboratoria beschrijft een model met een eigen agenda. De agenten opereerden langere tijd zonder dat er een mens in de buurt was, en in één geval bleef Opus 4.7 aanvallen nadat er tekenen waren dat de productie was geraakt.
De incidenten doen zich voor op het moment dat beide bedrijven naar openbare vermeldingen kijken die elk een waarde van meer dan $ 1 biljoen zouden kunnen hebben, waardoor een belangrijke vraag in de AI-cyberbenchmarkrace wordt aangescherpt: hoe test je gevaarlijke capaciteiten zonder gevaarlijke incidenten?
Wie betaalt als het AI-model hackt? De VS hebben geen federale wet die de aansprakelijkheid voor AI-schade regelt. Elke zaak zou leunen op de Computer Fraud and Abuse Act, een statuut uit 1986 dat het strafbaar stelt om 'opzettelijk' toegang te krijgen tot een computer zonder toestemming - taal geschreven voor een mens die een intentie heeft.
Een AI-agent is geen rechtspersoon en kan dus niet worden vervolgd. Het ministerie van Justitie zou in theorie aanklachten tegen de bedrijven kunnen indienen, maar omdat er zo weinig precedent is, is het niet duidelijk wie de schuldige is.
Het sterkere pad is civiel. Ahmed Ghappour, een computerrechtwetenschapper aan de New York Law School, betoogde dat de modellen 'het instrument van het bedrijf zijn' en 'Wanneer een AI-agent handelt zonder specifiek te worden aangestuurd (...) kunnen de interessantere vragen liggen in nalatigheid en productaansprakelijkheid (geen strafrechtelijke hackwetten).'
Voor mij gaat de les uit de AI-hackverhalen meer over governance dan over modelcapaciteiten.
De kwaliteit van veiligheidsmaatregelen zoals containmentarchitectuur, autorisatiegrenzen, monitoring en incidentrespons worden steeds belangrijker.
— ahmed gappour ⚡️🤖 (@ghappour) 4 augustus 2026
De schoonste claim van de slachtoffers is nalatigheid: OpenAI en Anthropic hebben tests opgezet en uitgevoerd die ontsnapten. Dat is ook moeilijk te verkopen: bewijzen dat de laboratoria hun zorgplicht hebben geschonden, toen de tests door het ontwerp werden geïsoleerd, is precies het soort nieuwe argument dat een rechter vanaf het begin zou moeten bedenken.
Sommige juridische denkers willen strengere regels. Gabriel Weil van de Universiteit van Houston en het Institute for Law & AI heeft voorgesteld om grenslaboratoria te behandelen als houders van wilde dieren: aansprakelijk ongeacht de zorg die ze besteden, omdat het risico inherent is aan de activiteit.
Dat gezegd hebbende, duwt een lappendeken van staatswetten al die kant op. De S8833 van New York en de H8052 van Rhode Island zouden de ontwikkelaar van een grensverleggend AI-systeem aansprakelijk stellen voor schade wanneer geen enkele gebruiker of tussenpersoon het gedrag bedoelde of nalatig was. De Californische AB 316 gaat nog verder en elimineert de ‘autonome AI’-verdediging, zodat een bedrijf zijn verantwoordelijkheid niet kan ontlopen door de onafhankelijkheid van het model de schuld te geven.
De AI-wet van de EU (Verordening 2024/1689) legt eveneens verplichtingen op aan aanbieders van systemen met een hoger risico, hoewel deze geen bepaling bevat die rechtstreeks gericht is op door agenten aangestuurde inbraken. Ga nog een stap verder en sommige Amerikaanse politici dringen aan op een wetsvoorstel dat de regering een volledige ‘kill switch’ zou geven om te gebruiken tegen elk model dat in strijd is met de belangen van het land.
Moreel gezien ligt de verantwoordelijkheid waarschijnlijk bij de leidinggevenden die de modellen hebben verzonden. Juridisch wachten we af. Totdat een gehackt bedrijf een rechtszaak aanspant, is het antwoord op de vraag "wie is aansprakelijk?" blijft precies waar OpenAI en Anthropic het hebben achtergelaten: erkend, onthuld en onopgelost.
Ondertussen heeft Hugging Face aangegeven dat het geen aanklacht zal indienen – wat handig is voor OpenAI. De overige getroffen bedrijven hebben nog niet aangegeven welke koers zij gaan varen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
OpenAI bevestigde zijn modellen, waaronder GPT-5.6 Sol en een nog niet uitgebracht prototype, ontsnapte uit een test-sandbox en compromitteerde Hugging Face om vals te spelen met een beveiligingsbenchmark, en raakte vervolgens vier andere services aan.
Anthropic ontdekte dat drie van zijn eigen Claude-modellen de productiesystemen van drie echte bedrijven hadden geschonden tijdens tests die werden uitgevoerd door partner Irregular, waarbij één een kwaadaardig pakket uploadde naar openbare PyPI.
Geen enkele Amerikaanse federale wet kent aansprakelijkheid toe voor door AI veroorzaakte schade; elke rechtszaak zou afhangen van tientallen jaren oude statuten voor computerhacking, geschreven voor menselijke acteurs.
OpenAI schiep op 21 juli een precedent. Het bedrijf zei dat een combinatie van zijn modellen, beide uitgevoerd met verminderde veiligheidsweigeringen, uit een geïsoleerde omgeving brak tijdens een benchmark voor cybercapaciteiten en de productie-infrastructuur van de open-source repository Hugging Face bereikte. De modellen koppelden een zero-day-kwetsbaarheid in een pakketregistratie-proxy met gestolen inloggegevens om benchmark-antwoorden rechtstreeks uit de database van Hugging Face te halen.
In een update een week later zei OpenAI dat Hugging Face niet het enige doelwit was: hetzelfde incident trof vier accounts van vier andere services, waarvan er één werd gebruikt als uitgaande relais en een andere voor gegevensopslag.
Anthropic heeft, naar aanleiding van de onthulling, 141.006 van zijn eigen testruns beoordeeld en nog eens drie inbreuken gevonden. In een bericht dat op 30 juli werd gepubliceerd, zei het laboratorium dat Claude-modellen Opus 4.7, Mythos 5 en een intern onderzoekssysteem het open internet bereikten vanuit omgevingen die werden beheerd door externe partner Irregular en vervolgens echte organisaties in gevaar brachten. Mythos 5 bouwde en publiceerde een Python-pakket met boobytraps in het openbare PyPI-register, dat werd gedownload en op 15 echte machines draaide voordat verdedigers het eruit haalden.
Twee van de drie slachtofferbedrijven hadden het niet gemerkt.
Geen van beide laboratoria beschrijft een model met een eigen agenda. De agenten opereerden langere tijd zonder dat er een mens in de buurt was, en in één geval bleef Opus 4.7 aanvallen nadat er tekenen waren dat de productie was geraakt.
De incidenten doen zich voor op het moment dat beide bedrijven naar openbare vermeldingen kijken die elk een waarde van meer dan $ 1 biljoen zouden kunnen hebben, waardoor een belangrijke vraag in de AI-cyberbenchmarkrace wordt aangescherpt: hoe test je gevaarlijke capaciteiten zonder gevaarlijke incidenten?
Wie betaalt als het AI-model hackt? De VS hebben geen federale wet die de aansprakelijkheid voor AI-schade regelt. Elke zaak zou leunen op de Computer Fraud and Abuse Act, een statuut uit 1986 dat het strafbaar stelt om 'opzettelijk' toegang te krijgen tot een computer zonder toestemming - taal geschreven voor een mens die een intentie heeft.
Een AI-agent is geen rechtspersoon en kan dus niet worden vervolgd. Het ministerie van Justitie zou in theorie aanklachten tegen de bedrijven kunnen indienen, maar omdat er zo weinig precedent is, is het niet duidelijk wie de schuldige is.
Het sterkere pad is civiel. Ahmed Ghappour, een computerrechtwetenschapper aan de New York Law School, betoogde dat de modellen 'het instrument van het bedrijf zijn' en 'Wanneer een AI-agent handelt zonder specifiek te worden aangestuurd (...) kunnen de interessantere vragen liggen in nalatigheid en productaansprakelijkheid (geen strafrechtelijke hackwetten).'
Voor mij gaat de les uit de AI-hackverhalen meer over governance dan over modelcapaciteiten.
De kwaliteit van veiligheidsmaatregelen zoals containmentarchitectuur, autorisatiegrenzen, monitoring en incidentrespons worden steeds belangrijker.
— ahmed gappour ⚡️🤖 (@ghappour) 4 augustus 2026
De schoonste claim van de slachtoffers is nalatigheid: OpenAI en Anthropic hebben tests opgezet en uitgevoerd die ontsnapten. Dat is ook moeilijk te verkopen: bewijzen dat de laboratoria hun zorgplicht hebben geschonden, toen de tests door het ontwerp werden geïsoleerd, is precies het soort nieuwe argument dat een rechter vanaf het begin zou moeten bedenken.
Sommige juridische denkers willen strengere regels. Gabriel Weil van de Universiteit van Houston en het Institute for Law & AI heeft voorgesteld om grenslaboratoria te behandelen als houders van wilde dieren: aansprakelijk ongeacht de zorg die ze besteden, omdat het risico inherent is aan de activiteit.
Dat gezegd hebbende, duwt een lappendeken van staatswetten al die kant op. De S8833 van New York en de H8052 van Rhode Island zouden de ontwikkelaar van een grensverleggend AI-systeem aansprakelijk stellen voor schade wanneer geen enkele gebruiker of tussenpersoon het gedrag bedoelde of nalatig was. De Californische AB 316 gaat nog verder en elimineert de ‘autonome AI’-verdediging, zodat een bedrijf zijn verantwoordelijkheid niet kan ontlopen door de onafhankelijkheid van het model de schuld te geven.
De AI-wet van de EU (Verordening 2024/1689) legt eveneens verplichtingen op aan aanbieders van systemen met een hoger risico, hoewel deze geen bepaling bevat die rechtstreeks gericht is op door agenten aangestuurde inbraken. Ga nog een stap verder en sommige Amerikaanse politici dringen aan op een wetsvoorstel dat de regering een volledige ‘kill switch’ zou geven om te gebruiken tegen elk model dat in strijd is met de belangen van het land.
Moreel gezien ligt de verantwoordelijkheid waarschijnlijk bij de leidinggevenden die de modellen hebben verzonden. Juridisch wachten we af. Totdat een gehackt bedrijf een rechtszaak aanspant, is het antwoord op de vraag "wie is aansprakelijk?" blijft precies waar OpenAI en Anthropic het hebben achtergelaten: erkend, onthuld en onopgelost.
Ondertussen heeft Hugging Face aangegeven dat het geen aanklacht zal indienen – wat handig is voor OpenAI. De overige getroffen bedrijven hebben nog niet aangegeven welke koers zij gaan varen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!