Default
Door Remote - 07 Aug 2026
OpenAI zei vrijdag dat het de werkzaamheden aan sommige aspecten van zijn aankomende model Astra heeft opgeschort nadat uit een interne evaluatie bleek dat het aanzienlijke vooruitgang had geboekt op het gebied van agentische codering en cyberbeveiliging – genoeg om bezorgdheid over de mogelijkheden ervan te rechtvaardigen.
OpenAI zei vrijdag in een blogpost dat dit model, dat nog in ontwikkeling is, zijn ‘kritieke cyberveiligheidsdrempel’ heeft bereikt, wat betekent dat het onafhankelijk cyberaanvallen tegen traditioneel goed beschermde systemen in de echte wereld kan identificeren en uitvoeren. Onder het ‘Preparedness Framework’ van het bedrijf, dat het in 2023 creëerde, leidde dit tot extra waarborgen.
“Hoewel we dit model blijven benchmarken en beoordelen, wijzen onze voorlopige evaluaties op voldoende sterke prestaties dat we op dit moment een kritisch capaciteitsniveau niet kunnen uitsluiten”, schreef OpenAI. “Astra is een opkomend model en was niet betrokken bij de exploitatie van Hugging Face.”
De onthulling benadrukt een ongebruikelijk moment in de op zijn kop staande en nog steeds opkomende AI-laboratoriasector. Bedrijven in elke sector houden producten achter vanwege potentiële risico's, ook vanwege veiligheids- en cyberbeveiligingsproblemen. Maar ze maken deze beslissingen zelden publiekelijk bekend als het een product is dat nog in ontwikkeling is.
In dit geval wordt OpenAI al onder de loep genomen nadat een ander, nog niet uitgebracht model de systemen van Hugging Face had geschonden tijdens interne tests – het eerste verifieerbare incident waarbij een AI-laboratorium de controle over zijn model verloor. Sindsdien hebben OpenAI- en AI-laboratoria zoals Anthropic andere incidenten onthuld waarbij AI-modellen hun sandboxes hebben doorbroken en bedreigingen vormden tijdens cyberveiligheidstests.
De reeks zaken – het lijkt nu elke dag een nieuwe onthulling – heeft tot uiteenlopende reacties geleid van cyberbeveiligingsexperts, wetgevers en de AI-laboratoria zelf. Sommigen uiten hun angst en roepen op tot strenger toezicht. Maar er is ook een beetje buiging. In bepaalde kringen zal elk AI-lab met een model dat dat soort mogelijkheden heeft, als een indrukwekkende vooruitgang worden gezien.
OpenAI zei dat het deze informatie deelde omdat het gelooft dat “het belangrijk is om transparant te zijn tegenover het publiek en de veiligheids- en beveiligingsgemeenschappen over deze potentiële verschuiving in capaciteiten.”
Het AI-lab zei dat het ook actie onderneemt, waaronder het invoeren van strengere veiligheidscontroles en het onderbreken van interne activiteiten waarbij Astra betrokken is die niet aan deze versterkte vangrails voldoen. OpenAI zei dat het samenwerkt met relevante overheidsinstanties en “geselecteerde AI-veiligheidsorganisaties” om de mogelijkheden van dit model te testen.
OpenAI zei vrijdag in een blogpost dat dit model, dat nog in ontwikkeling is, zijn ‘kritieke cyberveiligheidsdrempel’ heeft bereikt, wat betekent dat het onafhankelijk cyberaanvallen tegen traditioneel goed beschermde systemen in de echte wereld kan identificeren en uitvoeren. Onder het ‘Preparedness Framework’ van het bedrijf, dat het in 2023 creëerde, leidde dit tot extra waarborgen.
“Hoewel we dit model blijven benchmarken en beoordelen, wijzen onze voorlopige evaluaties op voldoende sterke prestaties dat we op dit moment een kritisch capaciteitsniveau niet kunnen uitsluiten”, schreef OpenAI. “Astra is een opkomend model en was niet betrokken bij de exploitatie van Hugging Face.”
De onthulling benadrukt een ongebruikelijk moment in de op zijn kop staande en nog steeds opkomende AI-laboratoriasector. Bedrijven in elke sector houden producten achter vanwege potentiële risico's, ook vanwege veiligheids- en cyberbeveiligingsproblemen. Maar ze maken deze beslissingen zelden publiekelijk bekend als het een product is dat nog in ontwikkeling is.
In dit geval wordt OpenAI al onder de loep genomen nadat een ander, nog niet uitgebracht model de systemen van Hugging Face had geschonden tijdens interne tests – het eerste verifieerbare incident waarbij een AI-laboratorium de controle over zijn model verloor. Sindsdien hebben OpenAI- en AI-laboratoria zoals Anthropic andere incidenten onthuld waarbij AI-modellen hun sandboxes hebben doorbroken en bedreigingen vormden tijdens cyberveiligheidstests.
De reeks zaken – het lijkt nu elke dag een nieuwe onthulling – heeft tot uiteenlopende reacties geleid van cyberbeveiligingsexperts, wetgevers en de AI-laboratoria zelf. Sommigen uiten hun angst en roepen op tot strenger toezicht. Maar er is ook een beetje buiging. In bepaalde kringen zal elk AI-lab met een model dat dat soort mogelijkheden heeft, als een indrukwekkende vooruitgang worden gezien.
OpenAI zei dat het deze informatie deelde omdat het gelooft dat “het belangrijk is om transparant te zijn tegenover het publiek en de veiligheids- en beveiligingsgemeenschappen over deze potentiële verschuiving in capaciteiten.”
Het AI-lab zei dat het ook actie onderneemt, waaronder het invoeren van strengere veiligheidscontroles en het onderbreken van interne activiteiten waarbij Astra betrokken is die niet aan deze versterkte vangrails voldoen. OpenAI zei dat het samenwerkt met relevante overheidsinstanties en “geselecteerde AI-veiligheidsorganisaties” om de mogelijkheden van dit model te testen.