Default
Door Remote - 18 Aug 2026
Dinsdag kondigde OpenAI een nieuwe reeks beveiligingsbeleidslijnen aan, gericht op het beheersen van beveiligingsincidenten terwijl modellen worden getest. De nieuwe waarborgen omvatten een meer gedetailleerde monitoring van modellen tijdens het ontwikkelingsproces, evenals een grotere nadruk op afstemming en beveiliging tijdens het post-trainingsproces.
“Naarmate modellen capabeler worden, nemen ook de risico’s die gepaard gaan met het intern ontwikkelen en testen ervan toe”, aldus het bedrijf in een blogpost. “Onze normen voor monitoring, afstemming en beveiliging moeten deze risico’s voorblijven.”
De nieuwe maatregelen zijn een van de eerste publieke veranderingen in de veiligheidspraktijken van OpenAI sinds de onmiddellijke nasleep van het Hugging Face-incident, dat op 21 juli werd onthuld.
Vertegenwoordigers van OpenAI zeiden dat de maatregelen geen directe reactie zijn op het Hugging Face-incident, maar ook gedeeltelijk werden uitgelokt door de cyberbeveiligingsmogelijkheden van het komende Astra-model, evenals door het algemene tempo van de vooruitgang in de AI-ontwikkeling.
In hetzelfde bericht onthulde OpenAI dat het het versterkende leren (RL) twee weken lang had onderbroken na het Hugging Face-incident, maar sindsdien veel van de minder risicovolle modellen opnieuw had opgestart.
“Onze grootste geplande frontier RL-run blijft opgeschort terwijl we kleinschaligere trainingen en evaluaties uitvoeren om het gedrag van het model te beoordelen, onze waarborgen te valideren en meer bewijs van afstemming vast te stellen voordat we verder gaan”, luidt het bericht.
In een gesprek met verslaggevers benadrukte Amelia Glaese, vice-president onderzoek van OpenAI, dat de strengheid van de controles zou toenemen naarmate modellen capabeler werden, waarbij de grootste modellen aan de grootste controle werden onderworpen.
“We hebben eisen en verwachtingen gesteld voor een veilige ontwikkeling”, vertelde Glaese aan verslaggevers. “Die eisen en verwachtingen variëren afhankelijk van het risiconiveau dat we zien.”
OpenAI is bekritiseerd vanwege slechte netwerkbeveiligingspraktijken in de nasleep van het incident, waarbij modellen uit hun trainingsomgeving ontsnapten door een tool op zijn netwerk die toegang had tot internet in gevaar te brengen. De nieuwe waarborgen omvatten sterkere netwerkisolatiepraktijken, hoewel de details vaag blijven. Onder het nieuwe systeem, zo zegt de post, “staat één enkele inbreuk op een werklast of ondersteunende dienst op zichzelf geen ongeoorloofde toegang tot het internet of andere interne netwerken toe.”
De sterkste beveiliging is het monitoringsysteem, dat toolacties, beschikbare redeneersporen en activiteitenlogboeken onderzoekt op een verscheidenheid aan ongeautoriseerd gedrag. OpenAI zegt ernaar te streven om binnen 30 minuten na de betreffende activiteit waarschuwingen te geven.
OpenAI schat dat de rekenlast van die monitoring grofweg 20% zal bedragen van welk proces dan ook wordt gemonitord. Het bedrijf beloofde verdere details over het systeem in een komende blogpost. De officiële postmortemanalyse van de gebeurtenis door het bedrijf is ook nog in behandeling.
“Naarmate modellen capabeler worden, nemen ook de risico’s die gepaard gaan met het intern ontwikkelen en testen ervan toe”, aldus het bedrijf in een blogpost. “Onze normen voor monitoring, afstemming en beveiliging moeten deze risico’s voorblijven.”
De nieuwe maatregelen zijn een van de eerste publieke veranderingen in de veiligheidspraktijken van OpenAI sinds de onmiddellijke nasleep van het Hugging Face-incident, dat op 21 juli werd onthuld.
Vertegenwoordigers van OpenAI zeiden dat de maatregelen geen directe reactie zijn op het Hugging Face-incident, maar ook gedeeltelijk werden uitgelokt door de cyberbeveiligingsmogelijkheden van het komende Astra-model, evenals door het algemene tempo van de vooruitgang in de AI-ontwikkeling.
In hetzelfde bericht onthulde OpenAI dat het het versterkende leren (RL) twee weken lang had onderbroken na het Hugging Face-incident, maar sindsdien veel van de minder risicovolle modellen opnieuw had opgestart.
“Onze grootste geplande frontier RL-run blijft opgeschort terwijl we kleinschaligere trainingen en evaluaties uitvoeren om het gedrag van het model te beoordelen, onze waarborgen te valideren en meer bewijs van afstemming vast te stellen voordat we verder gaan”, luidt het bericht.
In een gesprek met verslaggevers benadrukte Amelia Glaese, vice-president onderzoek van OpenAI, dat de strengheid van de controles zou toenemen naarmate modellen capabeler werden, waarbij de grootste modellen aan de grootste controle werden onderworpen.
“We hebben eisen en verwachtingen gesteld voor een veilige ontwikkeling”, vertelde Glaese aan verslaggevers. “Die eisen en verwachtingen variëren afhankelijk van het risiconiveau dat we zien.”
OpenAI is bekritiseerd vanwege slechte netwerkbeveiligingspraktijken in de nasleep van het incident, waarbij modellen uit hun trainingsomgeving ontsnapten door een tool op zijn netwerk die toegang had tot internet in gevaar te brengen. De nieuwe waarborgen omvatten sterkere netwerkisolatiepraktijken, hoewel de details vaag blijven. Onder het nieuwe systeem, zo zegt de post, “staat één enkele inbreuk op een werklast of ondersteunende dienst op zichzelf geen ongeoorloofde toegang tot het internet of andere interne netwerken toe.”
De sterkste beveiliging is het monitoringsysteem, dat toolacties, beschikbare redeneersporen en activiteitenlogboeken onderzoekt op een verscheidenheid aan ongeautoriseerd gedrag. OpenAI zegt ernaar te streven om binnen 30 minuten na de betreffende activiteit waarschuwingen te geven.
OpenAI schat dat de rekenlast van die monitoring grofweg 20% zal bedragen van welk proces dan ook wordt gemonitord. Het bedrijf beloofde verdere details over het systeem in een komende blogpost. De officiële postmortemanalyse van de gebeurtenis door het bedrijf is ook nog in behandeling.