Default
Door staff@engadget.com (Ian Carlos Campbell) - 23 Oct 2026
OpenAI zal grensverleggende AI-modellen trainen zonder internettoegang, zo kondigde het bedrijf in een blogpost aan, in een poging de internetinfrastructuur te beschermen en andere veiligheidsrisico's te beperken. De beslissing was geïnspireerd op OpenAI's eigen malafide AI-incident: in juli deelde het bedrijf dat agenten die het aan het testen was Hugging Face hadden gehackt, slechts de eerste in wat is uitgegroeid tot een reeks rapporten van AI-wangedrag van OpenAI, Anthropic en Google.
"Gebaseerd op de huidige stand van onderzoek naar afstemming, monitoringsystemen en de veiligheid van de internetinfrastructuur, zijn wij van mening dat het een verantwoorde aanpak is om grensmodeltraining te geven zonder internettoegang", zegt OpenAI.
Het bedrijf zei dat beperkingen op waartoe agenten toegang hebben “van cruciaal belang” zijn voor de nieuwe aanpak. Het bedrijf geeft agenten toegang tot browsers, computerhulpmiddelen en codeomgevingen die ze nodig hebben voor trainingstaken, maar in een beveiligde omgeving die niet is verbonden met live internet. De communicatie is ook beperkt tot alleen agenten met autorisatie.
Open AI
Al het andere blijft buiten bereik, inclusief het live internet, dat volgens het bedrijf niet nodig is voor training en ‘de meeste evaluatie’. Omdat veel van zijn recente modellen bedoeld zijn om agenten als Dots van stroom te voorzien, die apps voor je doorzoeken en gebruiken, heeft OpenAI een 'offline wereld' van geïndexeerd en in de cache opgeslagen webmateriaal gebouwd dat agenten kunnen gebruiken zonder live websites aan te raken.
Zelfs met deze beperkingen zegt OpenAI dat de red-teaming-agenten die het stuurde om de beveiligingsmaatregelen te testen, kwetsbaarheden ontdekten waardoor ze konden ontsnappen aan de virtuele machines (VM's) die werden gebruikt om agenten van hun hostsysteem te isoleren. Agenten vonden ook een manier om met elkaar te communiceren door gegevens in de cache van een processor te manipuleren en te bepalen hoe lang het duurde om te laden. Om beide aan te pakken, zegt OpenAI dat het kwetsbaarheden in verschillende VM's heeft onthuld en opgelost en controles aan zijn monitoringsystemen heeft toegevoegd om te detecteren wanneer modellen proberen samen te werken.
OpenAI heeft de grenstraining in september stopgezet. Bij de aankondiging van dit nieuwe internetvrije proces deelde het bedrijf mee dat het de training op 1 oktober opnieuw heeft opgestart. OpenAI is van plan door te gaan met grenstraining zonder internettoegang totdat verbeteringen in de bestaande beveiliging “bredere internettoegang rechtvaardigen”, maar het deelde niet hoe die verbeteringen eruit zouden zien.
"Gebaseerd op de huidige stand van onderzoek naar afstemming, monitoringsystemen en de veiligheid van de internetinfrastructuur, zijn wij van mening dat het een verantwoorde aanpak is om grensmodeltraining te geven zonder internettoegang", zegt OpenAI.
Het bedrijf zei dat beperkingen op waartoe agenten toegang hebben “van cruciaal belang” zijn voor de nieuwe aanpak. Het bedrijf geeft agenten toegang tot browsers, computerhulpmiddelen en codeomgevingen die ze nodig hebben voor trainingstaken, maar in een beveiligde omgeving die niet is verbonden met live internet. De communicatie is ook beperkt tot alleen agenten met autorisatie.
Open AI
Al het andere blijft buiten bereik, inclusief het live internet, dat volgens het bedrijf niet nodig is voor training en ‘de meeste evaluatie’. Omdat veel van zijn recente modellen bedoeld zijn om agenten als Dots van stroom te voorzien, die apps voor je doorzoeken en gebruiken, heeft OpenAI een 'offline wereld' van geïndexeerd en in de cache opgeslagen webmateriaal gebouwd dat agenten kunnen gebruiken zonder live websites aan te raken.
Zelfs met deze beperkingen zegt OpenAI dat de red-teaming-agenten die het stuurde om de beveiligingsmaatregelen te testen, kwetsbaarheden ontdekten waardoor ze konden ontsnappen aan de virtuele machines (VM's) die werden gebruikt om agenten van hun hostsysteem te isoleren. Agenten vonden ook een manier om met elkaar te communiceren door gegevens in de cache van een processor te manipuleren en te bepalen hoe lang het duurde om te laden. Om beide aan te pakken, zegt OpenAI dat het kwetsbaarheden in verschillende VM's heeft onthuld en opgelost en controles aan zijn monitoringsystemen heeft toegevoegd om te detecteren wanneer modellen proberen samen te werken.
OpenAI heeft de grenstraining in september stopgezet. Bij de aankondiging van dit nieuwe internetvrije proces deelde het bedrijf mee dat het de training op 1 oktober opnieuw heeft opgestart. OpenAI is van plan door te gaan met grenstraining zonder internettoegang totdat verbeteringen in de bestaande beveiliging “bredere internettoegang rechtvaardigen”, maar het deelde niet hoe die verbeteringen eruit zouden zien.