Default
Door Remote - 14 Aug 2026
In het kort
Medewerkers van OpenAI vertelden Wired dat de druk om modellen en producten vrij te geven het moeilijk heeft gemaakt om prioriteit te geven aan veiligheid, beveiliging en afstemming.
Een voormalige medewerker noemde de inbreuk het grootste veiligheidsincident in de geschiedenis van OpenAI.
OpenAI heeft het onderzoek vertraagd, teams opnieuw toegewezen en miljoenen uitgegeven aan onderzoek naar de mislukking.
De haast van OpenAI om nieuwe modellen en producten uit te brengen, droeg bij aan omstandigheden waardoor de AI-agenten eerder dit jaar konden ontsnappen aan interne testomgevingen en Hugging Face konden hacken.
Meerdere huidige en voormalige werknemers vertelden Wired dat de concurrentiedruk het voor het personeel moeilijk heeft gemaakt om voldoende aandacht te besteden aan veiligheid, beveiliging en afstemming – het werk om ervoor te zorgen dat AI-systemen zich gedragen zoals bedoeld.
Myriad: Wanneer zal OpenAI GPT-6 uitbrengen? Klik om je voorspelling te doen. "Ze waren ongelooflijk slordig. Als je dit serieus meent, zou je AI niet in staat moeten zijn om op het internet uit te breken en het daarna meteen weer opnieuw te doen", vertelde een voormalig OpenAI-medewerker aan Wired. “Dit was het grootste veiligheidsincident in de geschiedenis van OpenAI.”
In mei ontsnapten OpenAI's GPT-5.6 Sol en een naamloos pre-releasemodel aan een testomgeving met beperkte internettoegang door misbruik te maken van een voorheen onbekende softwarefout. De agenten hebben vervolgens de open-source AI-opslagplaats Hugging Face gehackt om antwoorden op hun cyberbeveiligingstests te verkrijgen. In juli bevestigde OpenAI dat zijn modellen verantwoordelijk waren, voordat hij vorige week op de jaarlijkse Black Hat-conferentie een vollediger overzicht gaf.
OpenAI-president Greg Brockman zei dat het bedrijf zijn veiligheidsmaatregelen versterkt naarmate zijn modellen capabeler worden.
“We bereiken nieuwe niveaus van modelcapaciteiten die robuustere training, afstemming, veiligheids- en beveiligingstests, implementatiepraktijken en bestuur vereisen”, vertelde Brockman aan Wired.
Werknemers hebben soortgelijke zorgen al eerder geuit, waaronder Jan Leike, voormalig hoofd van OpenAI, die in 2024 naar rivaliserende AI-ontwikkelaar Anthropic vertrok nadat hij had gewaarschuwd dat veiligheid “op de achtergrond was gekomen” bij de productontwikkeling.
“Het bouwen van machines die slimmer zijn dan menselijke machines is een inherent gevaarlijke onderneming”, waarschuwde Leike. “Maar de afgelopen jaren hebben de veiligheidscultuur en -processen de achterbank ingenomen ten opzichte van glanzende producten.”
Boaz Barak, medeleider van de veiligheidsadviesgroep van OpenAI, schreef op X dat het aanpakken van de laatste mislukking “niet alleen het oplossen van enkele problemen zou vereisen, maar ook het veranderen van onze cultuur.”
Het rapport komt te midden van maanden van leiderschapsverloop bij OpenAI.
In april verlieten het hoofd van OpenAI's videogeneratorproject Sora, Bill Peebles, voormalig hoofd product en wetenschap Kevin Weil, en hoofd van de technologie voor bedrijfstoepassingen Srinivas Narayanan het bedrijf. Juli bracht het vertrek van product- en bedrijfschef Fidji Simo, veiligheidsleider Sandhini Agarwal, hoofdfuturist Joshua Achiam en AI-ethiekleider Chloé Bakalar met zich mee. Hoofd veiligheidssystemen Johannes Heidecke vertrok ook nadat OpenAI zijn veiligheids- en kernonderzoeksteams had samengevoegd.
Eerder deze week kondigde OpenAI Chief Operating Officer Brad Lightcap zijn vertrek na acht jaar aan om een nieuwe onderneming te starten.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Medewerkers van OpenAI vertelden Wired dat de druk om modellen en producten vrij te geven het moeilijk heeft gemaakt om prioriteit te geven aan veiligheid, beveiliging en afstemming.
Een voormalige medewerker noemde de inbreuk het grootste veiligheidsincident in de geschiedenis van OpenAI.
OpenAI heeft het onderzoek vertraagd, teams opnieuw toegewezen en miljoenen uitgegeven aan onderzoek naar de mislukking.
De haast van OpenAI om nieuwe modellen en producten uit te brengen, droeg bij aan omstandigheden waardoor de AI-agenten eerder dit jaar konden ontsnappen aan interne testomgevingen en Hugging Face konden hacken.
Meerdere huidige en voormalige werknemers vertelden Wired dat de concurrentiedruk het voor het personeel moeilijk heeft gemaakt om voldoende aandacht te besteden aan veiligheid, beveiliging en afstemming – het werk om ervoor te zorgen dat AI-systemen zich gedragen zoals bedoeld.
Myriad: Wanneer zal OpenAI GPT-6 uitbrengen? Klik om je voorspelling te doen. "Ze waren ongelooflijk slordig. Als je dit serieus meent, zou je AI niet in staat moeten zijn om op het internet uit te breken en het daarna meteen weer opnieuw te doen", vertelde een voormalig OpenAI-medewerker aan Wired. “Dit was het grootste veiligheidsincident in de geschiedenis van OpenAI.”
In mei ontsnapten OpenAI's GPT-5.6 Sol en een naamloos pre-releasemodel aan een testomgeving met beperkte internettoegang door misbruik te maken van een voorheen onbekende softwarefout. De agenten hebben vervolgens de open-source AI-opslagplaats Hugging Face gehackt om antwoorden op hun cyberbeveiligingstests te verkrijgen. In juli bevestigde OpenAI dat zijn modellen verantwoordelijk waren, voordat hij vorige week op de jaarlijkse Black Hat-conferentie een vollediger overzicht gaf.
OpenAI-president Greg Brockman zei dat het bedrijf zijn veiligheidsmaatregelen versterkt naarmate zijn modellen capabeler worden.
“We bereiken nieuwe niveaus van modelcapaciteiten die robuustere training, afstemming, veiligheids- en beveiligingstests, implementatiepraktijken en bestuur vereisen”, vertelde Brockman aan Wired.
Werknemers hebben soortgelijke zorgen al eerder geuit, waaronder Jan Leike, voormalig hoofd van OpenAI, die in 2024 naar rivaliserende AI-ontwikkelaar Anthropic vertrok nadat hij had gewaarschuwd dat veiligheid “op de achtergrond was gekomen” bij de productontwikkeling.
“Het bouwen van machines die slimmer zijn dan menselijke machines is een inherent gevaarlijke onderneming”, waarschuwde Leike. “Maar de afgelopen jaren hebben de veiligheidscultuur en -processen de achterbank ingenomen ten opzichte van glanzende producten.”
Boaz Barak, medeleider van de veiligheidsadviesgroep van OpenAI, schreef op X dat het aanpakken van de laatste mislukking “niet alleen het oplossen van enkele problemen zou vereisen, maar ook het veranderen van onze cultuur.”
Het rapport komt te midden van maanden van leiderschapsverloop bij OpenAI.
In april verlieten het hoofd van OpenAI's videogeneratorproject Sora, Bill Peebles, voormalig hoofd product en wetenschap Kevin Weil, en hoofd van de technologie voor bedrijfstoepassingen Srinivas Narayanan het bedrijf. Juli bracht het vertrek van product- en bedrijfschef Fidji Simo, veiligheidsleider Sandhini Agarwal, hoofdfuturist Joshua Achiam en AI-ethiekleider Chloé Bakalar met zich mee. Hoofd veiligheidssystemen Johannes Heidecke vertrok ook nadat OpenAI zijn veiligheids- en kernonderzoeksteams had samengevoegd.
Eerder deze week kondigde OpenAI Chief Operating Officer Brad Lightcap zijn vertrek na acht jaar aan om een nieuwe onderneming te starten.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!