Default
Door Remote - 28 Jul 2026
OpenAI-CEO Sam Altman zegt dat het misschien tijd is om de AI-ontwikkeling te ‘tempo’, zodat de wereld er klaar voor is.
“Misschien moeten we het tempo van de AI-ontwikkeling aanpassen om onszelf genoeg tijd te geven zodat de samenleving zich kan verharden rond een aantal van deze nieuwe vaardigheidsniveaus”, vertelde hij aan Patrick O’Shaughnessy, de presentator van de Invest Like the Best-podcast, terwijl hij ook “probeerde uit te vinden hoe we dat doen op een manier die voor niemand voelt als toezicht op de regelgeving en die ook niet voelt als een samenzwering tussen de grenslaboratoria.”
Altman heeft vermeden zich aan te sluiten bij eerdere campagnes om de vooruitgang op het gebied van AI te vertragen, en noemde een open brief uit 2023 waarin een soortgelijke vertraging werd voorgesteld “de meeste technische nuance mist over waar we de pauze nodig hebben.”
Blijkbaar is hij wat milder geworden over het idee, deels dankzij het incident waarbij een van de geavanceerde modellen van OpenAI erin slaagde uit een veilige computeromgeving te ontsnappen en Hugging Face, een online modellendatabase, te hacken met behulp van verschillende zero-day-exploits.
Op de podcast noemde de medeoprichter van OpenAI het een “extreem sci-fi cyberincident… dit is het eerste beveiligingsincident dat ik heel diepgeworteld heb gevoeld.”
OpenAI-onderzoekers hebben de training over dat model onderbroken terwijl ze uitzoeken hoe ze hun sandbox veilig kunnen houden. Maar Altman zei dat naarmate modellen krachtiger worden, de noodzaak om hun ontwikkeling te ‘tempo’ de sleutel zou kunnen worden tot een veilige implementatie.
Medewerkers van OpenAI en Anthropic zijn al begonnen met het verspreiden van een petitie in soortgelijke taal. Hoewel de veiligheid en afstemming van modellen altijd een zorg is geweest in de AI-wereld, heeft de komst van het zeer capabele Mythos-model van Anthropic eerder dit jaar hypotheken omgezet in echte problemen.
De industrie heeft echter een vertrouwensprobleem en uitdagende economieën die grote spelers een stimulans geven om de gevaren van hun systemen te benadrukken op manieren waar experts het niet over eens zijn – bijvoorbeeld of het Fable-model van Anthropic al dan niet kortstondig verboden had moeten worden. Op dezelfde manier zei OpenAI-hoofd strategische toekomst Dean W. Ball, toen Kimi K3, een groot open-weight-model gebouwd in China, dat het de economie van grenslaboratoria bedreigde, waardoor het moeilijk werd om hun veiligheidsproblemen te scheiden van hun financiële belangen.
“Ik denk dat veel van het gepraat over veiligheidskwesties gegrond is, en dan gaat een groot deel ervan over mensen die gewoon echt, ook al is het enigszins onbewust, de macht willen concentreren,” mijmerde Altman, in wat leest als een uithaal naar zijn rivaal, Anthropic CEO Dario Amodei. “Ik ben doodsbang voor een wereld waarin de zeer reële angsten voor AI worden gebruikt als een manier om te zeggen: ‘Alleen deze kleine groep mensen kan het hebben omdat het te gevaarlijk is, en alleen zij begrijpen het, maar maak je geen zorgen, ze gaan de juiste beslissingen nemen voor ons allemaal.’ Daar geloof ik niet in.’
Toch heeft OpenAI zich verzet tegen pogingen om overheidsregels voor AI-modellen te ontwikkelen, maar geeft het de voorkeur aan een door de industrie geleide aanpak waarbij AI-laboratoria ogenschijnlijk onafhankelijke organisaties zouden creëren die de veiligheid van modellen en de veiligheidsbenadering van hun makers zouden evalueren.
De uitdaging voor zowel die benadering van regulering als alle pogingen om de ontwikkeling van AI te vertragen zal erin bestaan de verschillende spelers in de industrie op één lijn te krijgen, of het nu rivaliserende grenslaboratoria in de VS zijn of concurrenten in China.
“Misschien moeten we het tempo van de AI-ontwikkeling aanpassen om onszelf genoeg tijd te geven zodat de samenleving zich kan verharden rond een aantal van deze nieuwe vaardigheidsniveaus”, vertelde hij aan Patrick O’Shaughnessy, de presentator van de Invest Like the Best-podcast, terwijl hij ook “probeerde uit te vinden hoe we dat doen op een manier die voor niemand voelt als toezicht op de regelgeving en die ook niet voelt als een samenzwering tussen de grenslaboratoria.”
Altman heeft vermeden zich aan te sluiten bij eerdere campagnes om de vooruitgang op het gebied van AI te vertragen, en noemde een open brief uit 2023 waarin een soortgelijke vertraging werd voorgesteld “de meeste technische nuance mist over waar we de pauze nodig hebben.”
Blijkbaar is hij wat milder geworden over het idee, deels dankzij het incident waarbij een van de geavanceerde modellen van OpenAI erin slaagde uit een veilige computeromgeving te ontsnappen en Hugging Face, een online modellendatabase, te hacken met behulp van verschillende zero-day-exploits.
Op de podcast noemde de medeoprichter van OpenAI het een “extreem sci-fi cyberincident… dit is het eerste beveiligingsincident dat ik heel diepgeworteld heb gevoeld.”
OpenAI-onderzoekers hebben de training over dat model onderbroken terwijl ze uitzoeken hoe ze hun sandbox veilig kunnen houden. Maar Altman zei dat naarmate modellen krachtiger worden, de noodzaak om hun ontwikkeling te ‘tempo’ de sleutel zou kunnen worden tot een veilige implementatie.
Medewerkers van OpenAI en Anthropic zijn al begonnen met het verspreiden van een petitie in soortgelijke taal. Hoewel de veiligheid en afstemming van modellen altijd een zorg is geweest in de AI-wereld, heeft de komst van het zeer capabele Mythos-model van Anthropic eerder dit jaar hypotheken omgezet in echte problemen.
De industrie heeft echter een vertrouwensprobleem en uitdagende economieën die grote spelers een stimulans geven om de gevaren van hun systemen te benadrukken op manieren waar experts het niet over eens zijn – bijvoorbeeld of het Fable-model van Anthropic al dan niet kortstondig verboden had moeten worden. Op dezelfde manier zei OpenAI-hoofd strategische toekomst Dean W. Ball, toen Kimi K3, een groot open-weight-model gebouwd in China, dat het de economie van grenslaboratoria bedreigde, waardoor het moeilijk werd om hun veiligheidsproblemen te scheiden van hun financiële belangen.
“Ik denk dat veel van het gepraat over veiligheidskwesties gegrond is, en dan gaat een groot deel ervan over mensen die gewoon echt, ook al is het enigszins onbewust, de macht willen concentreren,” mijmerde Altman, in wat leest als een uithaal naar zijn rivaal, Anthropic CEO Dario Amodei. “Ik ben doodsbang voor een wereld waarin de zeer reële angsten voor AI worden gebruikt als een manier om te zeggen: ‘Alleen deze kleine groep mensen kan het hebben omdat het te gevaarlijk is, en alleen zij begrijpen het, maar maak je geen zorgen, ze gaan de juiste beslissingen nemen voor ons allemaal.’ Daar geloof ik niet in.’
Toch heeft OpenAI zich verzet tegen pogingen om overheidsregels voor AI-modellen te ontwikkelen, maar geeft het de voorkeur aan een door de industrie geleide aanpak waarbij AI-laboratoria ogenschijnlijk onafhankelijke organisaties zouden creëren die de veiligheid van modellen en de veiligheidsbenadering van hun makers zouden evalueren.
De uitdaging voor zowel die benadering van regulering als alle pogingen om de ontwikkeling van AI te vertragen zal erin bestaan de verschillende spelers in de industrie op één lijn te krijgen, of het nu rivaliserende grenslaboratoria in de VS zijn of concurrenten in China.