Default
Door Remote - 02 Aug 2026
Luister verder
Apple-podcasts
Luister verder
Spotify
Sam Altman, CEO van OpenAI, zei onlangs dat het misschien tijd is om “het tempo van de AI-ontwikkeling te versnellen”, zodat de samenleving “zich kan verharden rond enkele van deze nieuwe vaardigheidsniveaus.”
In de laatste aflevering van de Equity-podcast van TechCrunch bespraken Kirsten Korosec, Sean O’Kane en ik hoe de opmerkingen van Altman waarschijnlijk werden ingegeven door een recente hack waarbij een OpenAI-agent de systemen van Hugging Face had binnengedrongen. Sean merkte op dat hoewel een hack uitgevoerd door een AI-agent nieuw is, de hack zelf niet ‘een nieuw, geavanceerd iets’ was.
“Het leek meer op een inbraak in Watergate door de mensen van Nixon dan op een echte heimelijke cyberoperatie, omdat dat niet nodig was en ook niet de opdracht was om dat te doen”, zei Sean. “Hopelijk is dit een teken dat deze bedrijven hiermee verder zullen gaan en voorzichtiger zullen zijn met dit soort dingen.”
De opmerkingen van Altman gaven mij ook de kans om me af te vragen wat het nut is van het hele debat over versnelling versus vertraging, omdat (ja, ik sta op het punt mezelf te citeren) de formulering “suggereert dat er maar één pad is” en “het enige wat we kunnen beslissen – voor zover we überhaupt kunnen beslissen – is: versnellen we of vertragen we?”
Blijf lezen voor een voorproefje van ons gesprek, aangepast voor lengte en duidelijkheid.
Sean O’Kane: Misschien hebben we hier eindelijk een keerpunt bereikt. Ik denk dat een grote aanjager hiervan moet zijn waar we het vorige week over hadden, waarbij een van de modellen van OpenAI inbrak in de gegevens van Hugging Face en blijkbaar ook een paar andere dingen op internet schendt.
[Altman’s] roept niet op tot een pauze, zoals we sommige mensen in de technologie-industrie in het verleden hebben zien proberen te doen. Hij was heel voorzichtig met zijn woorden en zei: "Maak het tempo." En we zullen zien hoe dit stand houdt. Elke waarschuwing die we sommige van deze laboratoria zien uitbrengen, wordt vaak tenietgedaan wanneer de prikkels hen ertoe aanzetten om weer op volle snelheid verder te gaan. Ik blijf dus sceptisch, grote verrassing.
Kirsten Korosec: Nu zal ik dit zeggen: [Altman] was misschien voorzichtig met zijn woorden, maar OpenAI en Anthropic [ondersteunden] een petitie die wel weergeeft waar hij het over had.
En ik ben het met je eens: ik denk dat veel hiervan werd veroorzaakt door Hugging Face. Het maakte hem waarschijnlijk bang, en zeker veel mensen in de branche. Het moeilijke hier is: hoe voer je de draad in, of hoe zorgt OpenAI voor het blijven genereren van inkomsten, het inzamelen van geld of het hebben van een succesvolle beursintroductie, en citeer zonder aanhalingstekens ‘tempo-ontwikkeling’.
Ik weet niet of ze dat kunnen. Ik ben benieuwd of ze beide beheren.
Anthony Ha: Een van de dingen waarmee ik worstel, is ook de vraag: is versnelling [vs.] vertraging het juiste raamwerk om hierover na te denken? Omdat het een beetje suggereert dat er maar één pad is en dat we allemaal vastzitten op dit pad. Het enige dat we kunnen beslissen – voor zover we überhaupt kunnen beslissen – is: versnellen of vertragen we? In tegenstelling tot – nogmaals, ik ga deze metafoor echt martelen – maar bouwen we verschillende vangrails? Kiezen we verschillende wegen?
Ik ben gewoon erg resistent tegen dit raamwerk. In plaats van te zeggen: "Oké, als we niet tevreden zijn met wat de modellen op dit moment doen, wat kunnen we dan nog meer doen? Is een vertraging, een pauze, een stopzetting de enige optie?" En ik denk van niet.
Eén ding wilde ik nog eens benadrukken, omdat het erg interessant was om te zien hoe alarmerend dit is – dit gevoel van: “Wat als we deze autonome agenten en modellen hebben die elkaar gewoon rondrennen en proberen hacks te voorkomen, het loopt allemaal buiten onze controle”, wat leidde tot al deze bredere debatten over afstemming waar Rebecca Bellan een geweldig stuk over heeft geschreven.
Maar het is de moeite waard om terug te komen op een van de punten waar we ook bij TechCrunch over schreven, namelijk dat deze specifieke hack – ja, deze werd veroorzaakt door een OpenAI-model, maar het klinkt alsof ze de testsite gewoon niet goed hebben beveiligd. In theorie had dit model niet online kunnen komen. Als je een krachtige, verkeerd uitgelijnde AI hebt, nemen de risico's van die menselijke fout natuurlijk dramatisch toe. Maar het begint al met het feit dat ze de zaken niet op de juiste manier hebben beveiligd.
Sean: Ik denk dat dat klopt. Ik denk dat je punt goed wordt opgevat in de zin van: we moeten hier niet alleen op een lineaire manier over nadenken, en niet alleen over de vraag of de zaken versnellen of vertragen. Er valt veel te zeggen over hoe verantwoordelijk deze bedrijven zijn. Lorenzo, een van onze collega's, heeft ook een heel goed stuk geschreven waarin hij laat zien hoe serieuze beveiligingsonderzoekers die aandacht besteden aan dit soort dingen denken dat de hack werkelijk was. Het lijkt er echt op dat er aan beide kanten van deze hack stappen waren die waarschijnlijk hadden moeten worden genomen om dit te voorkomen.
En een van de dingen die ik het meest interessant vond in dat verhaal was dat sommige onderzoekers erop wezen dat wat dit model deed niet iets nieuws, geavanceerds was. Het was echt heel menselijk in de manier waarop het dacht over proberen in te breken in proberen - niet om te antropomorfiseren, maar de manier waarop het dacht over inbreken in Hugging Face, en dat het ook erg luid en rommelig was en niet echt probeerde zijn sporen te verbergen. Het leek meer op een inbraak in Watergate door de mensen van Nixon dan op een echte heimelijke cyberoperatie, omdat dat niet nodig was en ook niet was opgedragen.
Dat had makkelijker te voorkomen moeten zijn. En hopelijk is dit een teken dat deze bedrijven hiermee verder zullen gaan en voorzichtiger zullen zijn met dit soort dingen.
Ik zal nog iets zeggen over het versnellen versus vertragen [debat.] Ik weet niet of dit de motivatie is, maar je noemde de beursintroductie, Kirsten. Ik denk dat het slim van Altman is om dit voordeel dat ze nu hebben te kunnen benutten, namelijk dat [OpenAI] volgende maand, of over twee maanden, niet naar [de] markten gaat. Hij heeft zelfs het idee geopperd om in 2027 te gaan en dat ze hun vertrouwelijke dossiers alleen hebben ingediend, zodat ze de optie klaar hebben als ze er klaar voor zijn.
Dus als je dat allemaal gelooft, heeft hij het vermogen om dit gesprek te voeren op een manier die Anthropic niet kan, omdat Anthropic al in gesprek is met veel bankiers en op weg is naar een IPO op korte termijn en daarom beperkter is in wat het kan zeggen en hoe het dat zou moeten zeggen en hoe de markt daarop gaat reageren.
Apple-podcasts
Luister verder
Spotify
Sam Altman, CEO van OpenAI, zei onlangs dat het misschien tijd is om “het tempo van de AI-ontwikkeling te versnellen”, zodat de samenleving “zich kan verharden rond enkele van deze nieuwe vaardigheidsniveaus.”
In de laatste aflevering van de Equity-podcast van TechCrunch bespraken Kirsten Korosec, Sean O’Kane en ik hoe de opmerkingen van Altman waarschijnlijk werden ingegeven door een recente hack waarbij een OpenAI-agent de systemen van Hugging Face had binnengedrongen. Sean merkte op dat hoewel een hack uitgevoerd door een AI-agent nieuw is, de hack zelf niet ‘een nieuw, geavanceerd iets’ was.
“Het leek meer op een inbraak in Watergate door de mensen van Nixon dan op een echte heimelijke cyberoperatie, omdat dat niet nodig was en ook niet de opdracht was om dat te doen”, zei Sean. “Hopelijk is dit een teken dat deze bedrijven hiermee verder zullen gaan en voorzichtiger zullen zijn met dit soort dingen.”
De opmerkingen van Altman gaven mij ook de kans om me af te vragen wat het nut is van het hele debat over versnelling versus vertraging, omdat (ja, ik sta op het punt mezelf te citeren) de formulering “suggereert dat er maar één pad is” en “het enige wat we kunnen beslissen – voor zover we überhaupt kunnen beslissen – is: versnellen we of vertragen we?”
Blijf lezen voor een voorproefje van ons gesprek, aangepast voor lengte en duidelijkheid.
Sean O’Kane: Misschien hebben we hier eindelijk een keerpunt bereikt. Ik denk dat een grote aanjager hiervan moet zijn waar we het vorige week over hadden, waarbij een van de modellen van OpenAI inbrak in de gegevens van Hugging Face en blijkbaar ook een paar andere dingen op internet schendt.
[Altman’s] roept niet op tot een pauze, zoals we sommige mensen in de technologie-industrie in het verleden hebben zien proberen te doen. Hij was heel voorzichtig met zijn woorden en zei: "Maak het tempo." En we zullen zien hoe dit stand houdt. Elke waarschuwing die we sommige van deze laboratoria zien uitbrengen, wordt vaak tenietgedaan wanneer de prikkels hen ertoe aanzetten om weer op volle snelheid verder te gaan. Ik blijf dus sceptisch, grote verrassing.
Kirsten Korosec: Nu zal ik dit zeggen: [Altman] was misschien voorzichtig met zijn woorden, maar OpenAI en Anthropic [ondersteunden] een petitie die wel weergeeft waar hij het over had.
En ik ben het met je eens: ik denk dat veel hiervan werd veroorzaakt door Hugging Face. Het maakte hem waarschijnlijk bang, en zeker veel mensen in de branche. Het moeilijke hier is: hoe voer je de draad in, of hoe zorgt OpenAI voor het blijven genereren van inkomsten, het inzamelen van geld of het hebben van een succesvolle beursintroductie, en citeer zonder aanhalingstekens ‘tempo-ontwikkeling’.
Ik weet niet of ze dat kunnen. Ik ben benieuwd of ze beide beheren.
Anthony Ha: Een van de dingen waarmee ik worstel, is ook de vraag: is versnelling [vs.] vertraging het juiste raamwerk om hierover na te denken? Omdat het een beetje suggereert dat er maar één pad is en dat we allemaal vastzitten op dit pad. Het enige dat we kunnen beslissen – voor zover we überhaupt kunnen beslissen – is: versnellen of vertragen we? In tegenstelling tot – nogmaals, ik ga deze metafoor echt martelen – maar bouwen we verschillende vangrails? Kiezen we verschillende wegen?
Ik ben gewoon erg resistent tegen dit raamwerk. In plaats van te zeggen: "Oké, als we niet tevreden zijn met wat de modellen op dit moment doen, wat kunnen we dan nog meer doen? Is een vertraging, een pauze, een stopzetting de enige optie?" En ik denk van niet.
Eén ding wilde ik nog eens benadrukken, omdat het erg interessant was om te zien hoe alarmerend dit is – dit gevoel van: “Wat als we deze autonome agenten en modellen hebben die elkaar gewoon rondrennen en proberen hacks te voorkomen, het loopt allemaal buiten onze controle”, wat leidde tot al deze bredere debatten over afstemming waar Rebecca Bellan een geweldig stuk over heeft geschreven.
Maar het is de moeite waard om terug te komen op een van de punten waar we ook bij TechCrunch over schreven, namelijk dat deze specifieke hack – ja, deze werd veroorzaakt door een OpenAI-model, maar het klinkt alsof ze de testsite gewoon niet goed hebben beveiligd. In theorie had dit model niet online kunnen komen. Als je een krachtige, verkeerd uitgelijnde AI hebt, nemen de risico's van die menselijke fout natuurlijk dramatisch toe. Maar het begint al met het feit dat ze de zaken niet op de juiste manier hebben beveiligd.
Sean: Ik denk dat dat klopt. Ik denk dat je punt goed wordt opgevat in de zin van: we moeten hier niet alleen op een lineaire manier over nadenken, en niet alleen over de vraag of de zaken versnellen of vertragen. Er valt veel te zeggen over hoe verantwoordelijk deze bedrijven zijn. Lorenzo, een van onze collega's, heeft ook een heel goed stuk geschreven waarin hij laat zien hoe serieuze beveiligingsonderzoekers die aandacht besteden aan dit soort dingen denken dat de hack werkelijk was. Het lijkt er echt op dat er aan beide kanten van deze hack stappen waren die waarschijnlijk hadden moeten worden genomen om dit te voorkomen.
En een van de dingen die ik het meest interessant vond in dat verhaal was dat sommige onderzoekers erop wezen dat wat dit model deed niet iets nieuws, geavanceerds was. Het was echt heel menselijk in de manier waarop het dacht over proberen in te breken in proberen - niet om te antropomorfiseren, maar de manier waarop het dacht over inbreken in Hugging Face, en dat het ook erg luid en rommelig was en niet echt probeerde zijn sporen te verbergen. Het leek meer op een inbraak in Watergate door de mensen van Nixon dan op een echte heimelijke cyberoperatie, omdat dat niet nodig was en ook niet was opgedragen.
Dat had makkelijker te voorkomen moeten zijn. En hopelijk is dit een teken dat deze bedrijven hiermee verder zullen gaan en voorzichtiger zullen zijn met dit soort dingen.
Ik zal nog iets zeggen over het versnellen versus vertragen [debat.] Ik weet niet of dit de motivatie is, maar je noemde de beursintroductie, Kirsten. Ik denk dat het slim van Altman is om dit voordeel dat ze nu hebben te kunnen benutten, namelijk dat [OpenAI] volgende maand, of over twee maanden, niet naar [de] markten gaat. Hij heeft zelfs het idee geopperd om in 2027 te gaan en dat ze hun vertrouwelijke dossiers alleen hebben ingediend, zodat ze de optie klaar hebben als ze er klaar voor zijn.
Dus als je dat allemaal gelooft, heeft hij het vermogen om dit gesprek te voeren op een manier die Anthropic niet kan, omdat Anthropic al in gesprek is met veel bankiers en op weg is naar een IPO op korte termijn en daarom beperkter is in wat het kan zeggen en hoe het dat zou moeten zeggen en hoe de markt daarop gaat reageren.