Default
Door Remote - 20 Sep 2026
Luister verder
Apple-podcasts
Luister verder
Spotify
We zien een groot debat over de veiligheid van AI en een mogelijke vertraging, aangezien Dario Amodei, CEO van Anthropic, onlangs een plan publiceerde om ‘de grenzen te verleggen’, terwijl CEO van Nvidia, Jensen Huang, publiekelijk de beweringen van president Donald Trump heeft herhaald dat de AI-reactie bedrog is en dat regulering niet nodig is.
In de laatste aflevering van de Equity-podcast van TechCrunch bespraken Kirsten Korosec, Sean O’Kane en ik of leidinggevenden als Amodei en OpenAI-CEO Sam Altman serieus willen vertragen.
Hoewel ik verrast was hoeveel leiders uit de industrie hun steun leken te geven aan het plan van Amodei, merkte Sean op dat het plan weinig details leek te bevatten.
En toen Kristen vroeg of een combinatie van bestaande regelgeving en de werking van de vrije markt op zichzelf voldoende waarborgen zou kunnen bieden, antwoordde Sean: ‘We hebben op dit moment een federale regering die er zeker niet op gebrand lijkt om regelgeving in brede zin af te dwingen, laat staan specifiek hier te spreken.’
Bovendien, zo betoogde hij, “lijkt het erop dat er niet veel consumentenkeuze is die deze markt aanstuurt, in de zin van: oké, als een van deze bedrijven iets heel slechts doet, dan zullen ze een impact zien in het aantal annuleringen of wat dan ook.”
Blijf lezen voor een voorproefje van ons gesprek, aangepast voor lengte en duidelijkheid.
Anthony Ha: Sean, wat denk jij? Gaan we daadwerkelijk “de grens verleggen”?
Sean O’Kane: Dat klinkt om de een of andere reden als iets uit ‘Point Break’. Het is gewoon een zeer Californische uitspraak, zoals: "We gaan de grens verleggen, bruh."
Ik weet het niet. Ik zei vorige week tijdens deze show dat ik niet dacht dat we op weg waren naar een vertraging van welke aard dan ook, grotendeels omdat ik niet denk dat deze bedrijven zo gestructureerd zijn dat dat werkt.
Dit was dus een vrij directe omkering van wat ik een week geleden zei, om dit te horen van Dario bij Anthropic en Sam bij OpenAI en tot op zekere hoogte zelfs Elon Musk – en we kunnen onderzoeken of we dat geloven of niet. Ik zal zeggen: ik denk niet dat ik het helemaal mis had, want zelfs met deze losse plannen die Dario in een blogpost heeft uiteengezet en waar enkele andere leiders over hebben gesproken, heb ik het gevoel dat we hier nog steeds veel details missen, niet alleen over sommige beweringen over waarom deze mensen denken dat er gevaren en risico's zijn, maar ook details over wat ze bedoelen met vertragen.
Anthony, ik weet dat je dit spul afgelopen weekend vrij goed hebt gelezen, omdat het allemaal opkwam, dus ik ben benieuwd of je misschien genereuzer bent dan ik, voor zover je begrijpt wat ze hier proberen te zeggen.
Anthony: Ik bedoel, ik heb ook vragen. Wat mij echt opviel, is het feit dat zoveel mensen in de branche zich hier vrij snel rond leken te verenigen. Zelfs voordat Amodei zijn blogpost publiceerde, zag ik andere mensen een versie van dit [plan] posten, net in de dagen voorafgaand aan het plan.
Ik heb begrepen dat deze suggesties uit de AI-veiligheidsgemeenschap komen; dit zijn dingen die al een tijdje aan het sijpelen zijn. Het zijn niet alleen dingen die [Amodei] zelf heeft bedacht. Maar het leek erop dat veel mensen er enigszins klaar voor waren om dit te omarmen en in sommige opzichten is het bemoedigend om te zien dat er een consensus bestaat. Maar het maakt mij ook een beetje sceptisch dat dit echte, grote stappen in de richting van een vertraging zou betekenen.
Kirsten Korosec: Allereerst kan consensus een goede zaak zijn. Het kan ook het begin zijn van de vorming van een kartel. En laten we dus duidelijk zijn over wie we het hier hebben. We hebben het over grensverleggende AI-labs. en dat is specifiek en belangrijk.
U zei zojuist dat de details niet echt duidelijk zijn, maar we weten wel dat het algemene idee hier is dat er onafhankelijke externe beoordelaars zouden komen die binnen [bedrijven] als Anthropic of OpenAI zouden werken en AI-veiligheidspraktijken en -incidenten zouden monitoren. Maar daar bestaat veel onduidelijkheid over.
Dan is er nog een voorstel om grote AI-bedrijven in democratische landen te laten coördineren op het gebied van veiligheidsnormen en -limieten. En dan dit internationale coördinatiestuk. Dit zijn dus de algemene ideeën hierover.
Ik zal er ook aan toevoegen dat er sprake is van zeer aanzienlijke weerstand van zeer specifieke mensen. En verrassend genoeg waren er mensen waarvan ik niet dacht dat ze hierop terug zouden komen. De voor de hand liggende zou Nvidia’s CEO Jensen Huang zijn, die een aantal mooie keuzewoorden had. Ik weet niet wat jullie beiden vinden van […] sommige van zijn opmerkingen en het telefoontje dat hij kreeg van president Trump op het podium [tijdens de All-In Summit]
Sean: Ik denk dat Jensen begrijpt dat hij hier tot op zekere hoogte wordt gezien als de volwassene in de kamer. Dat is interessant, want dat is een dynamiek die volgens mij veranderd is. Als je mensen een jaar, bijna twee jaar geleden, zou vragen wie die rol speelde toen deze AI-bedrijven echt op grote schaal begonnen op te blazen, denk ik dat veel mensen naar Microsoft en Satya Nadella zouden hebben verwezen, en ik heb het gevoel dat Microsoft – om een aantal redenen waar we nu niet op hoeven in te gaan – de grip op het zijn van de volwassene in de kamer is kwijtgeraakt. Zeker deels omdat Nadella zei dat hij Google zou laten dansen, en dat is vervolgens nooit gebeurd. en in feite gebeurde het tegenovergestelde, op veel manieren.
Jensen begrijpt, denk ik, niet alleen dat hij het meeste mensen tevreden moet stellen en dus wil hij het meest afgemeten ding zeggen, hij is ook een van de nuttigste liaisons tussen dit veld en deze regering, tot het punt dat hij een telefoontje krijgt van de president terwijl hij op het podium staat van deze zeer goed bezochte en spraakmakende conferentie die hen beiden in staat stelde te reageren op al deze rommel.
Kirsten: [Op] jouw punt dat hij de volwassene in de kamer en de contactpersoon is: hij bevindt zich in een positie waarin hij dat zou kunnen doen. Maar naar mijn mening zou ik zeggen dat [zijn optreden], dat een beetje geënsceneerd aanvoelde, een stap te ver ging en echt benadrukte dat Nvidia er enorm van profiteert als AI zich op een rustige manier voortbeweegt.
Ik haat het om er cynisch over te zijn, maar dat was ongeveer mijn eerste reactie erop.
Anthony: De belangen van Trump en Huang liggen op één lijn, en ook [Huang] vertelt [Trump] wat hij wil horen.
Ik vond wel dat sommige dingen waar hij zich specifiek op concentreerde de moeite waard zijn om even uit te pakken. Eerst sprak hij over het idee: “We zullen geen vertraging ervaren.” Het is interessant, alleen die uitdrukking ‘vertraging’, die veel ter sprake is gekomen – maar tegelijkertijd zullen zowel Altman als Amade de taal van de vertraging gebruiken, maar het woord dat ze graag gebruiken is ‘tempo’. rechts?
En deze drie voorstellen – degene die je zojuist hebt beschreven, Kirsten – kunnen er in theorie toe leiden dat de zaken langzamer gaan, maar dat zeggen ze niet expliciet. Er staat: "Hé, we nemen een aantal basisveiligheidsmaatregelen en laten een paar mensen ons in de gaten houden." Maar geen van deze dingen zegt intrinsiek dat de dingen langzamer moeten gaan dan ze nu zijn, tenminste zoals ik het begrijp.
Kirsten: Dus ik heb een vraag voor Sean. Zou je in een vrijemarktmaatschappij, waar we bestaande regelgeving hebben, en ook [in] de competitieve omgeving waarin geen sprake is van protectionisme, niet kunnen beargumenteren dat als er iets onveiligs door een bedrijf wordt vrijgegeven, het niet langer een levensvatbaar bedrijf zou kunnen zijn? En zijn er tegenwoordig toezichthouders die achter deze bedrijven aan zouden kunnen gaan? Of wijst u dat idee af?
Sean: In een vacuüm, of op een markt die niet wordt verstoord door een hele reeks verschillende externe druk, ja, ik denk dat daar een element in zit. Maar we hebben op dit moment een federale regering die er zeker niet op gebrand lijkt om regelgeving in brede zin af te dwingen, laat staan specifiek hier.
En we bevinden ons ook in deze rare situatie waarin – ik weet niet echt hoe ik het moet zeggen, maar het lijkt erop dat er niet veel consumentenkeuze is die deze markt aanstuurt, in de zin van: oké, als een van deze bedrijven iets heel slecht doet, dan zullen ze een impact zien in het aantal annuleringen of wat dan ook.
Vooral nu ze het bedrijfsleven zijn ingegaan en zoveel meer geld verdienen met de verkoop van hun diensten aan bedrijven, is het natuurlijk moeilijker om daar met je dollars te stemmen. Bedrijven zullen niet inpakken en overstappen van de Codex van [OpenAI] naar de Claude Code van [Anthropic] alleen maar omdat ze het principieel niet eens zijn met iets dat OpenAI deed.
En dan worden ze ook nog eens overspoeld door zoveel investeringsgeld dat het voor hen gemakkelijker wordt om die verliezen op te vangen als ze er daadwerkelijk mee te maken krijgen. Dus ik denk dat het in theorie een leuk idee is, maar ik heb het gevoel dat er in de praktijk niets van dat alles gebeurt.
Apple-podcasts
Luister verder
Spotify
We zien een groot debat over de veiligheid van AI en een mogelijke vertraging, aangezien Dario Amodei, CEO van Anthropic, onlangs een plan publiceerde om ‘de grenzen te verleggen’, terwijl CEO van Nvidia, Jensen Huang, publiekelijk de beweringen van president Donald Trump heeft herhaald dat de AI-reactie bedrog is en dat regulering niet nodig is.
In de laatste aflevering van de Equity-podcast van TechCrunch bespraken Kirsten Korosec, Sean O’Kane en ik of leidinggevenden als Amodei en OpenAI-CEO Sam Altman serieus willen vertragen.
Hoewel ik verrast was hoeveel leiders uit de industrie hun steun leken te geven aan het plan van Amodei, merkte Sean op dat het plan weinig details leek te bevatten.
En toen Kristen vroeg of een combinatie van bestaande regelgeving en de werking van de vrije markt op zichzelf voldoende waarborgen zou kunnen bieden, antwoordde Sean: ‘We hebben op dit moment een federale regering die er zeker niet op gebrand lijkt om regelgeving in brede zin af te dwingen, laat staan specifiek hier te spreken.’
Bovendien, zo betoogde hij, “lijkt het erop dat er niet veel consumentenkeuze is die deze markt aanstuurt, in de zin van: oké, als een van deze bedrijven iets heel slechts doet, dan zullen ze een impact zien in het aantal annuleringen of wat dan ook.”
Blijf lezen voor een voorproefje van ons gesprek, aangepast voor lengte en duidelijkheid.
Anthony Ha: Sean, wat denk jij? Gaan we daadwerkelijk “de grens verleggen”?
Sean O’Kane: Dat klinkt om de een of andere reden als iets uit ‘Point Break’. Het is gewoon een zeer Californische uitspraak, zoals: "We gaan de grens verleggen, bruh."
Ik weet het niet. Ik zei vorige week tijdens deze show dat ik niet dacht dat we op weg waren naar een vertraging van welke aard dan ook, grotendeels omdat ik niet denk dat deze bedrijven zo gestructureerd zijn dat dat werkt.
Dit was dus een vrij directe omkering van wat ik een week geleden zei, om dit te horen van Dario bij Anthropic en Sam bij OpenAI en tot op zekere hoogte zelfs Elon Musk – en we kunnen onderzoeken of we dat geloven of niet. Ik zal zeggen: ik denk niet dat ik het helemaal mis had, want zelfs met deze losse plannen die Dario in een blogpost heeft uiteengezet en waar enkele andere leiders over hebben gesproken, heb ik het gevoel dat we hier nog steeds veel details missen, niet alleen over sommige beweringen over waarom deze mensen denken dat er gevaren en risico's zijn, maar ook details over wat ze bedoelen met vertragen.
Anthony, ik weet dat je dit spul afgelopen weekend vrij goed hebt gelezen, omdat het allemaal opkwam, dus ik ben benieuwd of je misschien genereuzer bent dan ik, voor zover je begrijpt wat ze hier proberen te zeggen.
Anthony: Ik bedoel, ik heb ook vragen. Wat mij echt opviel, is het feit dat zoveel mensen in de branche zich hier vrij snel rond leken te verenigen. Zelfs voordat Amodei zijn blogpost publiceerde, zag ik andere mensen een versie van dit [plan] posten, net in de dagen voorafgaand aan het plan.
Ik heb begrepen dat deze suggesties uit de AI-veiligheidsgemeenschap komen; dit zijn dingen die al een tijdje aan het sijpelen zijn. Het zijn niet alleen dingen die [Amodei] zelf heeft bedacht. Maar het leek erop dat veel mensen er enigszins klaar voor waren om dit te omarmen en in sommige opzichten is het bemoedigend om te zien dat er een consensus bestaat. Maar het maakt mij ook een beetje sceptisch dat dit echte, grote stappen in de richting van een vertraging zou betekenen.
Kirsten Korosec: Allereerst kan consensus een goede zaak zijn. Het kan ook het begin zijn van de vorming van een kartel. En laten we dus duidelijk zijn over wie we het hier hebben. We hebben het over grensverleggende AI-labs. en dat is specifiek en belangrijk.
U zei zojuist dat de details niet echt duidelijk zijn, maar we weten wel dat het algemene idee hier is dat er onafhankelijke externe beoordelaars zouden komen die binnen [bedrijven] als Anthropic of OpenAI zouden werken en AI-veiligheidspraktijken en -incidenten zouden monitoren. Maar daar bestaat veel onduidelijkheid over.
Dan is er nog een voorstel om grote AI-bedrijven in democratische landen te laten coördineren op het gebied van veiligheidsnormen en -limieten. En dan dit internationale coördinatiestuk. Dit zijn dus de algemene ideeën hierover.
Ik zal er ook aan toevoegen dat er sprake is van zeer aanzienlijke weerstand van zeer specifieke mensen. En verrassend genoeg waren er mensen waarvan ik niet dacht dat ze hierop terug zouden komen. De voor de hand liggende zou Nvidia’s CEO Jensen Huang zijn, die een aantal mooie keuzewoorden had. Ik weet niet wat jullie beiden vinden van […] sommige van zijn opmerkingen en het telefoontje dat hij kreeg van president Trump op het podium [tijdens de All-In Summit]
Sean: Ik denk dat Jensen begrijpt dat hij hier tot op zekere hoogte wordt gezien als de volwassene in de kamer. Dat is interessant, want dat is een dynamiek die volgens mij veranderd is. Als je mensen een jaar, bijna twee jaar geleden, zou vragen wie die rol speelde toen deze AI-bedrijven echt op grote schaal begonnen op te blazen, denk ik dat veel mensen naar Microsoft en Satya Nadella zouden hebben verwezen, en ik heb het gevoel dat Microsoft – om een aantal redenen waar we nu niet op hoeven in te gaan – de grip op het zijn van de volwassene in de kamer is kwijtgeraakt. Zeker deels omdat Nadella zei dat hij Google zou laten dansen, en dat is vervolgens nooit gebeurd. en in feite gebeurde het tegenovergestelde, op veel manieren.
Jensen begrijpt, denk ik, niet alleen dat hij het meeste mensen tevreden moet stellen en dus wil hij het meest afgemeten ding zeggen, hij is ook een van de nuttigste liaisons tussen dit veld en deze regering, tot het punt dat hij een telefoontje krijgt van de president terwijl hij op het podium staat van deze zeer goed bezochte en spraakmakende conferentie die hen beiden in staat stelde te reageren op al deze rommel.
Kirsten: [Op] jouw punt dat hij de volwassene in de kamer en de contactpersoon is: hij bevindt zich in een positie waarin hij dat zou kunnen doen. Maar naar mijn mening zou ik zeggen dat [zijn optreden], dat een beetje geënsceneerd aanvoelde, een stap te ver ging en echt benadrukte dat Nvidia er enorm van profiteert als AI zich op een rustige manier voortbeweegt.
Ik haat het om er cynisch over te zijn, maar dat was ongeveer mijn eerste reactie erop.
Anthony: De belangen van Trump en Huang liggen op één lijn, en ook [Huang] vertelt [Trump] wat hij wil horen.
Ik vond wel dat sommige dingen waar hij zich specifiek op concentreerde de moeite waard zijn om even uit te pakken. Eerst sprak hij over het idee: “We zullen geen vertraging ervaren.” Het is interessant, alleen die uitdrukking ‘vertraging’, die veel ter sprake is gekomen – maar tegelijkertijd zullen zowel Altman als Amade de taal van de vertraging gebruiken, maar het woord dat ze graag gebruiken is ‘tempo’. rechts?
En deze drie voorstellen – degene die je zojuist hebt beschreven, Kirsten – kunnen er in theorie toe leiden dat de zaken langzamer gaan, maar dat zeggen ze niet expliciet. Er staat: "Hé, we nemen een aantal basisveiligheidsmaatregelen en laten een paar mensen ons in de gaten houden." Maar geen van deze dingen zegt intrinsiek dat de dingen langzamer moeten gaan dan ze nu zijn, tenminste zoals ik het begrijp.
Kirsten: Dus ik heb een vraag voor Sean. Zou je in een vrijemarktmaatschappij, waar we bestaande regelgeving hebben, en ook [in] de competitieve omgeving waarin geen sprake is van protectionisme, niet kunnen beargumenteren dat als er iets onveiligs door een bedrijf wordt vrijgegeven, het niet langer een levensvatbaar bedrijf zou kunnen zijn? En zijn er tegenwoordig toezichthouders die achter deze bedrijven aan zouden kunnen gaan? Of wijst u dat idee af?
Sean: In een vacuüm, of op een markt die niet wordt verstoord door een hele reeks verschillende externe druk, ja, ik denk dat daar een element in zit. Maar we hebben op dit moment een federale regering die er zeker niet op gebrand lijkt om regelgeving in brede zin af te dwingen, laat staan specifiek hier.
En we bevinden ons ook in deze rare situatie waarin – ik weet niet echt hoe ik het moet zeggen, maar het lijkt erop dat er niet veel consumentenkeuze is die deze markt aanstuurt, in de zin van: oké, als een van deze bedrijven iets heel slecht doet, dan zullen ze een impact zien in het aantal annuleringen of wat dan ook.
Vooral nu ze het bedrijfsleven zijn ingegaan en zoveel meer geld verdienen met de verkoop van hun diensten aan bedrijven, is het natuurlijk moeilijker om daar met je dollars te stemmen. Bedrijven zullen niet inpakken en overstappen van de Codex van [OpenAI] naar de Claude Code van [Anthropic] alleen maar omdat ze het principieel niet eens zijn met iets dat OpenAI deed.
En dan worden ze ook nog eens overspoeld door zoveel investeringsgeld dat het voor hen gemakkelijker wordt om die verliezen op te vangen als ze er daadwerkelijk mee te maken krijgen. Dus ik denk dat het in theorie een leuk idee is, maar ik heb het gevoel dat er in de praktijk niets van dat alles gebeurt.