Default
Door Remote - 04 May 2026
Wanneer nemen we AI-doomers serieus?
Dat is een belangrijke subtekst van de poging van Elon Musk om de winstgevende AI-activiteiten van OpenAI stop te zetten. Zijn advocaten beweren dat de organisatie is opgezet als een liefdadigheidsinstelling die zich richt op AI-veiligheid, en de weg is kwijtgeraakt in het nastreven van winst. Om dat te bewijzen halen ze oude e-mails en verklaringen van de oprichters van de organisatie aan over de noodzaak van een publieksgericht tegenwicht voor Google DeepMind.
Vandaag hebben ze de enige getuige-deskundige gebeld die rechtstreeks met AI-technologie heeft gesproken: Stuart Russell, een hoogleraar informatica aan de University of California, Berkeley die al tientallen jaren AI bestudeert. Het was zijn taak om achtergrondinformatie over AI te geven en vast te stellen dat deze technologie gevaarlijk genoeg is om je zorgen over te maken.
Russell was in maart 2023 medeondertekenaar van een open brief waarin hij opriep tot een pauze van zes maanden in het AI-onderzoek. Als teken van de tegenstrijdigheden hier ondertekende Musk ook dezelfde brief, zelfs toen hij xAI lanceerde, zijn eigen AI-laboratorium met winstoogmerk.
Russell vertelde de juryleden en rechter Yvonne Gonzalez Rodgers dat er een verscheidenheid aan risico's verbonden waren aan de ontwikkeling van AI, variërend van bedreigingen voor de cyberveiligheid tot problemen met verkeerde afstemming en het feit dat de winnaar alles neemt bij de ontwikkeling van kunstmatige algemene intelligentie (AGI). Uiteindelijk zei hij dat er een spanning bestond tussen het nastreven van AGI en veiligheid.
Russells grotere zorgen over de existentiële bedreigingen van onbeperkte AI werden niet ter openbare terechtzitting geuit nadat bezwaren van de advocaten van OpenAI de rechter ertoe brachten Russells getuigenis te beperken. Maar Russell is al lange tijd een criticus van de wapenwedloopdynamiek die wordt gecreëerd door grenslaboratoria over de hele wereld die strijden om AGI als eerste te bereiken, en riep regeringen op om het veld strenger te reguleren.
De advocaten van OpenAI hebben tijdens hun kruisverhoor vastgesteld dat Russell de bedrijfsstructuur of het specifieke veiligheidsbeleid van de organisatie niet rechtstreeks evalueerde.
Techcrunch-evenement
Ontmoet uw volgende investeerder of portfolio-startup bij Disrupt
Jouw volgende ronde. Uw volgende aanwerving. Uw volgende uitbraakmogelijkheid. Je vindt het op TechCrunch Disrupt 2026, waar meer dan 10.000 oprichters, investeerders en technologieleiders samenkomen voor drie dagen vol 250+ tactische sessies, krachtige introducties en marktbepalende innovatie. Registreer nu en bespaar tot $ 410.
Ontmoet uw volgende investeerder of portfolio-startup bij Disrupt
Jouw volgende ronde. Uw volgende aanwerving. Uw volgende uitbraakmogelijkheid. Je vindt het op TechCrunch Disrupt 2026, waar meer dan 10.000 oprichters, investeerders en technologieleiders samenkomen voor drie dagen vol 250+ tactische sessies, krachtige introducties en marktbepalende innovatie. Registreer nu en bespaar tot $ 410.
San Francisco, CA
|
13-15 oktober 2026
REGISTREER NU
Maar deze verslaggever (evenals de rechter en de juryleden) zal afwegen hoeveel waarde hij moet hechten aan de relatie tussen hebzucht van bedrijven en zorgen over de veiligheid van AI. Vrijwel alle oprichters van OpenAI hebben krachtig gewaarschuwd voor de risico’s van AI, terwijl ze ook de voordelen benadrukten, probeerden AI zo snel mogelijk te bouwen – en plannen uitbroeden voor op AI gerichte bedrijven met winstoogmerk die zij zouden controleren.
Van buitenaf is een duidelijk probleem hier het groeiende besef binnen OpenAI na de oprichting ervan dat de organisatie simpelweg meer computeruitgaven nodig had om te kunnen slagen. Dat geld kan alleen afkomstig zijn van investeerders met winstoogmerk. De angst van het oprichtende team dat AGI in de handen van één enkele organisatie zou vallen, dwong hen om het kapitaal te zoeken dat uiteindelijk het team uit elkaar scheurde, waardoor de wapenwedloop ontstond die we vandaag de dag kennen – en ons naar deze rechtszaak bracht.
Dezelfde dynamiek speelt zich al af op nationaal niveau: het streven van senator Bernie Sanders naar een wet die een moratorium op de bouw van datacenters oplegt, citeert de angst voor AI die werd verwoord door Musk, Sam Altman, Geoffrey Hinton en anderen. Hoden Omar, die bij de handelsorganisatie Center for Data Innovation werkt, maakte er bezwaar tegen dat Sanders hun angsten aanhaalde zonder hun hoop te koesteren. Hij zei tegen TechCrunch dat “het onduidelijk is waarom het publiek alles wat tech-miljardairs zeggen buiten beschouwing zou moeten laten, behalve wanneer hun woorden kunnen worden gerekruteerd om gaten in een precair argument op te vullen.”
Nu vragen beide kanten van de zaak de rechtbank om precies dat te doen: een deel van de argumenten van Altman en Musk serieus nemen, maar de delen buiten beschouwing laten die minder nuttig zijn voor hun juridische argumentatie.
Correctie: het artikel is bijgewerkt om de naam van een Stuart Russell, hoogleraar informatica aan de University of California, Berkeley, te corrigeren.
Dat is een belangrijke subtekst van de poging van Elon Musk om de winstgevende AI-activiteiten van OpenAI stop te zetten. Zijn advocaten beweren dat de organisatie is opgezet als een liefdadigheidsinstelling die zich richt op AI-veiligheid, en de weg is kwijtgeraakt in het nastreven van winst. Om dat te bewijzen halen ze oude e-mails en verklaringen van de oprichters van de organisatie aan over de noodzaak van een publieksgericht tegenwicht voor Google DeepMind.
Vandaag hebben ze de enige getuige-deskundige gebeld die rechtstreeks met AI-technologie heeft gesproken: Stuart Russell, een hoogleraar informatica aan de University of California, Berkeley die al tientallen jaren AI bestudeert. Het was zijn taak om achtergrondinformatie over AI te geven en vast te stellen dat deze technologie gevaarlijk genoeg is om je zorgen over te maken.
Russell was in maart 2023 medeondertekenaar van een open brief waarin hij opriep tot een pauze van zes maanden in het AI-onderzoek. Als teken van de tegenstrijdigheden hier ondertekende Musk ook dezelfde brief, zelfs toen hij xAI lanceerde, zijn eigen AI-laboratorium met winstoogmerk.
Russell vertelde de juryleden en rechter Yvonne Gonzalez Rodgers dat er een verscheidenheid aan risico's verbonden waren aan de ontwikkeling van AI, variërend van bedreigingen voor de cyberveiligheid tot problemen met verkeerde afstemming en het feit dat de winnaar alles neemt bij de ontwikkeling van kunstmatige algemene intelligentie (AGI). Uiteindelijk zei hij dat er een spanning bestond tussen het nastreven van AGI en veiligheid.
Russells grotere zorgen over de existentiële bedreigingen van onbeperkte AI werden niet ter openbare terechtzitting geuit nadat bezwaren van de advocaten van OpenAI de rechter ertoe brachten Russells getuigenis te beperken. Maar Russell is al lange tijd een criticus van de wapenwedloopdynamiek die wordt gecreëerd door grenslaboratoria over de hele wereld die strijden om AGI als eerste te bereiken, en riep regeringen op om het veld strenger te reguleren.
De advocaten van OpenAI hebben tijdens hun kruisverhoor vastgesteld dat Russell de bedrijfsstructuur of het specifieke veiligheidsbeleid van de organisatie niet rechtstreeks evalueerde.
Techcrunch-evenement
Ontmoet uw volgende investeerder of portfolio-startup bij Disrupt
Jouw volgende ronde. Uw volgende aanwerving. Uw volgende uitbraakmogelijkheid. Je vindt het op TechCrunch Disrupt 2026, waar meer dan 10.000 oprichters, investeerders en technologieleiders samenkomen voor drie dagen vol 250+ tactische sessies, krachtige introducties en marktbepalende innovatie. Registreer nu en bespaar tot $ 410.
Ontmoet uw volgende investeerder of portfolio-startup bij Disrupt
Jouw volgende ronde. Uw volgende aanwerving. Uw volgende uitbraakmogelijkheid. Je vindt het op TechCrunch Disrupt 2026, waar meer dan 10.000 oprichters, investeerders en technologieleiders samenkomen voor drie dagen vol 250+ tactische sessies, krachtige introducties en marktbepalende innovatie. Registreer nu en bespaar tot $ 410.
San Francisco, CA
|
13-15 oktober 2026
REGISTREER NU
Maar deze verslaggever (evenals de rechter en de juryleden) zal afwegen hoeveel waarde hij moet hechten aan de relatie tussen hebzucht van bedrijven en zorgen over de veiligheid van AI. Vrijwel alle oprichters van OpenAI hebben krachtig gewaarschuwd voor de risico’s van AI, terwijl ze ook de voordelen benadrukten, probeerden AI zo snel mogelijk te bouwen – en plannen uitbroeden voor op AI gerichte bedrijven met winstoogmerk die zij zouden controleren.
Van buitenaf is een duidelijk probleem hier het groeiende besef binnen OpenAI na de oprichting ervan dat de organisatie simpelweg meer computeruitgaven nodig had om te kunnen slagen. Dat geld kan alleen afkomstig zijn van investeerders met winstoogmerk. De angst van het oprichtende team dat AGI in de handen van één enkele organisatie zou vallen, dwong hen om het kapitaal te zoeken dat uiteindelijk het team uit elkaar scheurde, waardoor de wapenwedloop ontstond die we vandaag de dag kennen – en ons naar deze rechtszaak bracht.
Dezelfde dynamiek speelt zich al af op nationaal niveau: het streven van senator Bernie Sanders naar een wet die een moratorium op de bouw van datacenters oplegt, citeert de angst voor AI die werd verwoord door Musk, Sam Altman, Geoffrey Hinton en anderen. Hoden Omar, die bij de handelsorganisatie Center for Data Innovation werkt, maakte er bezwaar tegen dat Sanders hun angsten aanhaalde zonder hun hoop te koesteren. Hij zei tegen TechCrunch dat “het onduidelijk is waarom het publiek alles wat tech-miljardairs zeggen buiten beschouwing zou moeten laten, behalve wanneer hun woorden kunnen worden gerekruteerd om gaten in een precair argument op te vullen.”
Nu vragen beide kanten van de zaak de rechtbank om precies dat te doen: een deel van de argumenten van Altman en Musk serieus nemen, maar de delen buiten beschouwing laten die minder nuttig zijn voor hun juridische argumentatie.
Correctie: het artikel is bijgewerkt om de naam van een Stuart Russell, hoogleraar informatica aan de University of California, Berkeley, te corrigeren.