Default
Door Remote - 12 Aug 2026
Terwijl projecten als Pacing the Frontier naar grote laboratoria kijken als een manier om AI-onderzoek veilig te houden, zijn open source-modellen een pijnpunt geworden voor de industrie. Omdat ze gratis worden verspreid en er weinig controle is over hoe ze worden gebruikt, zijn modellen met een open gewicht niet gemakkelijk te controleren, waardoor sommige laboratoria ze als ronduit eng beschouwen.
Maar op de Ai4-conferentie in Las Vegas vorige week spraken drie van ‘s werelds meest gerespecteerde AI-onderzoekers – Nobelprijswinnaar Geoffrey Hinton, CEO en mede-oprichter van World Labs Fei-Fei Li, en Coursera-medeoprichter Andrew Ng – zich uit over de kwestie. En hoewel ze het niet eens waren over bepaalde tactieken, pleitten ze alle drie voor het openhouden van AI.
Voor de drie sprekers was de voornaamste zorg dat een handvol grote AI-bedrijven het tempo van de vooruitgang zouden kunnen beheersen. Wanneer een paar bedrijven de toegang tot een technologie controleren, zoals Apple en Google doen met mobiele besturingssystemen, kan de innovatie vertragen en kunnen de bedrijven die de platforms controleren, beïnvloeden wat erop wordt gebouwd.
Andrew Ng zei dat hij zich zorgen maakte over een soortgelijke dynamiek die opkomt in AI. ‘Ik wil niet dat er poortwachters zijn’, zei Ng. “Dat beperkt de manier waarop we allemaal toegang hebben tot AI.”
Bedrijven hebben een prikkel om hun concurrentievoordelen te beschermen, onder meer door invloed uit te oefenen op de regels die in de sector gelden. Dat zou een dynamiek kunnen creëren waarin alleen de grootste, best gekapitaliseerde bedrijven over de middelen beschikken om de meest geavanceerde AI-systemen te bouwen.
De oplossing van Ng was om meerdere aanbieders in stand te houden, waarbij modellen en bedrijven met elkaar concurreren, in plaats van een handvol spelers het veld te laten domineren. “Als ik zou proberen één recept voor te schrijven, zou het zijn om openheid te bevorderen”, zei Ng, “omdat AI een verbazingwekkende technologie is en ik wil dat iedereen deze in handen heeft.”
Maar niet iedereen was het erover eens dat modellen met een open gewicht deze stand van zaken zouden helpen behouden. Hinton maakte vooral een onderscheid tussen open source-software, die de onderliggende code beschikbaar maakt voor inspectie en aanpassing, en open-weight-modellen, die de parameters van een getraind AI-model aan het publiek vrijgeven.
"Open source is geweldig. Je laat mensen de code zien, en veel mensen kijken naar de coderegels en zeggen: 'Oh, er zit een bug in.' Open gewichten betekent dat je een groot model traint en dan mensen de gewichten geeft. Dat is heel anders, "zei Hinton. “Ik was tegen open [gewichten] omdat het het voor mensen zo gemakkelijk maakt om deze grote basismodellen, die erg duur zijn om te trainen, te gebruiken en ze voor veel minder geld te trainen in slechte dingen zoals cyberaanvallen.”
Maar wat zijn bedenkingen ook waren, Hinton erkende dat open-weight-modellen al een vast onderdeel van AI zijn. "Ik denk dat die strijd verloren is. We hebben nu modellen met open gewicht, dus de barrière voor veel mensen om deze grote modellen te krijgen, wat de kosten waren voor het trainen van basismodellen, die barrière is verdwenen. Het is te laat."
Toch betekende het accepteren van de realiteit niet dat we de risico’s negeerden. Hintons standpunt was duidelijk: AI zou vooruitgang blijven boeken, en hij vond dat grotendeels een goede zaak. Hij zei dat het de productiviteit zou verhogen en het onderwijs en de gezondheidszorg zou verbeteren. "Bezorgd over de mogelijke slechte effecten van AI en de dingen die intelligente wezens zouden kunnen doen als ze slimmer zijn dan wij. Ik denk niet dat dat oneerlijk is. Ik denk dat het oneerlijk is om iedereen die zo denkt te bestempelen als een angstzaaier", voegde Hinton eraan toe.
Ng had een ander standpunt. De vraag, zo betoogde hij, was niet of open modellen riskant waren, maar wie de toegang controleerde en wie de markt zou veroveren. Degene die het goedkopere model bouwde, zou het voordeel hebben. Als de open-weight-modellen van China wijdverspreid zouden worden geaccepteerd in Azië, Afrika en/of de ontwikkelingslanden, zo waarschuwde hij, zouden ze van invloed kunnen zijn op de manier waarop miljarden mensen in aanraking komen met ideeën over democratie, vrijheid en mensenrechten.
"Eén ding dat ik hoop dat we doen is het Amerikaanse concurrentievermogen en open source AI aanmoedigen. Het blijkt dat AI een enorme bron van zachte macht is. Je kunt bijvoorbeeld zien hoe het Chinese model enorme prestaties levert in Afrika", zei Ng. “Maar mijn zorg is vanwege al het lobbywerk in de VS en de angstzaaierij dat het bouwen van open source AI in Amerika moeite heeft om te concurreren met open-weight-modellen die uit China komen, en mijn zorg is dat als China een fundamenteel kostenefficiëntere manier bedenkt om AI te bouwen, dingen die kostenefficiënter zijn een fundamenteel voordeel hebben bij de acceptatie door bedrijven.”
Li duwde terug op dat kader. “Het is heel gevaarlijk om er een dichotomie van te maken tussen volledige openheid en volledige geslotenheid”, zei ze. “Bij zowel complexe softwaresystemen als wetenschappelijke systemen ligt het veel genuanceerder.”
Li gebruikte kernfysica als voorbeeld: wetenschappelijke artikelen worden openlijk gepubliceerd, maar uranium is gereguleerd, terwijl laboratoriumwerk daar ergens tussenin valt. De les, legde ze uit, was dat openheid geen alles-of-niets-keuze hoeft te zijn. Verschillende lagen van het ecosysteem kunnen op verschillende niveaus van openheid opereren.
Ze benadrukte ook samenwerkingen tussen publieke en private instellingen, zoals het Human Genome Project. De resulterende kennis werd een platform waarop anderen konden voortbouwen, zei ze, waardoor farmaceutische bedrijven konden profiteren, wetenschappers hun werk konden bevorderen en de samenleving ervan kon profiteren.
“Dus ik denk dat we [AI] als dat soort infrastructuur moeten gebruiken”, zei Li. "We hebben een zekere mate van openheid nodig, zowel op het gebied van wetenschappelijke ontdekkingen, in het onderwijs, in mondiaal partnerschap, als lucratieve bedrijfsmodellen voor ondernemers. Maar we zullen ook gesloten-bronsystemen accepteren. Dit debat, vooral op het verregaande niveau van 'we kunnen er maar één tolereren', is een vals debat. We moeten tot een niveau van nuance komen."
Maar iedereen was het erover eens dat een bepaald niveau van regulering nodig zou zijn om AI op het goede spoor te houden. “Wat we willen doen is AI ontwikkelen in een richting die mensen helpt, en regelgeving zal ons daarbij helpen”, aldus Hinton. “Je kunt het niet aan mensen als Elon Musk en Mark Zuckerberg overlaten om te beslissen hoe AI moet worden uitgevoerd.”
Maar op de Ai4-conferentie in Las Vegas vorige week spraken drie van ‘s werelds meest gerespecteerde AI-onderzoekers – Nobelprijswinnaar Geoffrey Hinton, CEO en mede-oprichter van World Labs Fei-Fei Li, en Coursera-medeoprichter Andrew Ng – zich uit over de kwestie. En hoewel ze het niet eens waren over bepaalde tactieken, pleitten ze alle drie voor het openhouden van AI.
Voor de drie sprekers was de voornaamste zorg dat een handvol grote AI-bedrijven het tempo van de vooruitgang zouden kunnen beheersen. Wanneer een paar bedrijven de toegang tot een technologie controleren, zoals Apple en Google doen met mobiele besturingssystemen, kan de innovatie vertragen en kunnen de bedrijven die de platforms controleren, beïnvloeden wat erop wordt gebouwd.
Andrew Ng zei dat hij zich zorgen maakte over een soortgelijke dynamiek die opkomt in AI. ‘Ik wil niet dat er poortwachters zijn’, zei Ng. “Dat beperkt de manier waarop we allemaal toegang hebben tot AI.”
Bedrijven hebben een prikkel om hun concurrentievoordelen te beschermen, onder meer door invloed uit te oefenen op de regels die in de sector gelden. Dat zou een dynamiek kunnen creëren waarin alleen de grootste, best gekapitaliseerde bedrijven over de middelen beschikken om de meest geavanceerde AI-systemen te bouwen.
De oplossing van Ng was om meerdere aanbieders in stand te houden, waarbij modellen en bedrijven met elkaar concurreren, in plaats van een handvol spelers het veld te laten domineren. “Als ik zou proberen één recept voor te schrijven, zou het zijn om openheid te bevorderen”, zei Ng, “omdat AI een verbazingwekkende technologie is en ik wil dat iedereen deze in handen heeft.”
Maar niet iedereen was het erover eens dat modellen met een open gewicht deze stand van zaken zouden helpen behouden. Hinton maakte vooral een onderscheid tussen open source-software, die de onderliggende code beschikbaar maakt voor inspectie en aanpassing, en open-weight-modellen, die de parameters van een getraind AI-model aan het publiek vrijgeven.
"Open source is geweldig. Je laat mensen de code zien, en veel mensen kijken naar de coderegels en zeggen: 'Oh, er zit een bug in.' Open gewichten betekent dat je een groot model traint en dan mensen de gewichten geeft. Dat is heel anders, "zei Hinton. “Ik was tegen open [gewichten] omdat het het voor mensen zo gemakkelijk maakt om deze grote basismodellen, die erg duur zijn om te trainen, te gebruiken en ze voor veel minder geld te trainen in slechte dingen zoals cyberaanvallen.”
Maar wat zijn bedenkingen ook waren, Hinton erkende dat open-weight-modellen al een vast onderdeel van AI zijn. "Ik denk dat die strijd verloren is. We hebben nu modellen met open gewicht, dus de barrière voor veel mensen om deze grote modellen te krijgen, wat de kosten waren voor het trainen van basismodellen, die barrière is verdwenen. Het is te laat."
Toch betekende het accepteren van de realiteit niet dat we de risico’s negeerden. Hintons standpunt was duidelijk: AI zou vooruitgang blijven boeken, en hij vond dat grotendeels een goede zaak. Hij zei dat het de productiviteit zou verhogen en het onderwijs en de gezondheidszorg zou verbeteren. "Bezorgd over de mogelijke slechte effecten van AI en de dingen die intelligente wezens zouden kunnen doen als ze slimmer zijn dan wij. Ik denk niet dat dat oneerlijk is. Ik denk dat het oneerlijk is om iedereen die zo denkt te bestempelen als een angstzaaier", voegde Hinton eraan toe.
Ng had een ander standpunt. De vraag, zo betoogde hij, was niet of open modellen riskant waren, maar wie de toegang controleerde en wie de markt zou veroveren. Degene die het goedkopere model bouwde, zou het voordeel hebben. Als de open-weight-modellen van China wijdverspreid zouden worden geaccepteerd in Azië, Afrika en/of de ontwikkelingslanden, zo waarschuwde hij, zouden ze van invloed kunnen zijn op de manier waarop miljarden mensen in aanraking komen met ideeën over democratie, vrijheid en mensenrechten.
"Eén ding dat ik hoop dat we doen is het Amerikaanse concurrentievermogen en open source AI aanmoedigen. Het blijkt dat AI een enorme bron van zachte macht is. Je kunt bijvoorbeeld zien hoe het Chinese model enorme prestaties levert in Afrika", zei Ng. “Maar mijn zorg is vanwege al het lobbywerk in de VS en de angstzaaierij dat het bouwen van open source AI in Amerika moeite heeft om te concurreren met open-weight-modellen die uit China komen, en mijn zorg is dat als China een fundamenteel kostenefficiëntere manier bedenkt om AI te bouwen, dingen die kostenefficiënter zijn een fundamenteel voordeel hebben bij de acceptatie door bedrijven.”
Li duwde terug op dat kader. “Het is heel gevaarlijk om er een dichotomie van te maken tussen volledige openheid en volledige geslotenheid”, zei ze. “Bij zowel complexe softwaresystemen als wetenschappelijke systemen ligt het veel genuanceerder.”
Li gebruikte kernfysica als voorbeeld: wetenschappelijke artikelen worden openlijk gepubliceerd, maar uranium is gereguleerd, terwijl laboratoriumwerk daar ergens tussenin valt. De les, legde ze uit, was dat openheid geen alles-of-niets-keuze hoeft te zijn. Verschillende lagen van het ecosysteem kunnen op verschillende niveaus van openheid opereren.
Ze benadrukte ook samenwerkingen tussen publieke en private instellingen, zoals het Human Genome Project. De resulterende kennis werd een platform waarop anderen konden voortbouwen, zei ze, waardoor farmaceutische bedrijven konden profiteren, wetenschappers hun werk konden bevorderen en de samenleving ervan kon profiteren.
“Dus ik denk dat we [AI] als dat soort infrastructuur moeten gebruiken”, zei Li. "We hebben een zekere mate van openheid nodig, zowel op het gebied van wetenschappelijke ontdekkingen, in het onderwijs, in mondiaal partnerschap, als lucratieve bedrijfsmodellen voor ondernemers. Maar we zullen ook gesloten-bronsystemen accepteren. Dit debat, vooral op het verregaande niveau van 'we kunnen er maar één tolereren', is een vals debat. We moeten tot een niveau van nuance komen."
Maar iedereen was het erover eens dat een bepaald niveau van regulering nodig zou zijn om AI op het goede spoor te houden. “Wat we willen doen is AI ontwikkelen in een richting die mensen helpt, en regelgeving zal ons daarbij helpen”, aldus Hinton. “Je kunt het niet aan mensen als Elon Musk en Mark Zuckerberg overlaten om te beslissen hoe AI moet worden uitgevoerd.”