Default
Door Remote - 10 Aug 2026
Maandag publiceerde Mark Zuckerberg een manifest van 6.500 woorden over persoonlijke AI, grotendeels over de mogelijkheden voor de ‘persoonlijke superintelligentie’-systemen die Meta AI aan het bouwen is. De ideeën in de post zijn niet helemaal nieuw. Een versie van het essay verscheen twee weken geleden in de Wall Street Journal, en hij heeft er eerder over gesproken tijdens Meta-inkomstenoproepen. Maar dit is waarschijnlijk de meest gedetailleerde versie die hij heeft gedeeld.
Ik heb het gezien als een anti-doomer-essay, maar dat klopt niet helemaal. Het is meer een beschrijving van waarom Mark Zuckerberg persoonlijk enthousiast is over de manieren waarop AI de samenleving gaat veranderen. Maar zelfs terwijl Zuckerberg een beeld probeert te schetsen van de prachtige toekomst die overvloedige superintelligentie met zich mee zal brengen, blijft hij ons herinneren aan alle manieren waarop het waarschijnlijk fout zal gaan.
Ik vind AI ook spannend – daarom blijf ik erover schrijven – maar een groot deel van het publiek beschouwt AI als griezelig en onaangenaam. Het is dus de moeite waard om precies vast te stellen wat hier gebeurt, en waarom Zuckerberg de industrie geen plezier doet met dit soort essays.
Sociale media zijn nog steeds een gevoelig onderwerp in de technologie-industrie, en we hebben hier niet de ruimte om te procederen over de relatieve gegrondheid van elke klacht die mensen over Facebook hebben. Het volstaat te zeggen dat Facebook als product en Zuckerberg als persoon beide niet populair zijn bij het Amerikaanse publiek. Uit een recent onderzoek is gebleken dat 64% van de Amerikanen gelooft dat sociale media schadelijk zijn geweest voor de democratie, en een vergelijkbaar percentage vindt dat sociale media strenger gereguleerd moeten worden, cijfers die de partijgrenzen overschrijden. Dit weekend nog heeft een rechtbank het bedrijf een boete opgelegd van $567 miljoen omdat het schadelijk is voor kinderen. De sfeer is slecht.
Ik breng dit niet ter sprake om te impliceren dat Zuckerberg zich beschaamd moet terugtrekken in de wildernis – maar de gevolgen van sociale media zijn een van de belangrijkste redenen waarom we nu zoveel zorgen zien over de sociale impact van AI. Of het nu eerlijk is of niet, het publiek vertrouwt er niet op dat technologiemanagers ervoor zorgen dat dit soort nieuwe technologieën een positieve impact hebben op de samenleving. In plaats van dat te erkennen en te proberen hun vertrouwen terug te winnen, laat dit essay keer op keer zien hoe het vertrouwen überhaupt verloren is gegaan.
Een groot deel van het essay is gewijd aan vage algemeenheden over intelligentie – die sterk lijken op de vage algemeenheden die Zuckerberg en Dorsey altijd gaven over de vrijheid van meningsuiting. Hier is er bijvoorbeeld één:
Naarmate iedereen krachtigere hulpmiddelen krijgt, zal iedereen beter in staat zijn de toekomst vorm te geven, en niet minder. … Mensen en instellingen met concurrerende belangen controleren en balanceren elkaar van nature om tot positieve resultaten te leiden. De beste en meest realistische weg naar het opbouwen van een positieve AI-toekomst is door iedereen superintelligentie te bieden.
Volgens mij wel? Ik kan een paar voorbeelden bedenken van tegenstrijdige belangen die tot slechte resultaten leiden, maar laten we dat terzijde schuiven. Het vreemdere is dat dit wordt gepresenteerd als een serieuze filosofische conclusie, in plaats van een specifiek product genaamd ‘persoonlijke intelligentie’ dat Meta op de markt brengt. Als je al geneigd bent deze persoon te wantrouwen, maak je je misschien zorgen dat hij dit allemaal schrijft om zichzelf ervan te overtuigen dat er niets ergs kan gebeuren.
Dat gevoel werd voor mij nog intenser toen Zuckerberg bij de specifieke voorbeelden kwam, waarvan er vele alarmerend geen voeling hebben met de realiteit van hoe AI-tools worden gebruikt. Dit is bijvoorbeeld Zuckerbergs kijk op AI in het onderwijs:
Iedereen heeft een persoonlijke docent en coach met een doctoraat in elk onderwerp en een onbeperkt geduld om je te helpen alles te leren wat je wilt. Studenten krijgen extra hulp op gebieden waar ze die nodig hebben, die momenteel alleen beschikbaar is voor degenen wier ouders kunnen betalen. Volwassenen zullen een superintelligente leerassistent hebben die precies weet hoe hij u nieuwe beroepsvaardigheden, nieuwe talen, nieuwe hobby's of iets anders waarin u geïnteresseerd bent, moet leren.
Natuurlijk bestaat het product dat Zuckerberg beschrijft al: dit is een consumentenchatbot zoals ChatGPT, Claude en Gemini. Deze tools zijn echt handig als je meer wilt weten over een bepaald onderwerp, maar de belangrijkste manier waarop ze in het onderwijs worden gebruikt is om leren te vermijden, omdat je persoonlijke docent je huiswerk kan maken en het toegewezen essay kan schrijven. En omdat er geen robuust watermerksysteem is, kunnen docenten op geen enkele manier zeker weten welke essays met AI zijn gegenereerd.
Dit is een vrij laagdrempelig voorbeeld van schade door AI, maar het is echt iets dat momenteel gebeurt. Soms ontwerp je een technologie om goede dingen te doen en heeft dit onbedoelde gevolgen die de zaken nog erger maken. En het feit dat een van de machtigste mensen ter wereld dit weigert te erkennen, kan mensen begrijpelijkerwijs nerveus maken!
Zuckerberg geeft ook een voorbeeld van hoe AI het rechtssysteem ten goede zal veranderen:
Stel je bij wijze van gedachte-experiment voor dat slechts één persoon een superintelligente advocaat heeft. Ze zouden in de rechtszaal een oneerlijk voordeel hebben – zelfs als ze inhoudelijk ongelijk hadden. Dat zou leiden tot een slechtere samenleving. Maar stel je nu voor dat iedereen een superintelligente advocaat heeft. In dit geval zou de rechtspraak veel eerlijker en efficiënter worden uitgevoerd dan nu het geval is, wanneer er bij rechtszaken vaak sprake is van een onevenwicht in vaardigheden en middelen.
Nogmaals, dat is een geladen voorbeeld. Natuurlijk kan toegang tot legale AI leiden tot een rechtvaardiger samenleving, maar het kan ook meer complexiteit toevoegen aan het bureaucratische hellandschap dat al bestaat. Of het kan een nieuwe golf van lastige procederende partijen ontketenen die de zaken alleen maar verstoppen met het juridische equivalent van spam. Het is moeilijk om kalm te blijven over dit soort dingen, en het feit dat Zuckerberg zich geen zorgen maakt, maakt mij nog meer zorgen.
Op andere plaatsen beginnen zelfs beschrijvingen van Meta’s bestaande zakelijke praktijken een vreemd abstract karakter aan te nemen. Dit is bijvoorbeeld hoe Zuckerberg Meta’s toewijding aan een freemium-model beschrijft:
Iedereen zal gratis of betaalbare toegang hebben tot deze tools. … We zullen gratis versies aanbieden die voor miljarden mensen toegankelijk zullen zijn. Voor degenen die willen betalen om meer rekenkracht te gebruiken, zal er een dynamisch veilingmechanisme zijn dat garandeert dat iedereen de laagst mogelijke prijs krijgt voor de intelligentie en rekenkracht die ze gebruiken, terwijl er ook voor wordt gezorgd dat de capaciteit wordt gebruikt voor datgene wat mensen gezamenlijk het meest waardevol vinden. Dit zal ervoor zorgen dat de voordelen van superintelligentie breed worden verspreid.
In grote lijnen ben ik het eens met alles wat hij hier zegt. Zuckerberg heeft gelijk als hij zegt dat toegang een probleem is, en hij heeft gelijk als hij zegt dat een freemium-model meer toegang mogelijk maakt dan dat iedereen vooraf voor rekenkracht moet betalen. Er bestaan al dynamische markten voor spotcompute, dus het is niet alsof hij zich iets voorstelt dat volledig buiten de norm valt. Maar er is een reden waarom elk AI-consumentenproduct eindgebruikers isoleert van de spotprijs van de computer die ze gebruiken. Surge pricing is een vreselijke gebruikerservaring, vooral als het wordt ingezet op een tool waarop u daadwerkelijk vertrouwt voor uw werk.
Nogmaals, ik moet aannemen dat Zuckerberg dit weet, en dat hij niet echt van plan is symbolische prijzen vast te stellen via dynamische veilingen. Maar eigenlijk ben ik daar nu minder zeker van dan voordat ik dit stuk las.
Er zijn betere manieren om over dit soort dingen te praten. Ondanks al hun fouten doen Sam Altman en Dario Amodei het behoorlijk goed als ze rechtstreeks met het publiek communiceren. Ze doen precies waar Zuckerberg zich hier tegen verzet: de gevaren van AI erkennen, hun eigen voorzorgsmaatregelen benadrukken en luisteraars ervan proberen te overtuigen dat ze te vertrouwen zijn.
Die communicatie kan maar zoveel doen. Soms (vooral recentelijk) falen de beveiligingen en wordt het inherente gevaar van de hele onderneming duidelijk gemaakt. Maar zonder enige vorm van vertrouwen zal de sector deze mislukkingen wellicht niet altijd kunnen overleven.
Ik heb het gezien als een anti-doomer-essay, maar dat klopt niet helemaal. Het is meer een beschrijving van waarom Mark Zuckerberg persoonlijk enthousiast is over de manieren waarop AI de samenleving gaat veranderen. Maar zelfs terwijl Zuckerberg een beeld probeert te schetsen van de prachtige toekomst die overvloedige superintelligentie met zich mee zal brengen, blijft hij ons herinneren aan alle manieren waarop het waarschijnlijk fout zal gaan.
Ik vind AI ook spannend – daarom blijf ik erover schrijven – maar een groot deel van het publiek beschouwt AI als griezelig en onaangenaam. Het is dus de moeite waard om precies vast te stellen wat hier gebeurt, en waarom Zuckerberg de industrie geen plezier doet met dit soort essays.
Sociale media zijn nog steeds een gevoelig onderwerp in de technologie-industrie, en we hebben hier niet de ruimte om te procederen over de relatieve gegrondheid van elke klacht die mensen over Facebook hebben. Het volstaat te zeggen dat Facebook als product en Zuckerberg als persoon beide niet populair zijn bij het Amerikaanse publiek. Uit een recent onderzoek is gebleken dat 64% van de Amerikanen gelooft dat sociale media schadelijk zijn geweest voor de democratie, en een vergelijkbaar percentage vindt dat sociale media strenger gereguleerd moeten worden, cijfers die de partijgrenzen overschrijden. Dit weekend nog heeft een rechtbank het bedrijf een boete opgelegd van $567 miljoen omdat het schadelijk is voor kinderen. De sfeer is slecht.
Ik breng dit niet ter sprake om te impliceren dat Zuckerberg zich beschaamd moet terugtrekken in de wildernis – maar de gevolgen van sociale media zijn een van de belangrijkste redenen waarom we nu zoveel zorgen zien over de sociale impact van AI. Of het nu eerlijk is of niet, het publiek vertrouwt er niet op dat technologiemanagers ervoor zorgen dat dit soort nieuwe technologieën een positieve impact hebben op de samenleving. In plaats van dat te erkennen en te proberen hun vertrouwen terug te winnen, laat dit essay keer op keer zien hoe het vertrouwen überhaupt verloren is gegaan.
Een groot deel van het essay is gewijd aan vage algemeenheden over intelligentie – die sterk lijken op de vage algemeenheden die Zuckerberg en Dorsey altijd gaven over de vrijheid van meningsuiting. Hier is er bijvoorbeeld één:
Naarmate iedereen krachtigere hulpmiddelen krijgt, zal iedereen beter in staat zijn de toekomst vorm te geven, en niet minder. … Mensen en instellingen met concurrerende belangen controleren en balanceren elkaar van nature om tot positieve resultaten te leiden. De beste en meest realistische weg naar het opbouwen van een positieve AI-toekomst is door iedereen superintelligentie te bieden.
Volgens mij wel? Ik kan een paar voorbeelden bedenken van tegenstrijdige belangen die tot slechte resultaten leiden, maar laten we dat terzijde schuiven. Het vreemdere is dat dit wordt gepresenteerd als een serieuze filosofische conclusie, in plaats van een specifiek product genaamd ‘persoonlijke intelligentie’ dat Meta op de markt brengt. Als je al geneigd bent deze persoon te wantrouwen, maak je je misschien zorgen dat hij dit allemaal schrijft om zichzelf ervan te overtuigen dat er niets ergs kan gebeuren.
Dat gevoel werd voor mij nog intenser toen Zuckerberg bij de specifieke voorbeelden kwam, waarvan er vele alarmerend geen voeling hebben met de realiteit van hoe AI-tools worden gebruikt. Dit is bijvoorbeeld Zuckerbergs kijk op AI in het onderwijs:
Iedereen heeft een persoonlijke docent en coach met een doctoraat in elk onderwerp en een onbeperkt geduld om je te helpen alles te leren wat je wilt. Studenten krijgen extra hulp op gebieden waar ze die nodig hebben, die momenteel alleen beschikbaar is voor degenen wier ouders kunnen betalen. Volwassenen zullen een superintelligente leerassistent hebben die precies weet hoe hij u nieuwe beroepsvaardigheden, nieuwe talen, nieuwe hobby's of iets anders waarin u geïnteresseerd bent, moet leren.
Natuurlijk bestaat het product dat Zuckerberg beschrijft al: dit is een consumentenchatbot zoals ChatGPT, Claude en Gemini. Deze tools zijn echt handig als je meer wilt weten over een bepaald onderwerp, maar de belangrijkste manier waarop ze in het onderwijs worden gebruikt is om leren te vermijden, omdat je persoonlijke docent je huiswerk kan maken en het toegewezen essay kan schrijven. En omdat er geen robuust watermerksysteem is, kunnen docenten op geen enkele manier zeker weten welke essays met AI zijn gegenereerd.
Dit is een vrij laagdrempelig voorbeeld van schade door AI, maar het is echt iets dat momenteel gebeurt. Soms ontwerp je een technologie om goede dingen te doen en heeft dit onbedoelde gevolgen die de zaken nog erger maken. En het feit dat een van de machtigste mensen ter wereld dit weigert te erkennen, kan mensen begrijpelijkerwijs nerveus maken!
Zuckerberg geeft ook een voorbeeld van hoe AI het rechtssysteem ten goede zal veranderen:
Stel je bij wijze van gedachte-experiment voor dat slechts één persoon een superintelligente advocaat heeft. Ze zouden in de rechtszaal een oneerlijk voordeel hebben – zelfs als ze inhoudelijk ongelijk hadden. Dat zou leiden tot een slechtere samenleving. Maar stel je nu voor dat iedereen een superintelligente advocaat heeft. In dit geval zou de rechtspraak veel eerlijker en efficiënter worden uitgevoerd dan nu het geval is, wanneer er bij rechtszaken vaak sprake is van een onevenwicht in vaardigheden en middelen.
Nogmaals, dat is een geladen voorbeeld. Natuurlijk kan toegang tot legale AI leiden tot een rechtvaardiger samenleving, maar het kan ook meer complexiteit toevoegen aan het bureaucratische hellandschap dat al bestaat. Of het kan een nieuwe golf van lastige procederende partijen ontketenen die de zaken alleen maar verstoppen met het juridische equivalent van spam. Het is moeilijk om kalm te blijven over dit soort dingen, en het feit dat Zuckerberg zich geen zorgen maakt, maakt mij nog meer zorgen.
Op andere plaatsen beginnen zelfs beschrijvingen van Meta’s bestaande zakelijke praktijken een vreemd abstract karakter aan te nemen. Dit is bijvoorbeeld hoe Zuckerberg Meta’s toewijding aan een freemium-model beschrijft:
Iedereen zal gratis of betaalbare toegang hebben tot deze tools. … We zullen gratis versies aanbieden die voor miljarden mensen toegankelijk zullen zijn. Voor degenen die willen betalen om meer rekenkracht te gebruiken, zal er een dynamisch veilingmechanisme zijn dat garandeert dat iedereen de laagst mogelijke prijs krijgt voor de intelligentie en rekenkracht die ze gebruiken, terwijl er ook voor wordt gezorgd dat de capaciteit wordt gebruikt voor datgene wat mensen gezamenlijk het meest waardevol vinden. Dit zal ervoor zorgen dat de voordelen van superintelligentie breed worden verspreid.
In grote lijnen ben ik het eens met alles wat hij hier zegt. Zuckerberg heeft gelijk als hij zegt dat toegang een probleem is, en hij heeft gelijk als hij zegt dat een freemium-model meer toegang mogelijk maakt dan dat iedereen vooraf voor rekenkracht moet betalen. Er bestaan al dynamische markten voor spotcompute, dus het is niet alsof hij zich iets voorstelt dat volledig buiten de norm valt. Maar er is een reden waarom elk AI-consumentenproduct eindgebruikers isoleert van de spotprijs van de computer die ze gebruiken. Surge pricing is een vreselijke gebruikerservaring, vooral als het wordt ingezet op een tool waarop u daadwerkelijk vertrouwt voor uw werk.
Nogmaals, ik moet aannemen dat Zuckerberg dit weet, en dat hij niet echt van plan is symbolische prijzen vast te stellen via dynamische veilingen. Maar eigenlijk ben ik daar nu minder zeker van dan voordat ik dit stuk las.
Er zijn betere manieren om over dit soort dingen te praten. Ondanks al hun fouten doen Sam Altman en Dario Amodei het behoorlijk goed als ze rechtstreeks met het publiek communiceren. Ze doen precies waar Zuckerberg zich hier tegen verzet: de gevaren van AI erkennen, hun eigen voorzorgsmaatregelen benadrukken en luisteraars ervan proberen te overtuigen dat ze te vertrouwen zijn.
Die communicatie kan maar zoveel doen. Soms (vooral recentelijk) falen de beveiligingen en wordt het inherente gevaar van de hele onderneming duidelijk gemaakt. Maar zonder enige vorm van vertrouwen zal de sector deze mislukkingen wellicht niet altijd kunnen overleven.