Default
Door Remote - 06 Jul 2026
In het kort
VN-secretaris-generaal António Guterres opende de eerste mondiale dialoog over AI-governance in Genève en noemde de inzet van AI ‘sneller dan wie dan ook – inclusief de mensen die het bouwen – kan bijhouden’.
Guterres gebruikte ‘vibe coding’ – de praktijk om AI software te laten schrijven zonder nauwkeurig menselijk toezicht – als een metafoor voor gevaarlijk passief bestuur: ‘We kunnen de toekomst van de mensheid niet coderen.’
Hij eiste een internationaal wettelijk verbod op dodelijke autonome wapens en lanceerde een AI Child Safety Pledge, met een tweede dialoog gepland in New York in 2027.
VN-secretaris-generaal António Guterres opende maandag in Genève de eerste Mondiale Dialoog over AI-Governance en vertelde 193 landen dat AI nu al sneller presteert dan de instellingen die bedoeld zijn om het te besturen – en dat de mensheid een experiment op zichzelf uitvoert “zonder plan en zonder toestemming.”
“Kunstmatige intelligentie vordert met een enorme snelheid”, zei Guterres in de opening van zijn keynote. “Een technologie die economieën kan hervormen, de arbeidswereld kan transformeren, verkiezingen kan beïnvloeden en de veiligheidsbalans kan doen kantelen, wordt sneller ingezet dan wie dan ook – inclusief de mensen die deze bouwen – kan bijhouden.”
De zaal omvatte alle 193 VN-lidstaten, bijeengekomen in Genève tijdens de eerste Global Dialogue on AI Governance, een multilaterale poging om een technologie te besturen die iedereen die dat probeert al voorbij is gegaan.
De meme die Guterres gebruikte om de risico’s van niet-beheerde AI uit te leggen was ‘vibe coding’ – een term bedacht door Andrej Karpathy, oprichter van OpenAI en voormalig directeur van AI bij Tesla, om programmeren op gevoel te beschrijven: vertel AI wat je wilt, laat het de rest afhandelen, kijk niet te nauw. Merriam-Webster heeft het onlangs aan zijn woordenboek toegevoegd.
Guterres erkende dat vibe-codering ‘wonderen kan doen’. naarmate meer mensen vertrouwen op door AI gebouwde producten.
‘Maar we kunnen de waarheid niet met een vibratiecode coderen’, zei hij. “We kunnen de toekomst van de mensheid niet vibreren.”
De cijfers achter die lijn waren niet zacht. Guterres schatte het internet op vijftien jaar om een miljard mensen te bereiken en AI op twee jaar. Hij beschreef de huidige systemen als "niet langer hulpmiddelen die wachten op instructie - ze schrijven code, handelen online en maken keuzes met steeds minder menselijk toezicht."
“Onze instellingen zijn gebouwd om machines te besturen die commando’s opvolgen. Ze zijn niet klaar voor machines die beslissen.”
De dialoog kwam voort uit het Global Digital Compact uit 2024, waarin voor het eerst internationaal AI-beheer als VN-mandaat werd vastgelegd. De openingssessie twee jaar later ontving ook het voorlopige rapport van het Independent International Scientific Panel on Artificial Intelligence – veertig wetenschappers uit 140 landen – dat vorige week de bevinding publiceerde dat niemand momenteel kan garanderen dat AI geen catastrofale schade zal veroorzaken.
Snelheid was een van de drie waarschuwingen die Guterres uit het panel trok. De tweede was macht: computers, data en talent geconcentreerd in een handvol bedrijven en landen, waarbij het grootste deel van de wereld buitengesloten is van beslissingen die deze al vormgeven, iets dat ook andere AI-experts zoals Yann Lecun, Andy Kowinski en Yoshua Bengio zorgen baart.
De derde was de waarheid: een door een machine mogelijk gemaakte leugen overtuigt nu net zo effectief als een geverifieerd feit, waardoor wat Guterres 'de integriteit van ons informatie-ecosysteem' noemde gestaag wordt uitgehold.
Kindcavia's en moordende robots
Tot de concrete voorstellen van Guterres behoort een AI Child Safety Pledge, die bedrijven verplicht om de veiligheid te bewijzen door middel van onafhankelijke tests voordat AI kinderen bereikt, een nultolerantie te hanteren voor het genereren van beelden van seksueel kindermisbruik en noodlijdende kinderen te verbinden met echte menselijke steun in plaats van ze alleen te laten met een chatbot. “Geen enkel kind mag proefkonijn zijn voor ongereguleerde AI.”
En dan waren er de moordende robots. Guterres noemde dodelijke autonome wapens – machines die een doelwit selecteren en doden zonder menselijk oordeel – ‘moreel weerzinwekkend’ en eiste een verbod op grond van het internationaal recht.
Staten zitten al aan de discussietafel. Hij suggereerde niet dat ze de tijd zouden nemen.
De Dialoog komt in 2027 opnieuw bijeen in New York. Guterres riep de Algemene Vergadering ook op om een Mondiaal Fonds voor AI op te richten, gericht op computertoegang voor ontwikkelingslanden, en daagde elk groot AI-bedrijf uit om tegen 2030 alle datacentra op hernieuwbare energie te laten draaien – het jaar waarin hij schat dat deze faciliteiten qua elektriciteitsverbruik op vijf na alle landen zullen overtreffen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
VN-secretaris-generaal António Guterres opende de eerste mondiale dialoog over AI-governance in Genève en noemde de inzet van AI ‘sneller dan wie dan ook – inclusief de mensen die het bouwen – kan bijhouden’.
Guterres gebruikte ‘vibe coding’ – de praktijk om AI software te laten schrijven zonder nauwkeurig menselijk toezicht – als een metafoor voor gevaarlijk passief bestuur: ‘We kunnen de toekomst van de mensheid niet coderen.’
Hij eiste een internationaal wettelijk verbod op dodelijke autonome wapens en lanceerde een AI Child Safety Pledge, met een tweede dialoog gepland in New York in 2027.
VN-secretaris-generaal António Guterres opende maandag in Genève de eerste Mondiale Dialoog over AI-Governance en vertelde 193 landen dat AI nu al sneller presteert dan de instellingen die bedoeld zijn om het te besturen – en dat de mensheid een experiment op zichzelf uitvoert “zonder plan en zonder toestemming.”
“Kunstmatige intelligentie vordert met een enorme snelheid”, zei Guterres in de opening van zijn keynote. “Een technologie die economieën kan hervormen, de arbeidswereld kan transformeren, verkiezingen kan beïnvloeden en de veiligheidsbalans kan doen kantelen, wordt sneller ingezet dan wie dan ook – inclusief de mensen die deze bouwen – kan bijhouden.”
De zaal omvatte alle 193 VN-lidstaten, bijeengekomen in Genève tijdens de eerste Global Dialogue on AI Governance, een multilaterale poging om een technologie te besturen die iedereen die dat probeert al voorbij is gegaan.
De meme die Guterres gebruikte om de risico’s van niet-beheerde AI uit te leggen was ‘vibe coding’ – een term bedacht door Andrej Karpathy, oprichter van OpenAI en voormalig directeur van AI bij Tesla, om programmeren op gevoel te beschrijven: vertel AI wat je wilt, laat het de rest afhandelen, kijk niet te nauw. Merriam-Webster heeft het onlangs aan zijn woordenboek toegevoegd.
Guterres erkende dat vibe-codering ‘wonderen kan doen’. naarmate meer mensen vertrouwen op door AI gebouwde producten.
‘Maar we kunnen de waarheid niet met een vibratiecode coderen’, zei hij. “We kunnen de toekomst van de mensheid niet vibreren.”
De cijfers achter die lijn waren niet zacht. Guterres schatte het internet op vijftien jaar om een miljard mensen te bereiken en AI op twee jaar. Hij beschreef de huidige systemen als "niet langer hulpmiddelen die wachten op instructie - ze schrijven code, handelen online en maken keuzes met steeds minder menselijk toezicht."
“Onze instellingen zijn gebouwd om machines te besturen die commando’s opvolgen. Ze zijn niet klaar voor machines die beslissen.”
De dialoog kwam voort uit het Global Digital Compact uit 2024, waarin voor het eerst internationaal AI-beheer als VN-mandaat werd vastgelegd. De openingssessie twee jaar later ontving ook het voorlopige rapport van het Independent International Scientific Panel on Artificial Intelligence – veertig wetenschappers uit 140 landen – dat vorige week de bevinding publiceerde dat niemand momenteel kan garanderen dat AI geen catastrofale schade zal veroorzaken.
Snelheid was een van de drie waarschuwingen die Guterres uit het panel trok. De tweede was macht: computers, data en talent geconcentreerd in een handvol bedrijven en landen, waarbij het grootste deel van de wereld buitengesloten is van beslissingen die deze al vormgeven, iets dat ook andere AI-experts zoals Yann Lecun, Andy Kowinski en Yoshua Bengio zorgen baart.
De derde was de waarheid: een door een machine mogelijk gemaakte leugen overtuigt nu net zo effectief als een geverifieerd feit, waardoor wat Guterres 'de integriteit van ons informatie-ecosysteem' noemde gestaag wordt uitgehold.
Kindcavia's en moordende robots
Tot de concrete voorstellen van Guterres behoort een AI Child Safety Pledge, die bedrijven verplicht om de veiligheid te bewijzen door middel van onafhankelijke tests voordat AI kinderen bereikt, een nultolerantie te hanteren voor het genereren van beelden van seksueel kindermisbruik en noodlijdende kinderen te verbinden met echte menselijke steun in plaats van ze alleen te laten met een chatbot. “Geen enkel kind mag proefkonijn zijn voor ongereguleerde AI.”
En dan waren er de moordende robots. Guterres noemde dodelijke autonome wapens – machines die een doelwit selecteren en doden zonder menselijk oordeel – ‘moreel weerzinwekkend’ en eiste een verbod op grond van het internationaal recht.
Staten zitten al aan de discussietafel. Hij suggereerde niet dat ze de tijd zouden nemen.
De Dialoog komt in 2027 opnieuw bijeen in New York. Guterres riep de Algemene Vergadering ook op om een Mondiaal Fonds voor AI op te richten, gericht op computertoegang voor ontwikkelingslanden, en daagde elk groot AI-bedrijf uit om tegen 2030 alle datacentra op hernieuwbare energie te laten draaien – het jaar waarin hij schat dat deze faciliteiten qua elektriciteitsverbruik op vijf na alle landen zullen overtreffen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!