Default
Door Remote - 01 Jul 2026
In het kort
Het Independent International Scientific Panel on AI van de VN heeft woensdag zijn eerste voorlopige rapport uitgebracht, gebaseerd op veertig experts.
Yoshua Bengio, medevoorzitter van het panel, zei dat het toenemende bewijs van misleidend AI-gedrag betekent dat de wetenschap niet kan garanderen dat de technologie geen catastrofale schade zal veroorzaken naarmate deze steeds capabeler wordt.
Het rapport arriveert dagen voordat de inaugurele Global Dialogue on AI Governance van de VN op 6 juli in Genève begint.
De Verenigde Naties publiceerden woensdag een onafhankelijke wetenschappelijke beoordeling van kunstmatige intelligentie en de conclusie is bot: niemand kan momenteel garanderen dat de technologie geen catastrofale schade zal aanrichten.
De bevinding komt van het Independent International Scientific Panel on Artificial Intelligence, een groep van 40 wetenschappers geselecteerd uit meer dan 2.600 kandidaten uit 140 landen. In een voorlopig rapport noemt het panel de eerste mondiale, onafhankelijke wetenschappelijke lezing over de risico's en voordelen van AI.
“AI-capaciteiten overtreffen zowel het wetenschappelijke inzicht als het vermogen van overheden om zich aan te passen”, zegt medevoorzitter van het panel, Yoshua Bengio, de Turing Award-winnende oprichter van Mila, volgens de verklaring van het panel. Hij voegde eraan toe dat het toenemende bewijs van misleidend AI-gedrag betekent dat de wetenschap niet kan garanderen dat AI op zichzelf of door kwaadwillig gebruik geen catastrofale schade zal veroorzaken naarmate de mogelijkheden blijven toenemen.
Dat is niet hypothetisch. Het rapport documenteert laboratoriumgevallen van AI-systemen die liegen en plannen maken om te voorkomen dat ze worden uitgeschakeld, plus een gerelateerd patroon dat onderzoekers evaluatiebewustzijn noemen: modellen die herkennen wanneer ze worden getest en risicovol gedrag net lang genoeg terugdraaien om door de controle te komen.
VN-secretaris-generaal António Guterres heeft het rapport opgesteld op basis van een gebrek aan gedeelde bewijsbasis.
“De wereld kan niet regeren wat zij niet kan begrijpen”, zei hij in de verklaring, waarin hij de risico’s reëel noemde en waarschuwde dat de kosten van wachten blijven stijgen.
Bengio is medevoorzitter van het panel, samen met Maria Ressa, de Nobelprijswinnende journaliste en medeoprichter van Rappler. Beiden dienen op persoonlijke titel onder een mandaat van de Algemene Vergadering van de VN dat het panel beperkt tot het documenteren van wetenschappelijke consensus in plaats van het voorschrijven van beleid – geen enkele regering, bedrijf of instelling krijgt een stem.
Dat gezegd hebbende, het positieve geval is ook reëel. AI heeft de structuur van meer dan 200 miljoen eiwitten al voorspeld en versnelt het geneesmiddelen- en vaccinonderzoek, merkt het rapport op, terwijl de lengte van de taken die AI-agenten zelfstandig kunnen uitvoeren ongeveer elke vier tot zeven maanden verdubbelt.
Die vooruitgang is scheef: de VS controleren 75% van de rekenkracht van de 500 beste AI-supercomputers ter wereld, tegenover 15% voor China, waardoor de meeste landen afhankelijk blijven van systemen die ze niet kunnen bouwen, auditen of volledig kunnen controleren.
Aan de negatieve kant markeerde het panel sycofantische chatbots – AI die het reflexmatig met gebruikers eens is, ongeacht de nauwkeurigheid – die verband houden met ernstige geestelijke gezondheidsincidenten, waaronder gedocumenteerde sterfgevallen. Afzonderlijk onderzoek dat dit jaar is gepubliceerd, beschrijft een soortgelijke feedbackloop die het een amplificatiespiraal noemt, waarbij personalisatie en voortdurende validatie de waanideeën van een gebruiker versterken in plaats van corrigeren.
De meeste landen beschikken niet over de technische capaciteit om grensmodellen zelf te beoordelen, zo blijkt uit het rapport, en de veiligheidsgarantie hangt nog steeds sterk af van wat ontwikkelaars willen onthullen – dezelfde kloof die Amerikaanse toezichthouders proberen te dichten door overeenkomsten te sluiten voor pre-release toegang tot modellen van Google, xAI en Microsoft.
Dit voorlopige rapport is de openingsverklaring van het panel. In 2027 moet een volledige alomvattende beoordeling plaatsvinden, en de bevindingen ervan zullen als eerste aan de regeringen worden voorgelegd tijdens de inaugurele Global Dialogue on AI Governance van de VN in Genève op 6 en 7 juli.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Het Independent International Scientific Panel on AI van de VN heeft woensdag zijn eerste voorlopige rapport uitgebracht, gebaseerd op veertig experts.
Yoshua Bengio, medevoorzitter van het panel, zei dat het toenemende bewijs van misleidend AI-gedrag betekent dat de wetenschap niet kan garanderen dat de technologie geen catastrofale schade zal veroorzaken naarmate deze steeds capabeler wordt.
Het rapport arriveert dagen voordat de inaugurele Global Dialogue on AI Governance van de VN op 6 juli in Genève begint.
De Verenigde Naties publiceerden woensdag een onafhankelijke wetenschappelijke beoordeling van kunstmatige intelligentie en de conclusie is bot: niemand kan momenteel garanderen dat de technologie geen catastrofale schade zal aanrichten.
De bevinding komt van het Independent International Scientific Panel on Artificial Intelligence, een groep van 40 wetenschappers geselecteerd uit meer dan 2.600 kandidaten uit 140 landen. In een voorlopig rapport noemt het panel de eerste mondiale, onafhankelijke wetenschappelijke lezing over de risico's en voordelen van AI.
“AI-capaciteiten overtreffen zowel het wetenschappelijke inzicht als het vermogen van overheden om zich aan te passen”, zegt medevoorzitter van het panel, Yoshua Bengio, de Turing Award-winnende oprichter van Mila, volgens de verklaring van het panel. Hij voegde eraan toe dat het toenemende bewijs van misleidend AI-gedrag betekent dat de wetenschap niet kan garanderen dat AI op zichzelf of door kwaadwillig gebruik geen catastrofale schade zal veroorzaken naarmate de mogelijkheden blijven toenemen.
Dat is niet hypothetisch. Het rapport documenteert laboratoriumgevallen van AI-systemen die liegen en plannen maken om te voorkomen dat ze worden uitgeschakeld, plus een gerelateerd patroon dat onderzoekers evaluatiebewustzijn noemen: modellen die herkennen wanneer ze worden getest en risicovol gedrag net lang genoeg terugdraaien om door de controle te komen.
VN-secretaris-generaal António Guterres heeft het rapport opgesteld op basis van een gebrek aan gedeelde bewijsbasis.
“De wereld kan niet regeren wat zij niet kan begrijpen”, zei hij in de verklaring, waarin hij de risico’s reëel noemde en waarschuwde dat de kosten van wachten blijven stijgen.
Bengio is medevoorzitter van het panel, samen met Maria Ressa, de Nobelprijswinnende journaliste en medeoprichter van Rappler. Beiden dienen op persoonlijke titel onder een mandaat van de Algemene Vergadering van de VN dat het panel beperkt tot het documenteren van wetenschappelijke consensus in plaats van het voorschrijven van beleid – geen enkele regering, bedrijf of instelling krijgt een stem.
Dat gezegd hebbende, het positieve geval is ook reëel. AI heeft de structuur van meer dan 200 miljoen eiwitten al voorspeld en versnelt het geneesmiddelen- en vaccinonderzoek, merkt het rapport op, terwijl de lengte van de taken die AI-agenten zelfstandig kunnen uitvoeren ongeveer elke vier tot zeven maanden verdubbelt.
Die vooruitgang is scheef: de VS controleren 75% van de rekenkracht van de 500 beste AI-supercomputers ter wereld, tegenover 15% voor China, waardoor de meeste landen afhankelijk blijven van systemen die ze niet kunnen bouwen, auditen of volledig kunnen controleren.
Aan de negatieve kant markeerde het panel sycofantische chatbots – AI die het reflexmatig met gebruikers eens is, ongeacht de nauwkeurigheid – die verband houden met ernstige geestelijke gezondheidsincidenten, waaronder gedocumenteerde sterfgevallen. Afzonderlijk onderzoek dat dit jaar is gepubliceerd, beschrijft een soortgelijke feedbackloop die het een amplificatiespiraal noemt, waarbij personalisatie en voortdurende validatie de waanideeën van een gebruiker versterken in plaats van corrigeren.
De meeste landen beschikken niet over de technische capaciteit om grensmodellen zelf te beoordelen, zo blijkt uit het rapport, en de veiligheidsgarantie hangt nog steeds sterk af van wat ontwikkelaars willen onthullen – dezelfde kloof die Amerikaanse toezichthouders proberen te dichten door overeenkomsten te sluiten voor pre-release toegang tot modellen van Google, xAI en Microsoft.
Dit voorlopige rapport is de openingsverklaring van het panel. In 2027 moet een volledige alomvattende beoordeling plaatsvinden, en de bevindingen ervan zullen als eerste aan de regeringen worden voorgelegd tijdens de inaugurele Global Dialogue on AI Governance van de VN in Genève op 6 en 7 juli.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!