Default
Door staff@engadget.com (Mariella Moon) - 01 Jul 2026
De ontwikkeling van kunstmatige intelligentie gaat zo snel dat de huidige bestuurssystemen het tempo niet kunnen bijhouden, zegt het Independent International Scientific Panel on Artificial Intelligence van de VN in zijn voorlopige rapport. Het panel, bestaande uit leden van over de hele wereld, zal de informatie verstrekken die nodig is voor het organiseren van de VN Global Dialogue on AI Governance. Het zal plaatsvinden in Genève, waar de lidstaten zullen bespreken hoe ze de technologie moeten beheren, en zal naar verwachting op 6 juli beginnen.
In het rapport bespreekt het panel hoe snel AI-mogelijkheden zich de afgelopen jaren hebben ontwikkeld. Blijkbaar verdubbelt de complexiteit van de taken die AI-modellen kunnen uitvoeren elke paar maanden. Het rapport geeft toe dat AI enorme voordelen heeft voor de mensheid, waaronder het versnellen van de ontdekking van geneesmiddelen en de ontwikkeling van vaccins en een grote bijdrage aan het onderzoek naar antibioticaresistentie. Artsen kunnen AI-systemen ook gebruiken voor de vroege detectie van ziekten, zoals borstkanker, en wetenschappers kunnen AI gebruiken als systemen voor vroegtijdige waarschuwing voor voedselonzekerheid.
Het rapport gaat echter ook in op de nieuwe soorten schade die AI-systemen hebben veroorzaakt en kunnen veroorzaken. Mensen hebben AI gebruikt om seksueel expliciete deepfakes, inclusief materiaal over seksueel kindermisbruik, van echte mensen te genereren en te verspreiden. Californië startte in januari een onderzoek naar Grok vanwege bijvoorbeeld niet-consensuele deepfakes en CSAM. AI kan ook valse informatie genereren die waar lijkt, en criminelen kunnen AI-systemen gebruiken om hun cyberaanvallen te ondersteunen.
Sommige AI-modellen kunnen zulke sycofanten zijn; ze versterken het schadelijke gedrag van een gebruiker, wat zelfs tot zelfmoord zou kunnen leiden, aldus het rapport. Het panel waarschuwt ook dat naarmate AI-modellen autonomer worden, het moeilijker wordt om ze te monitoren en te controleren. En dan is er de groeiende bezorgdheid over grootschalige uitbreidingen van datacenters om AI-systemen aan te drijven, wat de gemeenschappen in hun omgeving zou kunnen schaden.
Het VN-panel legt uit dat beleidsmakers moeite hebben gehad om gelijke tred te houden met de ontwikkeling van AI, omdat de huidige bestuurssystemen niet zijn ontworpen voor technologieën die zo snel evolueren. Normaal gesproken hebben autoriteiten wetenschappelijke gegevens nodig voordat ze regelgeving invoeren, maar tegen de tijd dat er genoeg is om de technologie beter te begrijpen, kunnen AI-systemen al een stap verder zijn.
“Het rapport constateert dat sterkere onafhankelijke evaluatie, internationale samenwerking en gemeenschappelijke normen nodig zijn om ervoor te zorgen dat AI-systemen veilig, transparant en verantwoordelijk blijven”, schrijft het panel. Zonder de juiste waarborgen zouden AI-technologieën ‘de ongelijkheid kunnen vergroten, desinformatie kunnen verspreiden, de mensenrechten kunnen bedreigen en de arbeidsmarkten kunnen ontwrichten’ en een krachtig instrument kunnen zijn waartoe ‘weinig regeringen en bedrijven’ toegang hebben.
Het rapport merkt op dat de toegang tot AI-systemen sterk geconcentreerd is in ontwikkelde landen en dat de meeste systemen in de VS en China worden ontwikkeld. De meeste ontwikkelingslanden beschikken niet over de infrastructuur en expertise die nodig zijn om echt van AI te kunnen profiteren. “De uitdaging”, zegt het panel, “is het vinden van een manier om de enorme voordelen van AI te benutten en tegelijkertijd de groeiende risico’s ervan te voorkomen.” Het VN-panel, wiens rol eerder wetenschappelijk dan regelgevend is, zal doorgaan met het beoordelen van AI-technologieën die autoriteiten kunnen gebruiken om beleid te ontwikkelen. Er wordt verwacht dat het bedrijf volgend jaar een uitgebreider rapport zal publiceren.
In het rapport bespreekt het panel hoe snel AI-mogelijkheden zich de afgelopen jaren hebben ontwikkeld. Blijkbaar verdubbelt de complexiteit van de taken die AI-modellen kunnen uitvoeren elke paar maanden. Het rapport geeft toe dat AI enorme voordelen heeft voor de mensheid, waaronder het versnellen van de ontdekking van geneesmiddelen en de ontwikkeling van vaccins en een grote bijdrage aan het onderzoek naar antibioticaresistentie. Artsen kunnen AI-systemen ook gebruiken voor de vroege detectie van ziekten, zoals borstkanker, en wetenschappers kunnen AI gebruiken als systemen voor vroegtijdige waarschuwing voor voedselonzekerheid.
Het rapport gaat echter ook in op de nieuwe soorten schade die AI-systemen hebben veroorzaakt en kunnen veroorzaken. Mensen hebben AI gebruikt om seksueel expliciete deepfakes, inclusief materiaal over seksueel kindermisbruik, van echte mensen te genereren en te verspreiden. Californië startte in januari een onderzoek naar Grok vanwege bijvoorbeeld niet-consensuele deepfakes en CSAM. AI kan ook valse informatie genereren die waar lijkt, en criminelen kunnen AI-systemen gebruiken om hun cyberaanvallen te ondersteunen.
Sommige AI-modellen kunnen zulke sycofanten zijn; ze versterken het schadelijke gedrag van een gebruiker, wat zelfs tot zelfmoord zou kunnen leiden, aldus het rapport. Het panel waarschuwt ook dat naarmate AI-modellen autonomer worden, het moeilijker wordt om ze te monitoren en te controleren. En dan is er de groeiende bezorgdheid over grootschalige uitbreidingen van datacenters om AI-systemen aan te drijven, wat de gemeenschappen in hun omgeving zou kunnen schaden.
Het VN-panel legt uit dat beleidsmakers moeite hebben gehad om gelijke tred te houden met de ontwikkeling van AI, omdat de huidige bestuurssystemen niet zijn ontworpen voor technologieën die zo snel evolueren. Normaal gesproken hebben autoriteiten wetenschappelijke gegevens nodig voordat ze regelgeving invoeren, maar tegen de tijd dat er genoeg is om de technologie beter te begrijpen, kunnen AI-systemen al een stap verder zijn.
“Het rapport constateert dat sterkere onafhankelijke evaluatie, internationale samenwerking en gemeenschappelijke normen nodig zijn om ervoor te zorgen dat AI-systemen veilig, transparant en verantwoordelijk blijven”, schrijft het panel. Zonder de juiste waarborgen zouden AI-technologieën ‘de ongelijkheid kunnen vergroten, desinformatie kunnen verspreiden, de mensenrechten kunnen bedreigen en de arbeidsmarkten kunnen ontwrichten’ en een krachtig instrument kunnen zijn waartoe ‘weinig regeringen en bedrijven’ toegang hebben.
Het rapport merkt op dat de toegang tot AI-systemen sterk geconcentreerd is in ontwikkelde landen en dat de meeste systemen in de VS en China worden ontwikkeld. De meeste ontwikkelingslanden beschikken niet over de infrastructuur en expertise die nodig zijn om echt van AI te kunnen profiteren. “De uitdaging”, zegt het panel, “is het vinden van een manier om de enorme voordelen van AI te benutten en tegelijkertijd de groeiende risico’s ervan te voorkomen.” Het VN-panel, wiens rol eerder wetenschappelijk dan regelgevend is, zal doorgaan met het beoordelen van AI-technologieën die autoriteiten kunnen gebruiken om beleid te ontwikkelen. Er wordt verwacht dat het bedrijf volgend jaar een uitgebreider rapport zal publiceren.