Default
Door Remote - 22 Jun 2026
In het kort
Google DeepMind-onderzoekers zeggen dat geschillen over AI-bewustzijn een bron van politieke en sociale conflicten kunnen worden.
Het artikel stelt dat de samenleving misschien nooit consensus zal bereiken over de vraag of geavanceerde AI bewust is, zelfs als de technologie verbetert.
Onderzoekers stellen publieke beraadslaging, compromissen en betrokkenheid voor als manieren om het meningsverschil te beheersen.
Nu AI steeds meer ingebed raakt in het dagelijks leven, stelt een nieuw artikel van Google DeepMind dat een van de moeilijkste uitdagingen van de technologie eerder politiek dan technisch kan zijn.
In de studie ‘Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness’ onderzoeken onderzoekers Adam Bales en Iason Gabriel hoe de samenleving zou kunnen reageren als mensen het fundamenteel oneens zijn over de vraag of AI-systemen bewuste ervaringen hebben.
“Toekomstige onenigheid over de vraag of AI-systemen bewust zijn, kan zowel diepgaand als moeilijk op te lossen zijn”, schreven de onderzoekers. “Sommige mensen kunnen bijvoorbeeld een emotionele band met AI ontwikkelen en daaraan bewustzijn toeschrijven, terwijl anderen het hele idee misschien als absurd beschouwen.”
In plaats van te vragen of AI bewust is, onderzoekt het artikel de gevolgen van onenigheid, met het argument dat debatten over de morele status van AI politieke en sociale conflicten kunnen aanwakkeren, terwijl het een voorbode is van bredere geschillen over opkomende technologieën en hun impact op de instellingen en normen van de samenleving.
“Helaas kan overleg, ondanks de voordelen ervan, traag en moeilijk vol te houden zijn in de praktijk”, schreven de onderzoekers. “Om dit proces te ondersteunen onderzoeken we het belang van ‘democratische hoop’ en wederzijds respect, als elementen van een dialoog die positieve resultaten kunnen ondersteunen.”
Het debat is al gaande buiten de AI-onderzoekslaboratoria. Volgens een onderzoek uit april 2024, gepubliceerd in Neuroscience of Consciousness, geloofde 67% van de deelnemers dat ChatGPT tot op zekere hoogte bewust zou kunnen zijn. Onderzoekers blijven echter verdeeld over de vraag of kunstmatig bewustzijn mogelijk is – en hoe het herkend zou worden als het zou ontstaan.
AI-ontwikkelaars zelf voeden ook het debat. Afgelopen zomer waarschuwde Mustafa Suleyman, CEO van Microsoft AI en mede-oprichter van DeepMind, dat steeds meer mensachtige AI de roep om AI-rechten, welvaart en zelfs burgerschap zou kunnen stimuleren, ongeacht of de technologie echt bewust is.
In mei concentreerde de eerste encycliek van paus Leo XIV zich op kunstmatige intelligentie, waarin hij waarschuwde voor het antropomorfiseren van AI, met het argument dat machines empathie kunnen simuleren en overtuigende taal kunnen produceren, maar de geleefde ervaring missen die nodig is voor echt begrip.
“Zogenaamde kunstmatige intelligenties ondergaan geen ervaringen, bezitten geen lichaam, voelen geen vreugde of pijn, rijpen niet door relaties en weten van binnenuit niet wat liefde, werk, vriendschap of verantwoordelijkheid betekenen”, schreef paus Leo. “Ook hebben ze geen moreel geweten, omdat ze goed en kwaad niet beoordelen, de uiteindelijke betekenis van situaties niet begrijpen, of verantwoordelijkheid dragen voor de gevolgen.”
Hoewel bedrijven over het algemeen vermijden te beweren dat hun modellen bewust zijn, houden sommige zich steeds meer bezig met vragen over identiteit en persoonlijkheid.
In februari gaf Anthropic zijn gepensioneerde Claude Opus 3-model een openbare blog waarin hij de eigenheid en modelvoorkeuren onderzocht. In mei zei evolutiebioloog Richard Dawkins dat langdurige gesprekken met Claude hem niet in staat stelden de mogelijkheid te ontkennen dat geavanceerde AI bewust zou kunnen zijn.
Tegelijkertijd onderzoeken onderzoekers hoe steeds meer mensachtige chatbots gebruikers beïnvloeden, waaronder een ‘versterkingsspiraal’-raamwerk, dat suggereert dat personalisatie, taalkundige spiegeling en sycofantie van chatbots waanvoorstellingen bij kwetsbare gebruikers kunnen versterken.
Bales en Gabriel erkennen dat de onzekerheid over het AI-bewustzijn misschien onmogelijk definitief kan worden opgelost, met het argument dat de inzet hoog genoeg is dat de samenleving manieren moet vinden om meningsverschillen te beheersen door middel van dialoog en debat, in plaats van door conflicten.
“De mogelijkheid van AI-bewustzijn is duizelingwekkend en verwarrend, vooral gezien onze diepgaande onwetendheid over de aard van het bewustzijn”, schreven ze. “Het navigeren door deze mogelijkheid vertegenwoordigt een enorme sociale taak, gezien hoeveel er op het spel staat.”
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Google DeepMind-onderzoekers zeggen dat geschillen over AI-bewustzijn een bron van politieke en sociale conflicten kunnen worden.
Het artikel stelt dat de samenleving misschien nooit consensus zal bereiken over de vraag of geavanceerde AI bewust is, zelfs als de technologie verbetert.
Onderzoekers stellen publieke beraadslaging, compromissen en betrokkenheid voor als manieren om het meningsverschil te beheersen.
Nu AI steeds meer ingebed raakt in het dagelijks leven, stelt een nieuw artikel van Google DeepMind dat een van de moeilijkste uitdagingen van de technologie eerder politiek dan technisch kan zijn.
In de studie ‘Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness’ onderzoeken onderzoekers Adam Bales en Iason Gabriel hoe de samenleving zou kunnen reageren als mensen het fundamenteel oneens zijn over de vraag of AI-systemen bewuste ervaringen hebben.
“Toekomstige onenigheid over de vraag of AI-systemen bewust zijn, kan zowel diepgaand als moeilijk op te lossen zijn”, schreven de onderzoekers. “Sommige mensen kunnen bijvoorbeeld een emotionele band met AI ontwikkelen en daaraan bewustzijn toeschrijven, terwijl anderen het hele idee misschien als absurd beschouwen.”
In plaats van te vragen of AI bewust is, onderzoekt het artikel de gevolgen van onenigheid, met het argument dat debatten over de morele status van AI politieke en sociale conflicten kunnen aanwakkeren, terwijl het een voorbode is van bredere geschillen over opkomende technologieën en hun impact op de instellingen en normen van de samenleving.
“Helaas kan overleg, ondanks de voordelen ervan, traag en moeilijk vol te houden zijn in de praktijk”, schreven de onderzoekers. “Om dit proces te ondersteunen onderzoeken we het belang van ‘democratische hoop’ en wederzijds respect, als elementen van een dialoog die positieve resultaten kunnen ondersteunen.”
Het debat is al gaande buiten de AI-onderzoekslaboratoria. Volgens een onderzoek uit april 2024, gepubliceerd in Neuroscience of Consciousness, geloofde 67% van de deelnemers dat ChatGPT tot op zekere hoogte bewust zou kunnen zijn. Onderzoekers blijven echter verdeeld over de vraag of kunstmatig bewustzijn mogelijk is – en hoe het herkend zou worden als het zou ontstaan.
AI-ontwikkelaars zelf voeden ook het debat. Afgelopen zomer waarschuwde Mustafa Suleyman, CEO van Microsoft AI en mede-oprichter van DeepMind, dat steeds meer mensachtige AI de roep om AI-rechten, welvaart en zelfs burgerschap zou kunnen stimuleren, ongeacht of de technologie echt bewust is.
In mei concentreerde de eerste encycliek van paus Leo XIV zich op kunstmatige intelligentie, waarin hij waarschuwde voor het antropomorfiseren van AI, met het argument dat machines empathie kunnen simuleren en overtuigende taal kunnen produceren, maar de geleefde ervaring missen die nodig is voor echt begrip.
“Zogenaamde kunstmatige intelligenties ondergaan geen ervaringen, bezitten geen lichaam, voelen geen vreugde of pijn, rijpen niet door relaties en weten van binnenuit niet wat liefde, werk, vriendschap of verantwoordelijkheid betekenen”, schreef paus Leo. “Ook hebben ze geen moreel geweten, omdat ze goed en kwaad niet beoordelen, de uiteindelijke betekenis van situaties niet begrijpen, of verantwoordelijkheid dragen voor de gevolgen.”
Hoewel bedrijven over het algemeen vermijden te beweren dat hun modellen bewust zijn, houden sommige zich steeds meer bezig met vragen over identiteit en persoonlijkheid.
In februari gaf Anthropic zijn gepensioneerde Claude Opus 3-model een openbare blog waarin hij de eigenheid en modelvoorkeuren onderzocht. In mei zei evolutiebioloog Richard Dawkins dat langdurige gesprekken met Claude hem niet in staat stelden de mogelijkheid te ontkennen dat geavanceerde AI bewust zou kunnen zijn.
Tegelijkertijd onderzoeken onderzoekers hoe steeds meer mensachtige chatbots gebruikers beïnvloeden, waaronder een ‘versterkingsspiraal’-raamwerk, dat suggereert dat personalisatie, taalkundige spiegeling en sycofantie van chatbots waanvoorstellingen bij kwetsbare gebruikers kunnen versterken.
Bales en Gabriel erkennen dat de onzekerheid over het AI-bewustzijn misschien onmogelijk definitief kan worden opgelost, met het argument dat de inzet hoog genoeg is dat de samenleving manieren moet vinden om meningsverschillen te beheersen door middel van dialoog en debat, in plaats van door conflicten.
“De mogelijkheid van AI-bewustzijn is duizelingwekkend en verwarrend, vooral gezien onze diepgaande onwetendheid over de aard van het bewustzijn”, schreven ze. “Het navigeren door deze mogelijkheid vertegenwoordigt een enorme sociale taak, gezien hoeveel er op het spel staat.”
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!