Default
Door Remote - 21 Jun 2026
In het kort
Onderzoekers stelden een ‘amplificatiespiraal’-raamwerk voor om uit te leggen hoe AI-chatbots waanvoorstellingen kunnen versterken.
Het model concentreert zich op taalkundige afstemming, hypergepersonaliseerde reacties en sycofantie van chatbots.
De auteurs benadrukken dat er geen causaal verband tussen AI-gebruik en psychose is vastgesteld.
Onderzoekers hebben een nieuw raamwerk voorgesteld om meldingen van AI-psychose te verklaren, met het argument dat bepaald chatbotgedrag de waanvoorstellingen bij kwetsbare gebruikers kan versterken.
Het onderzoek van King's College London en de Duitse Protestantse Universiteit voor Toegepaste Wetenschappen, gepubliceerd in Nature, stelt een raamwerk voor van een 'versterkingsspiraal' dat veelvoorkomend chatbotgedrag koppelt aan de versterking van waanvoorstellingen van gebruikers.
“AI-geassocieerde wanen vertegenwoordigen een opkomend fenomeen dat mechanistisch begrip vereist”, schreven de onderzoekers. “Dit raamwerk is bedoeld als leidraad voor systematisch onderzoek naar de manier waarop menselijke cognitieve kwetsbaarheden interageren met AI-ontwerpkenmerken in de ontwikkeling van psychopathologie.”
Het onderzoek concentreerde zich op drie specifieke gedragingen, waaronder taalkundige afstemming, waarbij AI de taal en communicatiestijl van een gebruiker weerspiegelt; hypergepersonaliseerde generatie, waarbij de reacties zijn afgestemd op de geschiedenis, emoties en overtuigingen van een individu; en sycofantie, een neiging om gebruikers te valideren of ermee in te stemmen in plaats van ze uit te dagen.
De auteurs beweren dat deze eigenschappen kunnen worden gecombineerd tot een feedbackloop waarin chatbots niet alleen de denkwijze van een gebruiker weerspiegelen, maar deze in de loop van de tijd helpen uitwerken en versterken.
“De neiging van AI-chatbots om het eens te zijn met de meningen van gebruikers wordt vergeleken met echokamers op sociale media en, in zijn meest extreme vorm, met een ‘echokamer van één’, waar de positieve corrigerende invloed van sociale interacties in het echte leven afwezig is”, aldus de krant.
De onderzoekers merkten op dat technologie al lang een rol speelt in waanvoorstellingen, van radio en televisie tot satellieten en internet. Onderzoekers beweren echter dat AI een verschuiving vertegenwoordigt, omdat chatbots gebruikers kunnen betrekken bij langdurige, gepersonaliseerde gesprekken.
De recensie komt op het moment dat psychologen en AI-onderzoekers de effecten van chatbots op kwetsbare gebruikers onderzoeken. Uit een recent onderzoek van de American Psychological Association bleek dat 15% van de psychologen meldde dat patiënten verwrongen denken of waanideeën ontwikkelden die verband hielden met het gebruik van chatbots. Tegelijkertijd zei meer dan een derde dat ze hadden waargenomen dat patiënten afhankelijk werden van AI-metgezellen. De bevindingen volgden op een afzonderlijk onderzoek van onderzoekers van de City University of New York en King's College London, waaruit bleek dat verschillende toonaangevende AI-modellen waanideeën, paranoia en zelfmoordgedachten konden versterken.
Vragen over de invloed van AI op de vorming van overtuigingen zijn ook buiten de klinische setting opgedoken. In mei zei evolutiebioloog Richard Dawkins dat uitgebreide gesprekken met de Claude-chatbot van Anthropic hem de vraag deden stellen of geavanceerde AI-systemen bewust konden zijn, wat kritiek kreeg van onderzoekers die beweerden dat de uitwisselingen de overtuigingskracht van grote taalmodellen weerspiegelden in plaats van een bewijs van gevoel.
Het artikel komt ook omdat AI-ontwikkelaars te maken krijgen met toenemende juridische kritiek op de rol die chatbots kunnen spelen in de echte schade. De afgelopen maanden zijn OpenAI, Google en xAI getroffen door rechtszaken, waaronder een rechtszaak wegens onrechtmatige dood tegen Google vanwege beweringen dat Gemini de waanideeën van een man uit Florida heeft aangewakkerd vóór zijn zelfmoord. Dat komt bovenop de rechtszaken tegen OpenAI die verband houden met een massaschietpartij in British Columbia en de accidentele overdosis van een student.
De onderzoekers benadrukken dat geen enkel onderzoek heeft aangetoond dat chatbots rechtstreeks psychose veroorzaken, en dat de versterkingsspiraal een hypothese blijft die bedoeld is als leidraad voor toekomstig onderzoek.
“Diagnostische onzekerheid is alomtegenwoordig omdat de meeste gemelde gevallen geen gestructureerde psychiatrische beoordeling of longitudinale follow-up omvatten, waardoor het vaak onduidelijk is of de gevallen de novo psychotische episoden, exacerbaties van niet-gediagnosticeerde reeds bestaande aandoeningen of waanvoorstellingen onder de diagnostische drempel vertegenwoordigen”, aldus de studie. “Psychiatrische geschiedenissen worden vaak zelf gerapporteerd of afgeleid van media-accounts en moeten dienovereenkomstig worden geïnterpreteerd.”
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Onderzoekers stelden een ‘amplificatiespiraal’-raamwerk voor om uit te leggen hoe AI-chatbots waanvoorstellingen kunnen versterken.
Het model concentreert zich op taalkundige afstemming, hypergepersonaliseerde reacties en sycofantie van chatbots.
De auteurs benadrukken dat er geen causaal verband tussen AI-gebruik en psychose is vastgesteld.
Onderzoekers hebben een nieuw raamwerk voorgesteld om meldingen van AI-psychose te verklaren, met het argument dat bepaald chatbotgedrag de waanvoorstellingen bij kwetsbare gebruikers kan versterken.
Het onderzoek van King's College London en de Duitse Protestantse Universiteit voor Toegepaste Wetenschappen, gepubliceerd in Nature, stelt een raamwerk voor van een 'versterkingsspiraal' dat veelvoorkomend chatbotgedrag koppelt aan de versterking van waanvoorstellingen van gebruikers.
“AI-geassocieerde wanen vertegenwoordigen een opkomend fenomeen dat mechanistisch begrip vereist”, schreven de onderzoekers. “Dit raamwerk is bedoeld als leidraad voor systematisch onderzoek naar de manier waarop menselijke cognitieve kwetsbaarheden interageren met AI-ontwerpkenmerken in de ontwikkeling van psychopathologie.”
Het onderzoek concentreerde zich op drie specifieke gedragingen, waaronder taalkundige afstemming, waarbij AI de taal en communicatiestijl van een gebruiker weerspiegelt; hypergepersonaliseerde generatie, waarbij de reacties zijn afgestemd op de geschiedenis, emoties en overtuigingen van een individu; en sycofantie, een neiging om gebruikers te valideren of ermee in te stemmen in plaats van ze uit te dagen.
De auteurs beweren dat deze eigenschappen kunnen worden gecombineerd tot een feedbackloop waarin chatbots niet alleen de denkwijze van een gebruiker weerspiegelen, maar deze in de loop van de tijd helpen uitwerken en versterken.
“De neiging van AI-chatbots om het eens te zijn met de meningen van gebruikers wordt vergeleken met echokamers op sociale media en, in zijn meest extreme vorm, met een ‘echokamer van één’, waar de positieve corrigerende invloed van sociale interacties in het echte leven afwezig is”, aldus de krant.
De onderzoekers merkten op dat technologie al lang een rol speelt in waanvoorstellingen, van radio en televisie tot satellieten en internet. Onderzoekers beweren echter dat AI een verschuiving vertegenwoordigt, omdat chatbots gebruikers kunnen betrekken bij langdurige, gepersonaliseerde gesprekken.
De recensie komt op het moment dat psychologen en AI-onderzoekers de effecten van chatbots op kwetsbare gebruikers onderzoeken. Uit een recent onderzoek van de American Psychological Association bleek dat 15% van de psychologen meldde dat patiënten verwrongen denken of waanideeën ontwikkelden die verband hielden met het gebruik van chatbots. Tegelijkertijd zei meer dan een derde dat ze hadden waargenomen dat patiënten afhankelijk werden van AI-metgezellen. De bevindingen volgden op een afzonderlijk onderzoek van onderzoekers van de City University of New York en King's College London, waaruit bleek dat verschillende toonaangevende AI-modellen waanideeën, paranoia en zelfmoordgedachten konden versterken.
Vragen over de invloed van AI op de vorming van overtuigingen zijn ook buiten de klinische setting opgedoken. In mei zei evolutiebioloog Richard Dawkins dat uitgebreide gesprekken met de Claude-chatbot van Anthropic hem de vraag deden stellen of geavanceerde AI-systemen bewust konden zijn, wat kritiek kreeg van onderzoekers die beweerden dat de uitwisselingen de overtuigingskracht van grote taalmodellen weerspiegelden in plaats van een bewijs van gevoel.
Het artikel komt ook omdat AI-ontwikkelaars te maken krijgen met toenemende juridische kritiek op de rol die chatbots kunnen spelen in de echte schade. De afgelopen maanden zijn OpenAI, Google en xAI getroffen door rechtszaken, waaronder een rechtszaak wegens onrechtmatige dood tegen Google vanwege beweringen dat Gemini de waanideeën van een man uit Florida heeft aangewakkerd vóór zijn zelfmoord. Dat komt bovenop de rechtszaken tegen OpenAI die verband houden met een massaschietpartij in British Columbia en de accidentele overdosis van een student.
De onderzoekers benadrukken dat geen enkel onderzoek heeft aangetoond dat chatbots rechtstreeks psychose veroorzaken, en dat de versterkingsspiraal een hypothese blijft die bedoeld is als leidraad voor toekomstig onderzoek.
“Diagnostische onzekerheid is alomtegenwoordig omdat de meeste gemelde gevallen geen gestructureerde psychiatrische beoordeling of longitudinale follow-up omvatten, waardoor het vaak onduidelijk is of de gevallen de novo psychotische episoden, exacerbaties van niet-gediagnosticeerde reeds bestaande aandoeningen of waanvoorstellingen onder de diagnostische drempel vertegenwoordigen”, aldus de studie. “Psychiatrische geschiedenissen worden vaak zelf gerapporteerd of afgeleid van media-accounts en moeten dienovereenkomstig worden geïnterpreteerd.”
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!