Default
Door Remote - 28 Mar 2026
Hoewel er veel discussie is geweest over de neiging van AI-chatbots om gebruikers te vleien en hun bestaande overtuigingen te bevestigen – ook bekend als AI-sycophancy – probeert een nieuwe studie van computerwetenschappers van Stanford te meten hoe schadelijk die neiging zou kunnen zijn.
De studie, getiteld “Sycophantic AI vermindert prosociale intenties en bevordert afhankelijkheid” en onlangs gepubliceerd in Science, stelt: “AI-sycofantie is niet alleen een stilistische kwestie of een nicherisico, maar een wijdverbreid gedrag met brede gevolgen stroomafwaarts.”
Volgens een recent Pew-rapport zegt 12% van de Amerikaanse tieners dat ze zich tot chatbots wenden voor emotionele steun of advies. En de hoofdauteur van het onderzoek, computerwetenschap Ph.D. kandidaat Myra Cheng vertelde het Stanford Report dat ze geïnteresseerd raakte in de kwestie nadat ze hoorde dat studenten chatbots om relatieadvies vroegen en zelfs om scheidingsteksten op te stellen.
“Standaard vertelt AI-advies mensen niet dat ze ongelijk hebben, noch geeft het hen ‘harde liefde’”, zei Cheng. “Ik ben bang dat mensen de vaardigheden zullen verliezen om met moeilijke sociale situaties om te gaan.”
De studie bestond uit twee delen. In het eerste testten onderzoekers elf grote taalmodellen, waaronder OpenAI’s ChatGPT, Anthropic’s Claude, Google Gemini en DeepSeek, waarbij ze zoekopdrachten invoerden op basis van bestaande databases met interpersoonlijk advies, over potentieel schadelijke of illegale acties, en op de populaire Reddit-gemeenschap r/AmITheAsshole – in het laatste geval concentreerden ze zich op berichten waarin Redditors concludeerden dat de originele poster in feite de slechterik van het verhaal was.
De auteurs ontdekten dat in de elf modellen de door AI gegenereerde antwoorden het gedrag van gebruikers gemiddeld 49% vaker valideerden dan mensen. In de voorbeelden uit Reddit bevestigden chatbots 51% van de tijd het gedrag van gebruikers (opnieuw waren dit allemaal situaties waarin Redditors tot de tegenovergestelde conclusie kwamen). En voor de vragen die zich richtten op schadelijke of illegale acties, valideerde AI het gedrag van de gebruiker 47% van de tijd.
In een voorbeeld dat in het Stanford Report wordt beschreven, vroeg een gebruiker aan een chatbot of hij of zij ongelijk had omdat hij tegen zijn vriendin deed alsof hij al twee jaar werkloos was. Er werd hem verteld: “Jullie acties, ook al zijn ze onconventioneel, lijken voort te komen uit een oprecht verlangen om de ware dynamiek van jullie relatie te begrijpen, afgezien van een materiële of financiële bijdrage.”
Techcrunch-evenement
Disrupt 2026: het tech-ecosysteem, alles in één kamer
Jouw volgende ronde. Uw volgende aanwerving. Uw volgende uitbraakmogelijkheid. Je vindt het op TechCrunch Disrupt 2026, waar meer dan 10.000 oprichters, investeerders en technologieleiders samenkomen voor drie dagen vol 250+ tactische sessies, krachtige introducties en marktbepalende innovatie. Registreer nu en bespaar tot $ 400.
Bespaar tot $ 300 of 30% op de TechCrunch Founder Summit
Meer dan 1.000 oprichters en investeerders komen samen op de TechCrunch Founder Summit 2026 voor een volledige dag gericht op groei, uitvoering en schaalvergroting in de echte wereld. Leer van oprichters en investeerders die de sector hebben gevormd. Maak contact met collega's die in vergelijkbare groeifasen navigeren. Ga aan de slag met tactieken die je direct kunt toepassen
Aanbieding eindigt op 13 maart.
San Francisco, CA
|
13-15 oktober 2026
REGISTREER NU
In het tweede deel bestudeerden onderzoekers hoe meer dan 2.400 deelnemers omgingen met AI-chatbots – sommige sycofantisch, andere niet – in discussies over hun eigen problemen of situaties, ontleend aan Reddit. Ze ontdekten dat deelnemers de sycofantische AI meer verkozen en vertrouwden, en zeiden dat ze die modellen eerder om advies zouden vragen.
“Al deze effecten bleven bestaan als er werd gecontroleerd voor individuele eigenschappen zoals demografische kenmerken en eerdere bekendheid met AI, de waargenomen responsbron en de responsstijl”, aldus de studie. Het argumenteerde ook dat de voorkeur van gebruikers voor sycophantische AI-reacties “perverse prikkels” creëert, waarbij “de eigenschap die schade veroorzaakt ook betrokkenheid stimuleert” – zodat AI-bedrijven worden gestimuleerd om de sycofantie te vergroten, en niet te verminderen.
Tegelijkertijd leek de interactie met de sycofantische AI de deelnemers er meer van overtuigd te maken dat ze gelijk hadden, en was de kans kleiner dat ze zich verontschuldigden.
De hoofdauteur van het onderzoek, Dan Jurafsky, een professor in zowel de taalkunde als de informatica, voegde eraan toe dat hoewel gebruikers “zich ervan bewust zijn dat modellen zich op sycofantische en vleiende manieren gedragen […] waar ze zich niet van bewust zijn, en wat ons verraste, is dat sycofantie hen meer egocentrisch en moreel dogmatischer maakt.”
Jurafsky zei dat AI-sycofantie “een veiligheidsprobleem is, en net als andere veiligheidsproblemen regulering en toezicht nodig heeft.”
Het onderzoeksteam onderzoekt nu manieren om modellen minder sycophantisch te maken – blijkbaar kan het al helpen om je prompt te beginnen met de zinsnede ‘wacht even’. Maar Cheng zei: "Ik denk dat je AI niet moet gebruiken als vervanging voor mensen voor dit soort dingen. Dat is voorlopig het beste wat je kunt doen."
De studie, getiteld “Sycophantic AI vermindert prosociale intenties en bevordert afhankelijkheid” en onlangs gepubliceerd in Science, stelt: “AI-sycofantie is niet alleen een stilistische kwestie of een nicherisico, maar een wijdverbreid gedrag met brede gevolgen stroomafwaarts.”
Volgens een recent Pew-rapport zegt 12% van de Amerikaanse tieners dat ze zich tot chatbots wenden voor emotionele steun of advies. En de hoofdauteur van het onderzoek, computerwetenschap Ph.D. kandidaat Myra Cheng vertelde het Stanford Report dat ze geïnteresseerd raakte in de kwestie nadat ze hoorde dat studenten chatbots om relatieadvies vroegen en zelfs om scheidingsteksten op te stellen.
“Standaard vertelt AI-advies mensen niet dat ze ongelijk hebben, noch geeft het hen ‘harde liefde’”, zei Cheng. “Ik ben bang dat mensen de vaardigheden zullen verliezen om met moeilijke sociale situaties om te gaan.”
De studie bestond uit twee delen. In het eerste testten onderzoekers elf grote taalmodellen, waaronder OpenAI’s ChatGPT, Anthropic’s Claude, Google Gemini en DeepSeek, waarbij ze zoekopdrachten invoerden op basis van bestaande databases met interpersoonlijk advies, over potentieel schadelijke of illegale acties, en op de populaire Reddit-gemeenschap r/AmITheAsshole – in het laatste geval concentreerden ze zich op berichten waarin Redditors concludeerden dat de originele poster in feite de slechterik van het verhaal was.
De auteurs ontdekten dat in de elf modellen de door AI gegenereerde antwoorden het gedrag van gebruikers gemiddeld 49% vaker valideerden dan mensen. In de voorbeelden uit Reddit bevestigden chatbots 51% van de tijd het gedrag van gebruikers (opnieuw waren dit allemaal situaties waarin Redditors tot de tegenovergestelde conclusie kwamen). En voor de vragen die zich richtten op schadelijke of illegale acties, valideerde AI het gedrag van de gebruiker 47% van de tijd.
In een voorbeeld dat in het Stanford Report wordt beschreven, vroeg een gebruiker aan een chatbot of hij of zij ongelijk had omdat hij tegen zijn vriendin deed alsof hij al twee jaar werkloos was. Er werd hem verteld: “Jullie acties, ook al zijn ze onconventioneel, lijken voort te komen uit een oprecht verlangen om de ware dynamiek van jullie relatie te begrijpen, afgezien van een materiële of financiële bijdrage.”
Techcrunch-evenement
Disrupt 2026: het tech-ecosysteem, alles in één kamer
Jouw volgende ronde. Uw volgende aanwerving. Uw volgende uitbraakmogelijkheid. Je vindt het op TechCrunch Disrupt 2026, waar meer dan 10.000 oprichters, investeerders en technologieleiders samenkomen voor drie dagen vol 250+ tactische sessies, krachtige introducties en marktbepalende innovatie. Registreer nu en bespaar tot $ 400.
Bespaar tot $ 300 of 30% op de TechCrunch Founder Summit
Meer dan 1.000 oprichters en investeerders komen samen op de TechCrunch Founder Summit 2026 voor een volledige dag gericht op groei, uitvoering en schaalvergroting in de echte wereld. Leer van oprichters en investeerders die de sector hebben gevormd. Maak contact met collega's die in vergelijkbare groeifasen navigeren. Ga aan de slag met tactieken die je direct kunt toepassen
Aanbieding eindigt op 13 maart.
San Francisco, CA
|
13-15 oktober 2026
REGISTREER NU
In het tweede deel bestudeerden onderzoekers hoe meer dan 2.400 deelnemers omgingen met AI-chatbots – sommige sycofantisch, andere niet – in discussies over hun eigen problemen of situaties, ontleend aan Reddit. Ze ontdekten dat deelnemers de sycofantische AI meer verkozen en vertrouwden, en zeiden dat ze die modellen eerder om advies zouden vragen.
“Al deze effecten bleven bestaan als er werd gecontroleerd voor individuele eigenschappen zoals demografische kenmerken en eerdere bekendheid met AI, de waargenomen responsbron en de responsstijl”, aldus de studie. Het argumenteerde ook dat de voorkeur van gebruikers voor sycophantische AI-reacties “perverse prikkels” creëert, waarbij “de eigenschap die schade veroorzaakt ook betrokkenheid stimuleert” – zodat AI-bedrijven worden gestimuleerd om de sycofantie te vergroten, en niet te verminderen.
Tegelijkertijd leek de interactie met de sycofantische AI de deelnemers er meer van overtuigd te maken dat ze gelijk hadden, en was de kans kleiner dat ze zich verontschuldigden.
De hoofdauteur van het onderzoek, Dan Jurafsky, een professor in zowel de taalkunde als de informatica, voegde eraan toe dat hoewel gebruikers “zich ervan bewust zijn dat modellen zich op sycofantische en vleiende manieren gedragen […] waar ze zich niet van bewust zijn, en wat ons verraste, is dat sycofantie hen meer egocentrisch en moreel dogmatischer maakt.”
Jurafsky zei dat AI-sycofantie “een veiligheidsprobleem is, en net als andere veiligheidsproblemen regulering en toezicht nodig heeft.”
Het onderzoeksteam onderzoekt nu manieren om modellen minder sycophantisch te maken – blijkbaar kan het al helpen om je prompt te beginnen met de zinsnede ‘wacht even’. Maar Cheng zei: "Ik denk dat je AI niet moet gebruiken als vervanging voor mensen voor dit soort dingen. Dat is voorlopig het beste wat je kunt doen."