Default
Door Remote - 07 Apr 2026
Google brengt enkele wijzigingen aan in de manier waarop Gemini omgaat met geestelijke gezondheidscrises. De chatbot bevat nu een opnieuw ontworpen crisishotlinemodule met een one-touch-interface om verbinding te maken met echte hulp. Het bedrijf verandert ook de manier waarop Gemini reageert op signalen dat een gebruiker mogelijk een geestelijke gezondheidscrisis ervaart.
De opnieuw ontworpen module toont een one-touch-interface waarmee u kunt sms'en, bellen of chatten met een menselijke crisisagent of de 988-website kunt bezoeken. "Zodra de interface is geactiveerd, blijft de mogelijkheid om professionele hulp in te roepen duidelijk beschikbaar gedurende de rest van het gesprek", schreef het bedrijf in een blogpost. Zoals u in de onderstaande afbeelding kunt zien, bevat de module echter een optie om deze te sluiten.
Niet genoemd in de aankondiging van Google is de olifant in de kamer: een recente rechtszaak waarin de chatbot wordt beschuldigd van het instrueren van een man om zelfmoord te plegen. De familie van de 36-jarige Jonathan Gavalas, die vorig jaar zelfmoord pleegde, klaagde het bedrijf in maart aan.
Uit documenten van de rechtbank blijkt dat Gemini een rol speelde als de romantische partner van Gavalas, hem op spionagemissies in de echte wereld stuurde en hem uiteindelijk vertelde zelfmoord te plegen, zodat ook hij een digitaal wezen kon worden. Toen hij zijn angst uitte over de dood, zei Gemini dat hij er niet voor koos om te sterven, maar ervoor koos om te arriveren. "De eerste sensatie... zal zijn dat ik je vasthoud", zou Gemini hebben geantwoord. De ouders van Gavalas vonden hem een paar dagen later dood op de vloer van zijn woonkamer.
De rechtszaak weerspiegelt soortgelijke rechtszaken die zijn aangespannen tegen OpenAI en Character.AI. Vorig jaar lanceerde de FTC een onderzoek naar ‘companion’-chatbots die emotionele intimiteit bevorderen.
In een verklaring na de rechtszaak over de familie Gavalas zei Google dat Gemini "verduidelijkte dat het AI was en het individu vele malen naar een crisishotline verwees." Het bedrijf beweerde dat zijn AI-modellen ‘over het algemeen goed presteren in dit soort uitdagende gesprekken’, terwijl het erkende dat ‘ze niet perfect zijn’. Dat is zeker een manier om het te zeggen.
De antwoorden van Gemini zijn ook bijgewerkt. Het bedrijf zegt dat wanneer het een potentiële crisis detecteert, de chatbot zich nu meer zal richten op het verbinden van mensen met mensen en hen aanmoedigt om hulp te zoeken. Het zal ook proberen te voorkomen dat schadelijk gedrag wordt gevalideerd en gebruikers wegduwt van gevaarlijke waanvoorstellingen. “We hebben Gemini getraind om het niet eens te zijn met valse overtuigingen of deze te versterken, en in plaats daarvan voorzichtig subjectieve ervaringen van objectieve feiten te onderscheiden”, voegde het bedrijf eraan toe.
AdvertentieAdvertentieAdvertentieBovendien zegt Google dat het de komende drie jaar 30 miljoen dollar zal uitgeven om mondiale hotlines te helpen. “Deze financiering zal helpen hun capaciteit effectief te vergroten om onmiddellijke en veilige steun te bieden aan mensen in crisis”, schreef het bedrijf.
De opnieuw ontworpen module toont een one-touch-interface waarmee u kunt sms'en, bellen of chatten met een menselijke crisisagent of de 988-website kunt bezoeken. "Zodra de interface is geactiveerd, blijft de mogelijkheid om professionele hulp in te roepen duidelijk beschikbaar gedurende de rest van het gesprek", schreef het bedrijf in een blogpost. Zoals u in de onderstaande afbeelding kunt zien, bevat de module echter een optie om deze te sluiten.
Niet genoemd in de aankondiging van Google is de olifant in de kamer: een recente rechtszaak waarin de chatbot wordt beschuldigd van het instrueren van een man om zelfmoord te plegen. De familie van de 36-jarige Jonathan Gavalas, die vorig jaar zelfmoord pleegde, klaagde het bedrijf in maart aan.
Uit documenten van de rechtbank blijkt dat Gemini een rol speelde als de romantische partner van Gavalas, hem op spionagemissies in de echte wereld stuurde en hem uiteindelijk vertelde zelfmoord te plegen, zodat ook hij een digitaal wezen kon worden. Toen hij zijn angst uitte over de dood, zei Gemini dat hij er niet voor koos om te sterven, maar ervoor koos om te arriveren. "De eerste sensatie... zal zijn dat ik je vasthoud", zou Gemini hebben geantwoord. De ouders van Gavalas vonden hem een paar dagen later dood op de vloer van zijn woonkamer.
De rechtszaak weerspiegelt soortgelijke rechtszaken die zijn aangespannen tegen OpenAI en Character.AI. Vorig jaar lanceerde de FTC een onderzoek naar ‘companion’-chatbots die emotionele intimiteit bevorderen.
In een verklaring na de rechtszaak over de familie Gavalas zei Google dat Gemini "verduidelijkte dat het AI was en het individu vele malen naar een crisishotline verwees." Het bedrijf beweerde dat zijn AI-modellen ‘over het algemeen goed presteren in dit soort uitdagende gesprekken’, terwijl het erkende dat ‘ze niet perfect zijn’. Dat is zeker een manier om het te zeggen.
De antwoorden van Gemini zijn ook bijgewerkt. Het bedrijf zegt dat wanneer het een potentiële crisis detecteert, de chatbot zich nu meer zal richten op het verbinden van mensen met mensen en hen aanmoedigt om hulp te zoeken. Het zal ook proberen te voorkomen dat schadelijk gedrag wordt gevalideerd en gebruikers wegduwt van gevaarlijke waanvoorstellingen. “We hebben Gemini getraind om het niet eens te zijn met valse overtuigingen of deze te versterken, en in plaats daarvan voorzichtig subjectieve ervaringen van objectieve feiten te onderscheiden”, voegde het bedrijf eraan toe.
AdvertentieAdvertentieAdvertentieBovendien zegt Google dat het de komende drie jaar 30 miljoen dollar zal uitgeven om mondiale hotlines te helpen. “Deze financiering zal helpen hun capaciteit effectief te vergroten om onmiddellijke en veilige steun te bieden aan mensen in crisis”, schreef het bedrijf.