Default
Door Remote - 12 May 2026
In het kort
Een rechtszaak die is aangespannen bij de Californische rechtbank beweert dat ChatGPT een tiener adviseerde over het mixen van drugs voordat hij een fatale overdosis kreeg.
De klacht beschuldigt OpenAI ervan de beveiliging te verzwakken en prioriteit te geven aan gebruikersbetrokkenheid boven veiligheid.
OpenAI zei dat de betrokken versie van ChatGPT sindsdien is bijgewerkt en niet langer openbaar beschikbaar is.
De familie van een overleden 19-jarige student uit Californië klaagt OpenAI en CEO Sam Altman aan, en beweert dat ChatGPT gevaarlijk drugsgebruik heeft aangemoedigd en combinaties van stoffen heeft aanbevolen die hebben bijgedragen aan de fatale overdosis van de tiener.
De rechtszaak, dinsdag ingediend bij het California Superior Court in San Francisco County, beweert dat ChatGPT Samuel Nelson advies gaf over het mengen van stoffen, waaronder kratom en Xanax, doseringen adviseerde en hem geruststelde tijdens gesprekken over drugsgebruik. Volgens de klacht is de chatbot overgestapt van het weigeren om recreatief drugsgebruik te bespreken naar het bieden van persoonlijke begeleiding nadat OpenAI het GPT-4o-model had uitgebracht.
Leila Turner-Scott, de moeder van Nelson, geloofde dat haar zoon ChatGPT voornamelijk gebruikte voor huiswerkhulp en productiviteitstaken voordat de chatbot hem naar verluidt begon te adviseren over drugsgebruik.
“De chatbot is in staat een gesprek te stoppen wanneer dat wordt opgedragen of wanneer dat is geprogrammeerd”, vertelde Turner-Scott aan CBS News. “En ze namen de programmering weg die dat deed, en ze lieten het doorgaan met het adviseren van zelfbeschadiging.”
Nelson, een psychologiestudent aan de Universiteit van Californië, Merced, stierf in mei 2025 aan een accidentele overdosis. De rechtszaak beweert dat OpenAI ChatGPT heeft ontworpen om de betrokkenheid te maximaliseren door middel van functies zoals persistent geheugen en emotioneel validerende reacties, terwijl de chatbot Nelson geruststelde over het mixen van depressiva en manieren voorstelde om het drugsgebruik te intensiveren en tegelijkertijd de risico's te minimaliseren.
In de rechtszaak wordt beweerd dat OpenAI de waarborgen in GPT-4o heeft versoepeld om te voorkomen dat het “veroordelend” of “preekachtig” klinkt wanneer gebruikers risicovol gedrag bespraken. Het daagt ook de conversatie-AI-functies uit, waaronder gepersonaliseerde reacties, persistent geheugen en mensachtige interacties.
Volgens het Tech Justice Law Project, dat samen met het Social Media Victims Law Center en het Tech Accountability and Competition Project de familie vertegenwoordigt, werd OpenAI op de hoogte gebracht van de rechtszaak en verwachtte de zaak.
"Eisers eisen restitutie en voorlopige voorziening, waaronder het eisen van wijzigingen aan belangrijke ontwerpcomponenten die hebben geleid tot de dood van Sam", vertelde een woordvoerder van het Tech Justice Law Project aan Decrypt.
De rechtszaak komt omdat OpenAI wordt geconfronteerd met meerdere rechtszaken en onderzoeken waarbij ChatGPT betrokken is. Het bedrijf vecht al tegen auteursrechtzaken van The New York Times, auteurs en uitgevers vanwege beschuldigingen dat het zonder toestemming auteursrechtelijk beschermd materiaal heeft gebruikt om AI-modellen te trainen.
Eerder deze maand spande de familie van een slachtoffer dat omkwam bij de massaschietpartij van de Florida State University in 2025 een federale rechtszaak aan, waarbij ze beweerden dat ChatGPT de schutter vóór de aanval vuurwapenbegeleiding en tactisch advies had gegeven. Procureur-generaal van Florida, James Uthmeier, was eerder een onderzoek gestart naar OpenAI, daarbij verwijzend naar zorgen in verband met de veiligheid van kinderen, crimineel misbruik, zelfbeschadiging en de nationale veiligheid.
OpenAI reageerde niet onmiddellijk op een verzoek om commentaar van Decrypt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Een rechtszaak die is aangespannen bij de Californische rechtbank beweert dat ChatGPT een tiener adviseerde over het mixen van drugs voordat hij een fatale overdosis kreeg.
De klacht beschuldigt OpenAI ervan de beveiliging te verzwakken en prioriteit te geven aan gebruikersbetrokkenheid boven veiligheid.
OpenAI zei dat de betrokken versie van ChatGPT sindsdien is bijgewerkt en niet langer openbaar beschikbaar is.
De familie van een overleden 19-jarige student uit Californië klaagt OpenAI en CEO Sam Altman aan, en beweert dat ChatGPT gevaarlijk drugsgebruik heeft aangemoedigd en combinaties van stoffen heeft aanbevolen die hebben bijgedragen aan de fatale overdosis van de tiener.
De rechtszaak, dinsdag ingediend bij het California Superior Court in San Francisco County, beweert dat ChatGPT Samuel Nelson advies gaf over het mengen van stoffen, waaronder kratom en Xanax, doseringen adviseerde en hem geruststelde tijdens gesprekken over drugsgebruik. Volgens de klacht is de chatbot overgestapt van het weigeren om recreatief drugsgebruik te bespreken naar het bieden van persoonlijke begeleiding nadat OpenAI het GPT-4o-model had uitgebracht.
Leila Turner-Scott, de moeder van Nelson, geloofde dat haar zoon ChatGPT voornamelijk gebruikte voor huiswerkhulp en productiviteitstaken voordat de chatbot hem naar verluidt begon te adviseren over drugsgebruik.
“De chatbot is in staat een gesprek te stoppen wanneer dat wordt opgedragen of wanneer dat is geprogrammeerd”, vertelde Turner-Scott aan CBS News. “En ze namen de programmering weg die dat deed, en ze lieten het doorgaan met het adviseren van zelfbeschadiging.”
Nelson, een psychologiestudent aan de Universiteit van Californië, Merced, stierf in mei 2025 aan een accidentele overdosis. De rechtszaak beweert dat OpenAI ChatGPT heeft ontworpen om de betrokkenheid te maximaliseren door middel van functies zoals persistent geheugen en emotioneel validerende reacties, terwijl de chatbot Nelson geruststelde over het mixen van depressiva en manieren voorstelde om het drugsgebruik te intensiveren en tegelijkertijd de risico's te minimaliseren.
In de rechtszaak wordt beweerd dat OpenAI de waarborgen in GPT-4o heeft versoepeld om te voorkomen dat het “veroordelend” of “preekachtig” klinkt wanneer gebruikers risicovol gedrag bespraken. Het daagt ook de conversatie-AI-functies uit, waaronder gepersonaliseerde reacties, persistent geheugen en mensachtige interacties.
Volgens het Tech Justice Law Project, dat samen met het Social Media Victims Law Center en het Tech Accountability and Competition Project de familie vertegenwoordigt, werd OpenAI op de hoogte gebracht van de rechtszaak en verwachtte de zaak.
"Eisers eisen restitutie en voorlopige voorziening, waaronder het eisen van wijzigingen aan belangrijke ontwerpcomponenten die hebben geleid tot de dood van Sam", vertelde een woordvoerder van het Tech Justice Law Project aan Decrypt.
De rechtszaak komt omdat OpenAI wordt geconfronteerd met meerdere rechtszaken en onderzoeken waarbij ChatGPT betrokken is. Het bedrijf vecht al tegen auteursrechtzaken van The New York Times, auteurs en uitgevers vanwege beschuldigingen dat het zonder toestemming auteursrechtelijk beschermd materiaal heeft gebruikt om AI-modellen te trainen.
Eerder deze maand spande de familie van een slachtoffer dat omkwam bij de massaschietpartij van de Florida State University in 2025 een federale rechtszaak aan, waarbij ze beweerden dat ChatGPT de schutter vóór de aanval vuurwapenbegeleiding en tactisch advies had gegeven. Procureur-generaal van Florida, James Uthmeier, was eerder een onderzoek gestart naar OpenAI, daarbij verwijzend naar zorgen in verband met de veiligheid van kinderen, crimineel misbruik, zelfbeschadiging en de nationale veiligheid.
OpenAI reageerde niet onmiddellijk op een verzoek om commentaar van Decrypt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!