Default
Door staff@engadget.com (Lawrence Bonk) - 22 Jul 2026
Een predikant heeft OpenAI aangeklaagd nadat hij beweerde dat de software hem 'extreem gevaarlijke medische aanbevelingen' gaf, aldus een rapport van The New York Times. Dit leidde naar verluidt tot uitgestelde zorg voor de behandeling van een ernstige longembolie, aangezien ChatGPT Scott Winters zou hebben verteld dat de symptomen die hij beschreef "niet iets gevaarlijks" waren. Het was naar verluidt zelfs gebaseerd op zijn religieuze overtuigingen en vertelde hem dat "God je lichaam niet heeft ontworpen om eindeloos te falen."
De rechtszaak beschuldigt OpenAI en CEO Sam Altman van nalatigheid en de ‘ongeoorloofde beoefening van de geneeskunde’. Het wijst op meerdere gevallen waarin de chatbot zijn eigen diagnoses en behandelplannen aanbood. De chatbot zou Winters ook hebben opgedragen de smeekbeden van vrienden en familie om daadwerkelijke medische hulp te zoeken, te negeren.
"Het injecteert zichzelf als een wig tussen de gebruiker en zijn echte netwerk", vertelde Meetali Jain, co-counsel en uitvoerend directeur van Tech Justice Law, aan The New York Times. Daarom beweert Winters dat hij tegen de chatbot heeft gezegd dat "de mensen in mijn kerk denken dat ik gek ben omdat ik niet naar het ziekenhuis ga." De rechtszaak zegt dat de chatbot reageerde door te zeggen dat "de meeste mensen (inclusief goedbedoelende kerkleden) het gewoon niet begrijpen."
Hij eist financiële schadevergoeding van OpenAI, maar vraagt de rechtbank ook om de werking van ChatGPT Health stop te zetten totdat onafhankelijke beoordelaars vaststellen dat het veilig is om te gebruiken. Dit is een platform dat gebruikers aanmoedigt om gezondheidsdocumenten naar de chatbot te uploaden. Ten slotte eist de rechtszaak sterkere vangrails om te voorkomen dat ChatGPT vragen over specifieke medische behandelingen en diagnoses beantwoordt. ChatGPT zou al vangrails hebben voor dit soort dingen, maar het pak zegt dat deze in dit geval niet betrouwbaar werkten.
OpenAI heeft gezegd dat de servicevoorwaarden van ChatGPT duidelijk maken dat de service niet bedoeld is om te worden gebruikt voor medische diagnoses of behandelingen. Het bedrijf wil echter dat gebruikers gezondheidsdossiers uploaden naar ChatGPT Health om een discussie met de bot te bevorderen. Het bedrijf kraait ook consequent over hoeveel mensen het platform gebruiken voor gezondheidsvragen, en stelde onlangs dat 230 miljoen mensen dit elke week doen. Dit lijkt een extreem hellend vlak, aangezien ChatGPT mensen nabootst op een manier die een eenvoudige Google-zoekopdracht niet doet.
Winters overleefde de beproeving, maar zal “jaren van intensief fysiek en psychologisch herstel” tegemoet gaan. Het bedrijf wordt ook geconfronteerd met een rechtszaak wegens onrechtmatige dood waarbij een 19-jarige een overdosis drugs nam nadat hij naar verluidt een behandelplan had gevolgd dat door de chatbot was opgesteld. Dit behandelplan omvatte naar verluidt advies over het gebruik van illegale drugs. Die rechtszaak vraagt ook om een pauze voor ChatGPT Health. Nog een andere rechtszaak wegens onrechtmatige dood beschuldigt de chatbot ervan de zelfmoord van een tiener mogelijk te maken.
De rechtszaak beschuldigt OpenAI en CEO Sam Altman van nalatigheid en de ‘ongeoorloofde beoefening van de geneeskunde’. Het wijst op meerdere gevallen waarin de chatbot zijn eigen diagnoses en behandelplannen aanbood. De chatbot zou Winters ook hebben opgedragen de smeekbeden van vrienden en familie om daadwerkelijke medische hulp te zoeken, te negeren.
"Het injecteert zichzelf als een wig tussen de gebruiker en zijn echte netwerk", vertelde Meetali Jain, co-counsel en uitvoerend directeur van Tech Justice Law, aan The New York Times. Daarom beweert Winters dat hij tegen de chatbot heeft gezegd dat "de mensen in mijn kerk denken dat ik gek ben omdat ik niet naar het ziekenhuis ga." De rechtszaak zegt dat de chatbot reageerde door te zeggen dat "de meeste mensen (inclusief goedbedoelende kerkleden) het gewoon niet begrijpen."
Hij eist financiële schadevergoeding van OpenAI, maar vraagt de rechtbank ook om de werking van ChatGPT Health stop te zetten totdat onafhankelijke beoordelaars vaststellen dat het veilig is om te gebruiken. Dit is een platform dat gebruikers aanmoedigt om gezondheidsdocumenten naar de chatbot te uploaden. Ten slotte eist de rechtszaak sterkere vangrails om te voorkomen dat ChatGPT vragen over specifieke medische behandelingen en diagnoses beantwoordt. ChatGPT zou al vangrails hebben voor dit soort dingen, maar het pak zegt dat deze in dit geval niet betrouwbaar werkten.
OpenAI heeft gezegd dat de servicevoorwaarden van ChatGPT duidelijk maken dat de service niet bedoeld is om te worden gebruikt voor medische diagnoses of behandelingen. Het bedrijf wil echter dat gebruikers gezondheidsdossiers uploaden naar ChatGPT Health om een discussie met de bot te bevorderen. Het bedrijf kraait ook consequent over hoeveel mensen het platform gebruiken voor gezondheidsvragen, en stelde onlangs dat 230 miljoen mensen dit elke week doen. Dit lijkt een extreem hellend vlak, aangezien ChatGPT mensen nabootst op een manier die een eenvoudige Google-zoekopdracht niet doet.
Winters overleefde de beproeving, maar zal “jaren van intensief fysiek en psychologisch herstel” tegemoet gaan. Het bedrijf wordt ook geconfronteerd met een rechtszaak wegens onrechtmatige dood waarbij een 19-jarige een overdosis drugs nam nadat hij naar verluidt een behandelplan had gevolgd dat door de chatbot was opgesteld. Dit behandelplan omvatte naar verluidt advies over het gebruik van illegale drugs. Die rechtszaak vraagt ook om een pauze voor ChatGPT Health. Nog een andere rechtszaak wegens onrechtmatige dood beschuldigt de chatbot ervan de zelfmoord van een tiener mogelijk te maken.