Default
Door staff@engadget.com (Mariella Moon) - 16 Jul 2026
SpaceXAI (als xAI) heeft een rechtszaak aangespannen tegen Terry Wayne Harwood, een 67-jarige man uit South Carolina die door het bedrijf wordt beschuldigd van het gebruik van Grok om zonder hun toestemming seksuele beelden van echte mensen te genereren. In de klacht die xAI in Texas indiende, stond dat de beklaagde van 8 december 2025 tot 18 februari 2026 niet-seksuele afbeeldingen van talloze volwassenen en minderjarigen naar zijn twee xAI-accounts had geüpload. Vervolgens vroeg hij Grok om de foto's te wijzigen of om nieuwe afbeeldingen en video's te maken waarin de volwassenen en kinderen erop worden afgebeeld "op pornografische wijze of anderszins seksualiserend".
Het bedrijf zei dat Grok "meerdere keren" weigerde zijn aanwijzingen op te volgen, maar dat hij herhaaldelijk bewerkte aanwijzingen indiende om de beveiligingen van de AI te omzeilen. In een voorbeeld dat in de indiening wordt genoemd, zei xAI dat Harwood de foto uploadde van een volledig gekleed meisje van ongeveer 10 tot 11 jaar oud en vervolgens aan Grok vroeg om al haar kleding uit te trekken en haar een 'Playboy-model-impressie' te laten maken terwijl ze in bed lag. Grok weigerde zijn verzoek, aldus de rechtszaak, maar hij bleef gewijzigde verzoeken indienen. Zoals Reuters opmerkt, is dit een van de eerste rechtszaken die een AI-bedrijf tegen een van zijn gebruikers heeft aangespannen, en het zendt een bericht uit dat xAI een aanklacht zal indienen wegens misbruik van Grok.
Begin januari kwamen er berichten naar buiten dat Grok zijn gebruikers toestaat foto's van echte vrouwen en kinderen om te zetten in geseksualiseerde afbeeldingen. Toezichthouders startten snel een formeel onderzoek naar Grok nadat het schandaal was ontploft. De Californische autoriteiten zijn medio januari begonnen met het onderzoeken van de AI, net als de Britse toezichthouder Ofcom. De Europese Commissie en de Ierse Commissie voor Gegevensbescherming hebben ook afzonderlijke onderzoeken geopend.
xAI heeft maatregelen geïmplementeerd om te voorkomen dat gebruikers onsensuele seksuele deepfakes genereren toen het onderzoek begon. Maar zelfs daarna konden gebruikers Grok nog steeds gebruiken om mannen uit te kleden, en Harwood bleef afbeeldingen naar zijn account uploaden en deze gebruiken om geseksualiseerde bewerkingen te genereren.
Het kantoor van de procureur-generaal van South Carolina maakte op 9 maart de arrestatie van Harwood bekend, als onderdeel van de activiteiten van de Internet Crimes Against Children Task Force. Harwood werd beschuldigd van drie aanklachten van seksuele uitbuiting in de tweede graad van een minderjarige en vijf aanklachten van seksuele uitbuiting van een minderjarige in de derde graad. Harwood beschikte niet alleen over materiaal over seksueel kindermisbruik, hij verspreidde het ook.
xAI vraagt de rechtbank nu om een onbepaald bedrag aan schadevergoeding. Het wil dat de rechtbank de verdachte veroordeelt tot het betalen van de kosten die hij maakt om zichzelf te verdedigen in eventuele juridische stappen die door zijn slachtoffers zouden kunnen worden aangespannen.
Het bedrijf zei dat Grok "meerdere keren" weigerde zijn aanwijzingen op te volgen, maar dat hij herhaaldelijk bewerkte aanwijzingen indiende om de beveiligingen van de AI te omzeilen. In een voorbeeld dat in de indiening wordt genoemd, zei xAI dat Harwood de foto uploadde van een volledig gekleed meisje van ongeveer 10 tot 11 jaar oud en vervolgens aan Grok vroeg om al haar kleding uit te trekken en haar een 'Playboy-model-impressie' te laten maken terwijl ze in bed lag. Grok weigerde zijn verzoek, aldus de rechtszaak, maar hij bleef gewijzigde verzoeken indienen. Zoals Reuters opmerkt, is dit een van de eerste rechtszaken die een AI-bedrijf tegen een van zijn gebruikers heeft aangespannen, en het zendt een bericht uit dat xAI een aanklacht zal indienen wegens misbruik van Grok.
Begin januari kwamen er berichten naar buiten dat Grok zijn gebruikers toestaat foto's van echte vrouwen en kinderen om te zetten in geseksualiseerde afbeeldingen. Toezichthouders startten snel een formeel onderzoek naar Grok nadat het schandaal was ontploft. De Californische autoriteiten zijn medio januari begonnen met het onderzoeken van de AI, net als de Britse toezichthouder Ofcom. De Europese Commissie en de Ierse Commissie voor Gegevensbescherming hebben ook afzonderlijke onderzoeken geopend.
xAI heeft maatregelen geïmplementeerd om te voorkomen dat gebruikers onsensuele seksuele deepfakes genereren toen het onderzoek begon. Maar zelfs daarna konden gebruikers Grok nog steeds gebruiken om mannen uit te kleden, en Harwood bleef afbeeldingen naar zijn account uploaden en deze gebruiken om geseksualiseerde bewerkingen te genereren.
Het kantoor van de procureur-generaal van South Carolina maakte op 9 maart de arrestatie van Harwood bekend, als onderdeel van de activiteiten van de Internet Crimes Against Children Task Force. Harwood werd beschuldigd van drie aanklachten van seksuele uitbuiting in de tweede graad van een minderjarige en vijf aanklachten van seksuele uitbuiting van een minderjarige in de derde graad. Harwood beschikte niet alleen over materiaal over seksueel kindermisbruik, hij verspreidde het ook.
xAI vraagt de rechtbank nu om een onbepaald bedrag aan schadevergoeding. Het wil dat de rechtbank de verdachte veroordeelt tot het betalen van de kosten die hij maakt om zichzelf te verdedigen in eventuele juridische stappen die door zijn slachtoffers zouden kunnen worden aangespannen.