Default
Door staff@engadget.com (Ian Carlos Campbell) - 03 Jun 2026
Het Britse Labour-parlementslid Jess Asato klaagt xAI aan wegens seksueel expliciete, door AI gegenereerde afbeeldingen die door Grok van haar zijn gemaakt, zo meldt The Financial Times. De rechtszaak is de eerste spraakmakende test of AI-bedrijven verantwoordelijk kunnen worden gehouden voor de inhoud die mensen in Groot-Brittannië met hun tools produceren.
Grok-gebruikers begonnen in januari met het produceren en delen van afbeeldingen van Asato, precies toen voor het eerst werd gemeld dat de AI-assistent was gebruikt om CSAM te creëren. Asato beweert dat gebruikers Grok hebben aangezet om afbeeldingen van haar in bikini te maken, samen met een expliciete video "waarin te zien is dat ze wordt gechloroformeerd en voorbereid op een aanranding", schrijft FT. Gebruikers deelden, bespraken en produceerden later meer AI-afbeeldingen op X, het sociale platform van xAI.
Vandaag dien ik een claim bij het Hooggerechtshof in tegen xAI, het bedrijf achter Grok.
Ik ben slechts een van de duizenden vrouwen en zelfs kinderen die het slachtoffer zijn geworden van beledigende en geseksualiseerde AI-deepfakes.
Dit had nooit mogen gebeuren – en xAI moet verantwoordelijk worden gehouden. https://t.co/Oc9XlxHQO6
— Jess Asato MP (@Jess4Lowestoft) 3 juni 2026
Asato's rechtszaak beweert dat xAI wetten over misbruik van privé-informatie en gegevensbescherming heeft overtreden, waardoor het bedrijf aansprakelijk is gesteld, ook al waren het individuele gebruikers die Grok gebruikten. Ze eist financiële schadevergoeding en een bevel dat xAI zal dwingen de Britse wet te volgen. “Mijn hoop is dat dit de rechten van individuen zal herbalanceren ten opzichte van zeer grote technologiebedrijven die voorzorgsmaatregelen hadden moeten treffen voordat ze vrouwen en kinderen schade toebrengen”, zei Asato tegen FT.
xAI beweerde dat het in januari beperkingen oplegde aan Grok's vermogen om seksueel expliciete beelden te produceren, maar die blokkades konden vrij gemakkelijk worden omzeild toen ze op de proef werden gesteld. De negatieve reactie op het vermogen van Grok om deepfakes zonder wederzijdse toestemming te produceren is wijdverbreid. Naast dat er onderzoek wordt gedaan in de EU, het VK en Californië, worden xAI of X ook aangeklaagd door de stad Baltimore, Maryland, een groep tieners en Ashley St. Clair, de moeder van een van de kinderen van Elon Musk.
Dit alles gebeurt terwijl SpaceX, de relatief nieuwe eigenaar van zowel xAI als X, naar de beurs probeert te gaan. Het is moeilijk te zeggen of de negatieve aandacht iets zal doen om de nieuwe beursintroductie van Musk te beïnvloeden, maar het lijkt er zeker op dat elke beweging over het regeren in Grok afkomstig zal zijn van toezichthouders of een van deze rechtszaken, en niet van de CEO van SpaceX zelf.
Grok-gebruikers begonnen in januari met het produceren en delen van afbeeldingen van Asato, precies toen voor het eerst werd gemeld dat de AI-assistent was gebruikt om CSAM te creëren. Asato beweert dat gebruikers Grok hebben aangezet om afbeeldingen van haar in bikini te maken, samen met een expliciete video "waarin te zien is dat ze wordt gechloroformeerd en voorbereid op een aanranding", schrijft FT. Gebruikers deelden, bespraken en produceerden later meer AI-afbeeldingen op X, het sociale platform van xAI.
Vandaag dien ik een claim bij het Hooggerechtshof in tegen xAI, het bedrijf achter Grok.
Ik ben slechts een van de duizenden vrouwen en zelfs kinderen die het slachtoffer zijn geworden van beledigende en geseksualiseerde AI-deepfakes.
Dit had nooit mogen gebeuren – en xAI moet verantwoordelijk worden gehouden. https://t.co/Oc9XlxHQO6
— Jess Asato MP (@Jess4Lowestoft) 3 juni 2026
Asato's rechtszaak beweert dat xAI wetten over misbruik van privé-informatie en gegevensbescherming heeft overtreden, waardoor het bedrijf aansprakelijk is gesteld, ook al waren het individuele gebruikers die Grok gebruikten. Ze eist financiële schadevergoeding en een bevel dat xAI zal dwingen de Britse wet te volgen. “Mijn hoop is dat dit de rechten van individuen zal herbalanceren ten opzichte van zeer grote technologiebedrijven die voorzorgsmaatregelen hadden moeten treffen voordat ze vrouwen en kinderen schade toebrengen”, zei Asato tegen FT.
xAI beweerde dat het in januari beperkingen oplegde aan Grok's vermogen om seksueel expliciete beelden te produceren, maar die blokkades konden vrij gemakkelijk worden omzeild toen ze op de proef werden gesteld. De negatieve reactie op het vermogen van Grok om deepfakes zonder wederzijdse toestemming te produceren is wijdverbreid. Naast dat er onderzoek wordt gedaan in de EU, het VK en Californië, worden xAI of X ook aangeklaagd door de stad Baltimore, Maryland, een groep tieners en Ashley St. Clair, de moeder van een van de kinderen van Elon Musk.
Dit alles gebeurt terwijl SpaceX, de relatief nieuwe eigenaar van zowel xAI als X, naar de beurs probeert te gaan. Het is moeilijk te zeggen of de negatieve aandacht iets zal doen om de nieuwe beursintroductie van Musk te beïnvloeden, maar het lijkt er zeker op dat elke beweging over het regeren in Grok afkomstig zal zijn van toezichthouders of een van deze rechtszaken, en niet van de CEO van SpaceX zelf.