Default
Door staff@engadget.com (Karissa Bell) - 25 Jun 2026
xAI heeft Grok al lang gepromoot als een racer soort chatbot met minder vangrails dan andere AI-bedrijven. We hebben dat het afgelopen jaar op een aantal rampzalige manieren zien gebeuren, maar we krijgen nu enig inzicht in waarom het bedrijf zo hard op die strategie heeft geleund, ondanks enkele regelrechte PR-rampen.
Het blijkt dat NSFW-activiteiten "ruim de helft" van het verkeer van Grok voor hun rekening nemen, volgens een nieuw rapport in The Information waarin twee voormalige werknemers van het bedrijf dat eigendom is van SpaceX worden genoemd. Dat omvat het gebruik van Grok om echte porno te genereren, maar ook "rollenspelchats voor volwassenen" en "enorme hoeveelheden verzoeken om erotica."
De gebruikers van Grok hebben blijkbaar zelfs ontdekt dat het goedkoper is om dergelijke verzoeken te kanaliseren via de modellen van het bedrijf die bedoeld zijn voor het schrijven van code, omdat die goedkoper zijn in het gebruik. Het rapport zegt dat uit een interne analyse is gebleken dat een “aanzienlijk deel van de verzoeken” voor het coderingsmodel betrekking had op “porno of naaktfoto’s”. Dat alles zou erop wijzen dat SpaceX een behoorlijke hoeveelheid xAI-inkomsten kan toeschrijven aan porno en inhoud voor volwassenen. Hoewel de rol van NSFW-materiaal in de bedrijfsresultaten op de een of andere manier werd weggelaten uit het IPO-papierwerk van het bedrijf, vertelde SpaceX potentiële investeerders dat de meer "oneerbiedige" kenmerken van Grok een potentieel risico vormden. Het zei dat het $ 530 miljoen opzij had gezet om mogelijke juridische kosten op te vangen.
Het rapport zet ook enkele manieren uiteen waarop dit de zaken binnen het AI-bedrijf ingewikkeld heeft gemaakt. Ten eerste moesten xAI-ingenieurs uitzoeken hoe ze Grok in staat konden stellen sexy chats met gebruikers te voeren en tegelijkertijd alle aanwijzingen te blokkeren die zouden kunnen leiden tot materiaal over seksueel misbruik van kinderen. (Er waren blijkbaar geen ‘snelle oplossingen’ voor het dilemma.)
Sommige werknemers waren ook niet zo blij met de opdracht om te werken aan 'Ani', Grok's NSFW anime-geïnspireerde avatar-metgezel. Anderen waren naar verluidt "in verlegenheid gebracht en gestoord" door het daaropvolgende schandaal nadat Grok een aantal geseksualiseerde afbeeldingen van echte mensen, inclusief kinderen, had gemaakt. X beperkte later de mogelijkheid om pittige bewerkingen te maken van afbeeldingen van echte mensen die Grok rechtstreeks op het platform gebruikten, maar betaalde abonnees van xAI kunnen nog steeds dergelijk materiaal genereren, zo hebben tests uitgewezen.
Er zijn nog andere potentiële uitdagingen die zouden kunnen voortkomen uit Grok's focus op materiaal met een R-rating. xAI heeft op agressieve wijze overheidscontracten nagestreefd en deals gesloten met verschillende instanties en het leger, instellingen waarvan je normaal gesproken zou verwachten dat ze een zeer lage tolerantie hebben voor alles wat ook maar enigszins NSFW is. Maar hoewel Grok's zeer publieke eerdere pogingen tot deepfakes zonder wederzijds goedvinden en CSAM aanleiding hebben gegeven tot talloze rechtszaken en onderzoeken, is het niet duidelijk of deze incidenten enige invloed hebben gehad op de relatie met de federale overheid.
Het blijkt dat NSFW-activiteiten "ruim de helft" van het verkeer van Grok voor hun rekening nemen, volgens een nieuw rapport in The Information waarin twee voormalige werknemers van het bedrijf dat eigendom is van SpaceX worden genoemd. Dat omvat het gebruik van Grok om echte porno te genereren, maar ook "rollenspelchats voor volwassenen" en "enorme hoeveelheden verzoeken om erotica."
De gebruikers van Grok hebben blijkbaar zelfs ontdekt dat het goedkoper is om dergelijke verzoeken te kanaliseren via de modellen van het bedrijf die bedoeld zijn voor het schrijven van code, omdat die goedkoper zijn in het gebruik. Het rapport zegt dat uit een interne analyse is gebleken dat een “aanzienlijk deel van de verzoeken” voor het coderingsmodel betrekking had op “porno of naaktfoto’s”. Dat alles zou erop wijzen dat SpaceX een behoorlijke hoeveelheid xAI-inkomsten kan toeschrijven aan porno en inhoud voor volwassenen. Hoewel de rol van NSFW-materiaal in de bedrijfsresultaten op de een of andere manier werd weggelaten uit het IPO-papierwerk van het bedrijf, vertelde SpaceX potentiële investeerders dat de meer "oneerbiedige" kenmerken van Grok een potentieel risico vormden. Het zei dat het $ 530 miljoen opzij had gezet om mogelijke juridische kosten op te vangen.
Het rapport zet ook enkele manieren uiteen waarop dit de zaken binnen het AI-bedrijf ingewikkeld heeft gemaakt. Ten eerste moesten xAI-ingenieurs uitzoeken hoe ze Grok in staat konden stellen sexy chats met gebruikers te voeren en tegelijkertijd alle aanwijzingen te blokkeren die zouden kunnen leiden tot materiaal over seksueel misbruik van kinderen. (Er waren blijkbaar geen ‘snelle oplossingen’ voor het dilemma.)
Sommige werknemers waren ook niet zo blij met de opdracht om te werken aan 'Ani', Grok's NSFW anime-geïnspireerde avatar-metgezel. Anderen waren naar verluidt "in verlegenheid gebracht en gestoord" door het daaropvolgende schandaal nadat Grok een aantal geseksualiseerde afbeeldingen van echte mensen, inclusief kinderen, had gemaakt. X beperkte later de mogelijkheid om pittige bewerkingen te maken van afbeeldingen van echte mensen die Grok rechtstreeks op het platform gebruikten, maar betaalde abonnees van xAI kunnen nog steeds dergelijk materiaal genereren, zo hebben tests uitgewezen.
Er zijn nog andere potentiële uitdagingen die zouden kunnen voortkomen uit Grok's focus op materiaal met een R-rating. xAI heeft op agressieve wijze overheidscontracten nagestreefd en deals gesloten met verschillende instanties en het leger, instellingen waarvan je normaal gesproken zou verwachten dat ze een zeer lage tolerantie hebben voor alles wat ook maar enigszins NSFW is. Maar hoewel Grok's zeer publieke eerdere pogingen tot deepfakes zonder wederzijds goedvinden en CSAM aanleiding hebben gegeven tot talloze rechtszaken en onderzoeken, is het niet duidelijk of deze incidenten enige invloed hebben gehad op de relatie met de federale overheid.