Default
Door Remote - 17 Jul 2026
De stad San Francisco heeft Apple en Google opgedragen tientallen ‘nudify’-apps – softwareprogramma’s die afbeeldingen digitaal kunnen veranderen om de mensen erop te ontkleden – uit hun appstores te verwijderen.
De Californische wet criminaliseert elke activiteit die het creëren van deepfake-pornografie zonder wederzijds goedvinden ‘willens en wetens vergemakkelijkt’ of ‘roekeloos helpt of aanmoedigt’. In 2025 heeft Californië ook een wet aangenomen die slachtoffers de mogelijkheid biedt civiele stappen te ondernemen tegen externe facilitators van dergelijk materiaal. De stad zegt dat, ondanks deze bekende regelgeving, beide technologiebedrijven dergelijke programma's zijn blijven hosten en er geld mee verdienen.
“Apple en Google profiteren van apps die vrouwen en meisjes uitbuiten door niet-consensuele intieme deepfakes te genereren”, zei procureur van San Francisco, David Chiu, in een per e-mail verzonden verklaring aan TechCrunch. “Terwijl de bedrijven de banden met een aantal problematische apps verbreken, hebben Apple en Google de verantwoordelijkheid om proactief en waakzaam te zijn om seksueel misbruik te voorkomen.”
In brieven die door het kantoor van Chiu naar Google en Apple zijn gestuurd en die door TechCrunch zijn bekeken, wordt opgemerkt dat de bedrijven “al bijna een jaar op de hoogte zijn” van hun rol in “het verwerken van betalingen voor illegale aankopen”, maar dat ze dit desondanks zijn blijven doen.
Volgens de brieven zijn beide bedrijven herhaaldelijk gewaarschuwd dat zij deze apps hosten. In januari en opnieuw in april publiceerde het Tech Transparency Project rapporten en brieven naar beide bedrijven waarin werd opgemerkt dat er “tientallen apps” in hun appstores waren die “deepfake NCII [intieme afbeeldingen zonder wederzijds goedvinden] verkochten in ruil voor betalingen” die door de bedrijven waren verwerkt.
In het rapport van TTP uit april stond dat Google en Apple gebruikers opzettelijk naar dergelijke apps hadden ‘gestuurd’ en noemden beide bedrijven ‘belangrijke deelnemers aan de verspreiding van AI-tools die echte mensen in geseksualiseerde beelden kunnen veranderen’.
Bovendien vertelde Chiu aan Wired dat beide bedrijven waarschijnlijk “miljoenen dollars aan vergoedingen” hadden verdiend met apps die dergelijke diensten aanboden.
De brieven van het kantoor van Chiu waarschuwen dat Apple en Google civielrechtelijke straffen kunnen krijgen wegens het overtreden van de wet en verzoeken dat zij binnen 28 dagen contact opnemen met de stad.
Toen TechCrunch om commentaar vroeg, zei een woordvoerder van Apple dat het verboden was om nudify-apps in de App Store te verschijnen, en merkte verder op: "We hebben drie van de apps in kwestie verwijderd en zijn bezig met het beëindigen van hun ontwikkelaarsaccounts uit ons programma. We hebben contact met vier anderen die beleidsschendingen moeten aanpakken of het risico lopen ook te worden verwijderd."
Een Google-woordvoerder beweerde dat alle vijf Play-apps waarnaar in de brief van Chiu wordt verwezen, waren opgeschort van Google Play. “Wanneer overtredingen aan ons worden gemeld, onderzoeken we dit en ondernemen we snel actie, wat in het geval van deze apps onder meer het opschorten van honderden schendende apps en het beperken van gerelateerde zoektermen zoals ‘nudify’ in onze winkel omvatte”, voegde de woordvoerder eraan toe.
Deepfake-pornografie is grotendeels een probleem voor vrouwelijke beroemdheden, hoewel nudify-apps het mogelijk maken dat iedereen met een openbaar beschikbare foto het doelwit is.
Update 17 juli: dit artikel is bijgewerkt met verklaringen van Google en Apple.
De Californische wet criminaliseert elke activiteit die het creëren van deepfake-pornografie zonder wederzijds goedvinden ‘willens en wetens vergemakkelijkt’ of ‘roekeloos helpt of aanmoedigt’. In 2025 heeft Californië ook een wet aangenomen die slachtoffers de mogelijkheid biedt civiele stappen te ondernemen tegen externe facilitators van dergelijk materiaal. De stad zegt dat, ondanks deze bekende regelgeving, beide technologiebedrijven dergelijke programma's zijn blijven hosten en er geld mee verdienen.
“Apple en Google profiteren van apps die vrouwen en meisjes uitbuiten door niet-consensuele intieme deepfakes te genereren”, zei procureur van San Francisco, David Chiu, in een per e-mail verzonden verklaring aan TechCrunch. “Terwijl de bedrijven de banden met een aantal problematische apps verbreken, hebben Apple en Google de verantwoordelijkheid om proactief en waakzaam te zijn om seksueel misbruik te voorkomen.”
In brieven die door het kantoor van Chiu naar Google en Apple zijn gestuurd en die door TechCrunch zijn bekeken, wordt opgemerkt dat de bedrijven “al bijna een jaar op de hoogte zijn” van hun rol in “het verwerken van betalingen voor illegale aankopen”, maar dat ze dit desondanks zijn blijven doen.
Volgens de brieven zijn beide bedrijven herhaaldelijk gewaarschuwd dat zij deze apps hosten. In januari en opnieuw in april publiceerde het Tech Transparency Project rapporten en brieven naar beide bedrijven waarin werd opgemerkt dat er “tientallen apps” in hun appstores waren die “deepfake NCII [intieme afbeeldingen zonder wederzijds goedvinden] verkochten in ruil voor betalingen” die door de bedrijven waren verwerkt.
In het rapport van TTP uit april stond dat Google en Apple gebruikers opzettelijk naar dergelijke apps hadden ‘gestuurd’ en noemden beide bedrijven ‘belangrijke deelnemers aan de verspreiding van AI-tools die echte mensen in geseksualiseerde beelden kunnen veranderen’.
Bovendien vertelde Chiu aan Wired dat beide bedrijven waarschijnlijk “miljoenen dollars aan vergoedingen” hadden verdiend met apps die dergelijke diensten aanboden.
De brieven van het kantoor van Chiu waarschuwen dat Apple en Google civielrechtelijke straffen kunnen krijgen wegens het overtreden van de wet en verzoeken dat zij binnen 28 dagen contact opnemen met de stad.
Toen TechCrunch om commentaar vroeg, zei een woordvoerder van Apple dat het verboden was om nudify-apps in de App Store te verschijnen, en merkte verder op: "We hebben drie van de apps in kwestie verwijderd en zijn bezig met het beëindigen van hun ontwikkelaarsaccounts uit ons programma. We hebben contact met vier anderen die beleidsschendingen moeten aanpakken of het risico lopen ook te worden verwijderd."
Een Google-woordvoerder beweerde dat alle vijf Play-apps waarnaar in de brief van Chiu wordt verwezen, waren opgeschort van Google Play. “Wanneer overtredingen aan ons worden gemeld, onderzoeken we dit en ondernemen we snel actie, wat in het geval van deze apps onder meer het opschorten van honderden schendende apps en het beperken van gerelateerde zoektermen zoals ‘nudify’ in onze winkel omvatte”, voegde de woordvoerder eraan toe.
Deepfake-pornografie is grotendeels een probleem voor vrouwelijke beroemdheden, hoewel nudify-apps het mogelijk maken dat iedereen met een openbaar beschikbare foto het doelwit is.
Update 17 juli: dit artikel is bijgewerkt met verklaringen van Google en Apple.