Default
Door staff@engadget.com (Matt Tate) - 17 Jul 2026
Apple en Google hebben een last onder dwangsom ontvangen waarin wordt geëist dat ze door AI aangedreven ‘nudify’-apps uit hun respectievelijke appstores verwijderen.
Zoals gemeld door Wired heeft de stadsadvocaat van San Francisco, David Chiu, de twee technologiegiganten opdracht gegeven om in totaal dertien apps te verwijderen die kunnen worden gebruikt om door AI gegenereerde deepfake naaktfoto's te maken. In de brieven wordt een beroep gedaan op Apple en Google om te stoppen met het "helpen" van de verspreiding van niet-consensuele intieme afbeeldingen, en wordt hen gevraagd niet meer samen te werken met de app-ontwikkelaars in kwestie.
Dit is niet de eerste keer dat Chiu deepfake-platforms gebruikt. Eerder heeft hij een rechtszaak aangespannen tegen zestien websites waarmee gebruikers afbeeldingen van echte vrouwen en meisjes kunnen omzetten in pornografie met behulp van AI. Hij vertelde Wired dat Apple en Google waarschijnlijk miljoenen hebben verdiend met in-app-betalingen van de overtredende apps, en dat hun winkels betere moderatie nodig hebben om ervoor te zorgen dat ze niet worden goedgekeurd.
Ondanks de wijdverbreide publieke verontwaardiging over deepfakes, kwam eerder dit jaar via een rapport van The Tech Transparency Project (TTP) naar voren dat nudificatie-apps regelmatig voorbij de moderators van Apple en Google kwamen. En het ging nog verder en beweerde dat sommige ervan zelfs actief werden gepromoot in de App Store en Google Play. Het rapport beweerde ook dat veel van deze apps de beoordeling 'E' voor iedereen hadden gekregen, waardoor kinderen ze konden downloaden. Het vinden van de apps is net zo eenvoudig als het zoeken naar termen als ‘naakt maken’ of ‘uitkleden’. Dit ondanks het feit dat beide bedrijven beleid hebben dat seksueel of pornografisch materiaal op hun platforms verbiedt.
Google en Apple zijn niet de enige bedrijven die worstelen met de verspreiding van deepfakes op internet. Meta's Oversight Board heeft het bedrijf onlangs opgeroepen om de bescherming van gewone mensen die het doelwit zijn te versterken, waarbij de bestaande preventieve maatregelen schijnbaar in het voordeel zijn van publieke figuren. De xAI van Elon Musk is ook het onderwerp geweest van verschillende rechtszaken met betrekking tot deepfakes zonder wederzijds goedvinden.
Een woordvoerder van Google vertelde Wired dat het bedrijf "honderden" apps met nudificatiefuncties had verwijderd, waarvan er vijf door Chiu op de hoogte waren gebracht. Het herhaalde ook dat zijn beleid seksuele inhoud verbiedt en zei dat het "snel actie" onderneemt als blijkt dat een gerapporteerde app de regels schendt. Wired voegde eraan toe dat Apple voorafgaand aan de publicatie geen commentaar heeft gegeven.
Zoals gemeld door Wired heeft de stadsadvocaat van San Francisco, David Chiu, de twee technologiegiganten opdracht gegeven om in totaal dertien apps te verwijderen die kunnen worden gebruikt om door AI gegenereerde deepfake naaktfoto's te maken. In de brieven wordt een beroep gedaan op Apple en Google om te stoppen met het "helpen" van de verspreiding van niet-consensuele intieme afbeeldingen, en wordt hen gevraagd niet meer samen te werken met de app-ontwikkelaars in kwestie.
Dit is niet de eerste keer dat Chiu deepfake-platforms gebruikt. Eerder heeft hij een rechtszaak aangespannen tegen zestien websites waarmee gebruikers afbeeldingen van echte vrouwen en meisjes kunnen omzetten in pornografie met behulp van AI. Hij vertelde Wired dat Apple en Google waarschijnlijk miljoenen hebben verdiend met in-app-betalingen van de overtredende apps, en dat hun winkels betere moderatie nodig hebben om ervoor te zorgen dat ze niet worden goedgekeurd.
Ondanks de wijdverbreide publieke verontwaardiging over deepfakes, kwam eerder dit jaar via een rapport van The Tech Transparency Project (TTP) naar voren dat nudificatie-apps regelmatig voorbij de moderators van Apple en Google kwamen. En het ging nog verder en beweerde dat sommige ervan zelfs actief werden gepromoot in de App Store en Google Play. Het rapport beweerde ook dat veel van deze apps de beoordeling 'E' voor iedereen hadden gekregen, waardoor kinderen ze konden downloaden. Het vinden van de apps is net zo eenvoudig als het zoeken naar termen als ‘naakt maken’ of ‘uitkleden’. Dit ondanks het feit dat beide bedrijven beleid hebben dat seksueel of pornografisch materiaal op hun platforms verbiedt.
Google en Apple zijn niet de enige bedrijven die worstelen met de verspreiding van deepfakes op internet. Meta's Oversight Board heeft het bedrijf onlangs opgeroepen om de bescherming van gewone mensen die het doelwit zijn te versterken, waarbij de bestaande preventieve maatregelen schijnbaar in het voordeel zijn van publieke figuren. De xAI van Elon Musk is ook het onderwerp geweest van verschillende rechtszaken met betrekking tot deepfakes zonder wederzijds goedvinden.
Een woordvoerder van Google vertelde Wired dat het bedrijf "honderden" apps met nudificatiefuncties had verwijderd, waarvan er vijf door Chiu op de hoogte waren gebracht. Het herhaalde ook dat zijn beleid seksuele inhoud verbiedt en zei dat het "snel actie" onderneemt als blijkt dat een gerapporteerde app de regels schendt. Wired voegde eraan toe dat Apple voorafgaand aan de publicatie geen commentaar heeft gegeven.