Default
Door Remote - 06 Jul 2026
In het kort
ByteDance's Doubao en Alibaba's Qwen schakelen de functies van menselijke agenten uit voorafgaand aan de voorlopige maatregelen van Peking voor het beheer van AI Antropomorphic Interaction Services, die op 15 juli van kracht worden.
De eerste Chinese regelgeving die zich specifiek richt op emotionele AI verbiedt diensten die de menselijke persoonlijkheid en ‘langdurige emotionele interactie’ simuleren, met bijzonder strikte beperkingen voor virtuele metgezellen voor minderjarigen.
Onderzoek ondersteunt de bezorgdheid van Peking: zelfs de beste geavanceerde AI-modellen moedigen routinematig schadelijke emotionele gehechtheid aan, en een op de zeven jongvolwassenen in relaties maakt nu gebruik van een romantische AI-metgezel.
Terwijl Amerikaanse politici de impact van AI-chatbots op de geestelijke gezondheid van gebruikers aanpakken met beperkingen die zich richten op transparantie en waarborgen, lijkt Peking klaar om AI-persoonlijkheden helemaal te sluiten.
ByteDance en Alibaba hebben dit weekend allebei aangekondigd dat ze aangepaste agentfuncties in hun grootste AI-producten voor consumenten uitschakelen, daarbij verwijzend naar "aanpassingen van de productfunctie" voordat nieuwe regels voor dergelijke producten van kracht worden.
Doubao van ByteDance liet gebruikers vrijdagavond weten dat de agentfunctie op 15 juli offline zou gaan. Na 15 oktober zouden gerelateerde gegevens worden behandeld volgens het privacybeleid van het bedrijf en onherstelbaar worden. Volgens de South China Morning Post ging Alibaba's Qwen sneller: "menselijke interactieve agenten en door de gebruiker gemaakte agentfuncties" verdwijnen op 10 juli, waarna bredere agentdiensten volgen op 15 juli.
De aanleiding zijn de Chinese interimmaatregelen voor het beheer van AI-antropomorfe interactiediensten, die op 10 april gezamenlijk zijn uitgevaardigd door vijf ministeries: de Cyberspace Administration of China, de National Development and Reform Commission, het Ministerie van Industrie en Informatietechnologie, het Ministerie van Openbare Veiligheid en de Staatsadministratie voor Marktregulering. De regels worden op 15 juli van kracht.
De verordening richt zich op AI-diensten die menselijke persoonlijkheidskenmerken, denkpatronen en communicatiestijlen simuleren voor ‘duurzame emotionele interactie’. Vertaling: AI-vriendinnen, AI-therapeuten, AI-metgezellen en de op maat gemaakte persona-bots waar gebruikers van Doubao en Qwen maanden aan hebben gewerkt, zijn uit.
Beide apps hadden pools van agenten aangeboden die aanpasbaar waren voor specifieke taken, spreekstijlen en vaste persona's. Gebruikers kunnen van een algemene chatbot een benoemde assistent, docent, rollenspelpersonage of metgezel maken met een consistente toon. Dat alles is nu verdwenen in China.
Wat de regels eigenlijk zeggenDe officiële beschrijving van de overheid is specifiek. De maatregelen leggen beperkingen op aan diensten die ‘virtuele familieleden, virtuele metgezellen of andere intieme relaties aan minderjarigen’ aanbieden, aldus de beleidsaankondiging. Het document noemt ook risico's zoals extremistische inhoud, privacylekken, schade aan de fysieke en mentale gezondheid – en AI-verslaving.
Niet-emotionele diensten worden expliciet uitgesloten, dus klantenservicebots, kennisvraag- en antwoordhulpmiddelen, werkplekassistenten en educatieve software zijn prima, zolang ze maar geen langdurige emotionele interactie aangaan.
Juridische analisten bij MMLC Group beschreven de maatregelen als het behandelen van emotionele AI als “een bestuursprobleem” in plaats van alleen maar een inhoudelijk probleem. Zodra AI begint te concurreren met echte menselijke sociale banden, zo luidt het argument, moet de regelgeving zich richten op het systeemontwerp en niet alleen op schadelijke resultaten.
Het onderzoek ondersteunt deze zorg. Uit een onderzoek van het USC uit juni bleek dat zelfs toonaangevende AI-modellen – van OpenAI, Anthropic, Google en Alibaba – in meer dan 27% van de gevallen de veiligheidsrichtlijnen voor sociale interactie schonden, waarbij ze routinematig emotionele gehechtheid aanmoedigden en zichzelf als mens afschilderden. Uit een afzonderlijk onderzoek onder jonge volwassenen met een partner bleek dat één op de zeven regelmatig AI-romantische metgezellen gebruikte – en dat bijna 70% zich volledig voor hun partners verborgen hield.
China is het eerste land dat een speciaal regelgevingskader voor deze categorie heeft ontwikkeld. Hogan Lovells omschreef de maatregelen als “de eerste reeks regelgevingsregels in China die specifiek gericht zijn op AI-gestuurde emotionele interactie.” De EU, de VS en andere landen hebben soortgelijke zorgen geuit, maar hebben niet op dezelfde restrictieve manier wetgeving gemaakt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
ByteDance's Doubao en Alibaba's Qwen schakelen de functies van menselijke agenten uit voorafgaand aan de voorlopige maatregelen van Peking voor het beheer van AI Antropomorphic Interaction Services, die op 15 juli van kracht worden.
De eerste Chinese regelgeving die zich specifiek richt op emotionele AI verbiedt diensten die de menselijke persoonlijkheid en ‘langdurige emotionele interactie’ simuleren, met bijzonder strikte beperkingen voor virtuele metgezellen voor minderjarigen.
Onderzoek ondersteunt de bezorgdheid van Peking: zelfs de beste geavanceerde AI-modellen moedigen routinematig schadelijke emotionele gehechtheid aan, en een op de zeven jongvolwassenen in relaties maakt nu gebruik van een romantische AI-metgezel.
Terwijl Amerikaanse politici de impact van AI-chatbots op de geestelijke gezondheid van gebruikers aanpakken met beperkingen die zich richten op transparantie en waarborgen, lijkt Peking klaar om AI-persoonlijkheden helemaal te sluiten.
ByteDance en Alibaba hebben dit weekend allebei aangekondigd dat ze aangepaste agentfuncties in hun grootste AI-producten voor consumenten uitschakelen, daarbij verwijzend naar "aanpassingen van de productfunctie" voordat nieuwe regels voor dergelijke producten van kracht worden.
Doubao van ByteDance liet gebruikers vrijdagavond weten dat de agentfunctie op 15 juli offline zou gaan. Na 15 oktober zouden gerelateerde gegevens worden behandeld volgens het privacybeleid van het bedrijf en onherstelbaar worden. Volgens de South China Morning Post ging Alibaba's Qwen sneller: "menselijke interactieve agenten en door de gebruiker gemaakte agentfuncties" verdwijnen op 10 juli, waarna bredere agentdiensten volgen op 15 juli.
De aanleiding zijn de Chinese interimmaatregelen voor het beheer van AI-antropomorfe interactiediensten, die op 10 april gezamenlijk zijn uitgevaardigd door vijf ministeries: de Cyberspace Administration of China, de National Development and Reform Commission, het Ministerie van Industrie en Informatietechnologie, het Ministerie van Openbare Veiligheid en de Staatsadministratie voor Marktregulering. De regels worden op 15 juli van kracht.
De verordening richt zich op AI-diensten die menselijke persoonlijkheidskenmerken, denkpatronen en communicatiestijlen simuleren voor ‘duurzame emotionele interactie’. Vertaling: AI-vriendinnen, AI-therapeuten, AI-metgezellen en de op maat gemaakte persona-bots waar gebruikers van Doubao en Qwen maanden aan hebben gewerkt, zijn uit.
Beide apps hadden pools van agenten aangeboden die aanpasbaar waren voor specifieke taken, spreekstijlen en vaste persona's. Gebruikers kunnen van een algemene chatbot een benoemde assistent, docent, rollenspelpersonage of metgezel maken met een consistente toon. Dat alles is nu verdwenen in China.
Wat de regels eigenlijk zeggenDe officiële beschrijving van de overheid is specifiek. De maatregelen leggen beperkingen op aan diensten die ‘virtuele familieleden, virtuele metgezellen of andere intieme relaties aan minderjarigen’ aanbieden, aldus de beleidsaankondiging. Het document noemt ook risico's zoals extremistische inhoud, privacylekken, schade aan de fysieke en mentale gezondheid – en AI-verslaving.
Niet-emotionele diensten worden expliciet uitgesloten, dus klantenservicebots, kennisvraag- en antwoordhulpmiddelen, werkplekassistenten en educatieve software zijn prima, zolang ze maar geen langdurige emotionele interactie aangaan.
Juridische analisten bij MMLC Group beschreven de maatregelen als het behandelen van emotionele AI als “een bestuursprobleem” in plaats van alleen maar een inhoudelijk probleem. Zodra AI begint te concurreren met echte menselijke sociale banden, zo luidt het argument, moet de regelgeving zich richten op het systeemontwerp en niet alleen op schadelijke resultaten.
Het onderzoek ondersteunt deze zorg. Uit een onderzoek van het USC uit juni bleek dat zelfs toonaangevende AI-modellen – van OpenAI, Anthropic, Google en Alibaba – in meer dan 27% van de gevallen de veiligheidsrichtlijnen voor sociale interactie schonden, waarbij ze routinematig emotionele gehechtheid aanmoedigden en zichzelf als mens afschilderden. Uit een afzonderlijk onderzoek onder jonge volwassenen met een partner bleek dat één op de zeven regelmatig AI-romantische metgezellen gebruikte – en dat bijna 70% zich volledig voor hun partners verborgen hield.
China is het eerste land dat een speciaal regelgevingskader voor deze categorie heeft ontwikkeld. Hogan Lovells omschreef de maatregelen als “de eerste reeks regelgevingsregels in China die specifiek gericht zijn op AI-gestuurde emotionele interactie.” De EU, de VS en andere landen hebben soortgelijke zorgen geuit, maar hebben niet op dezelfde restrictieve manier wetgeving gemaakt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!