ByteDance et Alibaba sont en train de supprimer progressivement certaines fonctionnalités de compagnie IA, en particulier les services permettant aux utilisateurs de créer, personnaliser et discuter avec des personnages IA personnalisés, en réponse aux dernières exigences réglementaires de Pékin.

Selon le South China Morning Post, Doubao, l'un des chatbots les plus populaires de Chine actuellement, avec plus de 300 millions d'utilisateurs actifs mensuels, verra sa fonction "personnalité" officiellement supprimée le 15 juillet. Alibaba avec Qwen a agi plus tôt, supprimant certaines fonctionnalités d'agents personnalisés le 10 juillet, et fermant davantage de fonctionnalités d'agents connexes le 15 juillet. Tencent Yuanbao avait déjà pris des mesures similaires dès juin.
À l'origine de ces changements, la nouvelle réglementation publiée en avril par le Bureau d'administration du cyberespace de Chine (CAC) entrera en vigueur le 15 juillet. La réglementation exige que les plateformes rappellent aux utilisateurs lorsqu'ils utilisent excessivement les produits de compagnie IA et interviennent activement lorsqu'elles constatent une tendance à la dépendance. En même temps, pour les mineurs, les contenus susceptibles de provoquer des émotions extrêmes, de renforcer la dépendance, voire de réduire les relations sociales réelles, seront interdits. De plus, les plateformes ne doivent pas utiliser les données de conversations sensibles pour l'entraînement des modèles.
En réalité, le resserrement de la réglementation sur les produits de compagnie IA ne se limite pas à la Chine. En Californie, selon le projet de loi SB 243, les fournisseurs de services de compagnie IA sont tenus de bloquer les contenus de dialogue liés au suicide et à l'automutilation. Aux États-Unis, OpenAI et Character AI font également face à des poursuites judiciaires, le point de discorde étant de savoir si les produits IA peuvent créer une dépendance émotionnelle dangereuse.