ByteDance y Alibaba están eliminando gradualmente algunas funciones de acompañamiento por IA, especialmente servicios que permiten a los usuarios crear, personalizar y chatear con personajes de IA personalizados, en respuesta a las últimas regulaciones emitidas por Pekín.

Según el South China Morning Post, Doubao de ByteDance, uno de los chatbots más populares de China actualmente con más de 300 millones de usuarios activos mensuales, eliminará oficialmente su función "Personaje" el 15 de julio. Qwen de Alibaba actuó antes, eliminando algunas funciones de agentes antropomórficos el 10 de julio y cerrando más funciones de agentes relacionados el 15 de julio. Tencent Yuanbao ya realizó ajustes similares en junio.

El impulso de estos cambios proviene de las nuevas regulaciones emitidas por la Administración del Ciberespacio de China en abril, que entrarán en vigor el 15 de julio. Las nuevas reglas exigen que las plataformas adviertan a los usuarios sobre el uso excesivo de productos de acompañamiento por IA e intervengan activamente cuando detecten signos de adicción. Además, para los menores, se prohibirán los contenidos que puedan causar emociones extremas, reforzar la dependencia o incluso desplazar las relaciones sociales reales. Las plataformas tampoco podrán utilizar datos de conversaciones sensibles para entrenar modelos.

De hecho, la regulación más estricta de los productos de acompañamiento por IA no solo ocurre en China. California, EE. UU., también ha exigido, según el proyecto de ley SB 243, que los proveedores de servicios de acompañamiento por AI bloqueen el contenido relacionado con el suicidio y la autolesión. En Estados Unidos, OpenAI y Character AI también enfrentan demandas relacionadas, con el foco de la controversia en si los productos de IA pueden causar dependencia emocional peligrosa.