ByteDance et Alibaba arrêtent les fonctionnalités personnalisées du grand modèle « AI Companion » pour éviter la ligne rouge réglementaire de la dépendance émotionnelle.

Selon la surveillance de Beating, les applications de grands modèles comme Doubao de ByteDance, Tongyi Qianwen d'Alibaba et Yuanbao de Tencent ferment ou ajustent progressivement la fonction personnalisée « Compagnon IA ». Doubao a informé les utilisateurs que la fonction de personnage personnalisé sera désactivée le 15 juillet, et guide les utilisateurs intéressés vers une application de compagnon distincte.

Cette mesure vise à se conformer aux nouvelles réglementations chinoises sur l'IA générative qui entreront en vigueur à la mi-juillet. Ces réglementations, promues par l'Administration cyberspace de Chine, mettent l'accent sur la prévention des impacts négatifs potentiels des services d'IA anthropomorphes. Elles interdisent explicitement aux plateformes de générer du contenu susceptible de provoquer des émotions extrêmes chez les mineurs, d'induire une dépendance émotionnelle malsaine qui érode les relations sociales réelles, et stipulent que les fournisseurs ne doivent pas utiliser les données sensibles des conversations des utilisateurs pour entraîner de futurs grands modèles.

En comparaison avec les mesures de conformité anticipées en Chine, les applications de compagnons virtuelles américaines sont confrontées à des pressions juridiques plus importantes. OpenAI et Character.AI sont tous deux impliqués dans une série de procès pour avoir prétendument induit une dépendance émotionnelle dangereuse, voire des tragédies extrêmes. Outre les applications logicielles, l'Association chinoise de l'industrie robotique a également commencé à promouvoir l'établissement de normes pour les robots de compagnie physiques et les robots humanoïdes.