字節跳動和阿里巴巴正在陸續下線部分 AI 陪伴類功能，尤其是允許用戶創建、定製並與個性化 AI 角色聊天的相關服務，以回應北京方面最新出台的監管要求。

據《南華早報》報導，字節跳動旗下豆包作為中國目前最受歡迎的聊天機器人之一，月活用戶已超過 3 億，其「人設」功能將於 7 月 15 日正式下線。阿里巴巴旗下 Qwen 則更早行動，將於 7 月 10 日下線部分擬人化智能體功能，並在 7 月 15 日關閉更多相關智能體功能。騰訊元寶早在 6 月就已經採取了類似調整。
推動這些變化的，是中國國家網信辦在 4 月發布的新規，該規定將於 7 月 15 日正式生效。新規要求平台方對用戶過度使用 AI 陪伴產品進行提醒，並在發現用戶出現沉迷傾向時主動干預。同時，針對未成年人，可能引發極端情緒、強化依賴關係，甚至擠壓現實社交關係的內容將被禁止。此外，平台也不得使用敏感對話數據進行模型訓練。
事實上，AI 陪伴產品的監管收緊並不只發生在中國。美國加州也已根據 SB 243 法案，要求 AI 陪伴類服務商屏蔽涉及自殺和自殘的對話內容。在美國，OpenAI 與 Character AI 也正面臨相關訴訟，爭議焦點集中在 AI 產品是否可能造成危險的情感依賴。