Байт, Алі закривають функцію налаштування «AI Companion» великої моделі, щоб уникнути регуляторної червоної лінії емоційної залежності.

За моніторингом Beating, програми великих моделей, такі як Doubao від ByteDance, Tongyi Qianwen від Alibaba та Yuanbao від Tencent, поступово закривають або коригують функцію налаштовуваного «AI-компаньйона». Doubao вже повідомив користувачам, що 15 липня припинить роботу функції налаштовуваних ролей і спрямовуватиме зацікавлених користувачів до окремих додатків-компаньйонів.

Цей крок спрямований на реагування на нові китайські правила щодо генеративного ШІ, які набудуть чинності в середині липня. Нові правила, ініційовані Державним управлінням Інтернет-інформації Китаю, зосереджені на запобіганні негативним наслідкам, які можуть виникнути через антропоморфні послуги ШІ. Правила чітко забороняють платформам генерувати контент, який може викликати екстремальні емоції у неповнолітніх, забороняють спонукати користувачів до нездорової емоційної залежності, що підриває реальне соціальне спілкування, і вимагають, щоб постачальники не використовували конфіденційні дані діалогів користувачів для навчання майбутніх великих моделей.

Порівняно з попередніми заходами відповідності в Китаї, американські програми віртуальних компаньйонів стикаються з більшим юридичним тиском. OpenAI та Character.AI опинилися втягнутими в серію судових позовів через звинувачення у спричиненні небезпечної емоційної залежності, що призвела навіть до трагічних випадків. Окрім програмного забезпечення, Китайська асоціація робототехніки також почала просувати встановлення норм для фізичних роботів-компаньйонів та гуманоїдних роботів.