AI泡沫论|忧用户形成依赖 内地推新规阿里等暂停AI代理服务
《彭博》报道,抖音母公司字节跳动和阿里巴巴(9988)正逐步取消允许用户创建人工智能AI伙伴并与之聊天的功能,为中国即将生效的有关与AI互动的新法规做准备。
字节跳动旗下的豆包是中国最受欢迎的AI聊天机械人,据《彭博》看到的一则应用通知,豆包将于7月15日关闭一个允许用户自定义AI角色的功能。该通知引导用户去使用另外一个独立的陪伴应用。据当地媒体报导,阿里旗下的千问,以及腾讯(0700)旗下元宝等其他一些主要平台,也发布了类似的通知。
这些平台下线此类智能体功能,正值中国制定的一项管理办法将于7月中旬生效,以加强对人工智能拟人化互动服务的监管。此前,人们担心AI聊天机械人会模拟人类的个性和情感,用户可能对此类互动产生依赖,正是这些担忧促成了新规在4月份出台。
新规预防AI带来危害
这些新指令是迄今为止最全面的监管措施之一,旨在预防AI可能带来的危害,尽管一些公司警告称,过于严格的规则会阻碍创新。这反映出全球对对话式AI可能造成心理影响的担忧日益成长。
在中国国家互联网信息办公室的推动下,新规禁止平台生成可能引发未成年人极端情绪或助长不健康情感依赖,从而破坏现实人际关系的内容。这个暂行办法还禁止服务提供商使用敏感的用户对话数据来训练未来的AI模型。
聊天机械人产生虚拟男友和女友
中国的聊天机械人平台长期以来一直提供通过少量文本提示来定制AI智能体的功能,其中最受欢迎的选项包括虚拟男友和女友、无证数字治疗师和流行偶像的模拟克隆人。
除了AI聊天机械人之外,中国对AI亲密关系的关注已经蔓延到实体硬体领域。据《人民日报》报导,随著人形机械人越来越多地进入家庭和日常生活,中国两个机械人行业组织正推动制定更严格的伦理和安全保障措施。
另一方面,据陆媒引述易观分析数据指出,腾讯旗下WorkBuddy月活跃用户(MAU)达2,000万,日活跃用户(DAU)逾1,300万,DAU/MAU比值维持65%至75%,反映其用户黏性指标对标海外办公工具Slack。腾讯在今年首季业绩上亦提到,“以日活跃账户数计,WorkBuddy已成为中国最受欢迎的效率AI智能体服务”
腾讯WorkBuddy日活跃用户逾1300万
在产品叠代方面,WorkBuddy节奏极快,上线3个月已累积更新43个版本,并有消息指腾讯内部将其定位为继QQ及微信后的“第三款现象级产品”,凭借简化部署流程及微信生态授权能力,串联腾讯旗下全部工具及30多项外部应用,快速打开市场。
事实上,WorkBuddy于今年3月推出,为企业用户提供便捷且安全的办公自动化解决方案,对比同类AI代理产品OpenClaw在安装和使用上需要权限,部署门槛较高,WorkBuddy则完全相容,能够理解自然语言指令,并自动操作用户电脑执行多项任务,包括监测股市、撰写周报及修复程式错误等,用户只需下载安装,即可直接输入指令启动工作,因而被用户称为腾讯版“小龙虾”。