未落实AI生成内容标识规定 国家网信办处罚剪映、猫箱和即梦AI

撰文: 许祺安
出版:更新:

4月28日,“网信中国”官方微信公众号通报, “剪映”、“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题,违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。

对此,国家互联网信息办公室指导属地互联网信息办公室,依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。

假摆拍和AI片呃流量 中央网信办整治乱象 要求影片要做内容标注

即梦AI(网络图片)
猫箱(网络图片)
剪映(网络图片)

新华社报道,国家互联网信息办公室相关负责人表示,网站平台要严守法律底线红线,严格落实人工智能生成合成内容标识相关规定要求。网信部门将深入推进依法管网治网,持续加大人工智能生成合成内容标识监督管理力度,切实维护社会公共利益,推动人工智能健康有序发展。

公开信息显示,剪映于2019年5月正式上线,短短几年内迅速成长为内地规模最大的视频剪辑应用之一。截至2024年底,剪映的全球月活跃用户已超过8亿。

猫箱于2024年3月上线,用户可通过该应用创建个性化AI角色,进行沉浸式语音对话与剧情互动,支持自定义角色外貌、音色及故事背景。

即梦AI则是字节跳动剪映团队于2024年推出的AI创作平台,基于生成式AI技术,支持通过自然语言及图片输入生成高质量的图像及视频。

近年内地短片平台沦为“造假重灾区”,一些摆拍营销、AI生成等内容的短影片,严重误导公众认知。上月21日网信中国微信公众号就发文,要求网站平台全面规范影片内容标注工作,并称会同步开展巡查取证,若平台或账号落实不力,将面临严惩及公开曝光。