随着人工智能（AI）技术快速普及，相关应用引发的信息安全与道德伦理问题日益突显。中央网信办近日宣布，将开展为期四个月的“清朗·整治AI应用乱象”专项行动，重点打击未备案大模型、制作虚假信息及利用AI技术侵害公民权益等违规行为。

“网信中国”微信公众号30日发文，本次专项行动将分为两个阶段进行，旨在全方位规范 AI服务，保障公民合法权益。

第一阶段将重点整治7类突出问题，重点治理AI应用服务的典型违规问题。一是未按规定履行大模型备案登记义务；二是AI平台安全和审核过滤能力不足；三是大模型训练语料安全问题；四是AI资料投毒问题；五是生成合成内容标识落实不到位；六是滥用AI技术开展违法违规活动；七是开源模型安全管理不到位。

网信办强调，所有生成式AI服务必须按规定履行大模型备案登记程序，严禁“应备未备”。此外，将强化对大模型训练语料的安全审核，严防“AI资料投毒”（即通过篡改训练数据影响模型输出）。

另外，针对生成内容标识落实不到位、提供“去标识”工具或教程等行为，未经他人授权，利用AI技术提供“换脸拟声”服务，盗用他人形象，通过数字虚拟人技术进行直播、影像创作，或提供金融和医疗咨询服务等，亦属重点整治范围。

第二阶段重点整治7类突出问题，打击信息内容乱象。一是利用AI“魔改”经典、生成“数字泔水”（既AI大量生成低质和虚假的内容）；二是制作发布虚假不实信息；三是假冒仿冒他人；四是制作发布暴力低俗等不良信息；五是侵害未成年人权益；六是利用AI“托管”从事网络水军活动；七是AI产品服务和应用程式违规。

网信办指出，此阶段焦点在于严打AI批量生成逻辑混乱、价值空洞的内容，严惩利用AI “换脸”、“换声”假冒公众人物发布不实言论的行为，以及封禁生成伤害未成年人形象的内容，及排查提供色情陪聊、“一键脱衣”和AI算命等违规服务的应用程式。