欧盟AI新规上路 生成式内容须加标示 违规者罚款逾亿元

撰文: 官禄倡
出版:更新:

《欧盟人工智能法案》8月2日正式生效,人工智能(AI)系统供应商等必须在AI生成内容加上标示,AI聊天机械人也须告知使用者他们正在和AI而非真人对话,违规者面临最高1500万欧元(约1.3亿港元),或相当于全球年度营业额百分之三的罚款。

新规指出,其目的是帮助使用者辨认到自己正在接触到由AI生成的内容,或是否正在与AI进行互动,进而让用家能够做出明智决定,保护自己免受虚假信息或诈骗侵害。

此外,新规还适用于那些经过AI修改的内容,包括利用AI技术进行深度伪造(Deepfake)的内容,也需要同样加上标示。

2025年1月22日,图为美国人工智能企业OpenAI旗下的聊天机械人ChatGPT的标志。(Reuters)

欧盟人工智能办公室、各国主管机构以及欧洲数据保护监管局会一同负责执法工作,并有权对违规者进行罚款。违反规定的企业面临最高1500万欧元,或相当于全球年度营业额百分之三的罚款,以较高者为准。规例即时生效,已经推出市面的AI模型有执法宽限期,容许在12月前符合相关要求。

《欧盟人工智能法案》于2024年生效,并逐步收紧对AI行业的规管。今次是首次涉及加强业界透明度,被指是适用范围最广的条文,只要AI产品、聊天机械人以及生成内容服务在欧盟市场使用都要遵守。