来稿作者：胡晓明教授

人工智能（AI）应用越来越广泛，有调查指全球八成“白领”在工作上使用AI，以提升生产力和效率。然而，“水能载舟，亦能覆舟”，AI无界限“成长”便利我们的工作和生活，同时也带来安全问题与事故，例如网络攻击、数据泄漏、深度伪造、AI识别错误等，为社会带来前所未有的挑战。“十五五”规划将AI定位为新型工业化的核心引擎，也是国家战略安全的核心支柱，我们须关注及正视AI的安全隐患与风险，及早定下法律底线，以保障公众利益与安全，同时推进AI科技发展赋能全产业链。

300亿美元损失
管治AI迫在眉睫

AI渗透无远弗届，但它不是万能也并不安全。AI现已应用于不同领域，包括自动和辅助驾驶、辅助医疗器材、AI聊天机械人、工业自动化等，但它不时都会出错，其中最常导致伤亡事故的是自动驾驶与辅助驾驶系统。此外，美国近年亦有涉及AI的诉讼案件，指控AI聊天机器人以偏颇言语误导心灵脆弱的用户，即使察觉用户有自杀倾向也未有劝告或阻止，致使其最终走上不归路，AI应用由此也引发不少道德争议。

今年3月初美国一间全球顶尖的管理顾问公司麦肯锡遭到一个自主AI攻击程式突袭，其开发的生成式AI平台Lilli迅速失守，AI利用安全漏洞用两小时便成功窥探该公司4,650万条内部讯息、72.8万份文件、5.7万用户资料，并取得读写权限操控Lilli。整个攻击过程都是由AI锁定目标、自主操作，并非由黑客人手控制，震惊各界。有机构研究估算2025年AI辅助的网络攻击导致全球损失约300亿美元，社会正关注AI的管治问题。

伪造虚假资讯
沦为犯罪工具

随着AI工具的普及，不法之徒也利用其作为工具胡作非为，网络上虚假资讯泛滥，人们防不胜防。社交媒体近年充斥AI深度伪造影片，以名人影像诱导投资、推广产品、宣传服务等，影像与语音与真人无异。有人更被移花接木至不雅影片中，造成心灵创伤，损害名声。有跨国工程企业员工误堕深度伪造骗局，令公司损失近2亿港元。

AI掌握海量数据及资讯，虽然用处多、潜力强，训练数据若有偏见或错误将容易出错或产生歧视，也易于被不法之徒利用。最近一套生成式AI电影《海上女王︰郑一嫂》成本低、制作期短，但内容被批评不符史实内容，误导观众，尤其不熟悉历史的学生。

建立专门法律
明确各方责任

AI可以帮助我们处理许多问题，甚至做很多事，令人类对AI的依赖日益加深，有人甚至预测未来世界将会为AI统治。

为了应对AI带来的种种问题，不少国家及地区已就AI建立专门法律，定下AI开发者、使用者的责任，例如欧盟于2024年通过人工智能法案，成为首部全面监管AI的法规；美国加州有法律禁止在未经明确授权下制作已故艺人的影像；纽约州要求广告商若用AI生成人脸，必须注明“合成人脸”，否则即属犯法须受处罚。

紧跟国家法规
健全管治框架

我国就AI已实施了一些专项法规，今年全国两会期间，人大常委会工作报告更明确表示要加强人工智能等领域立法研究，并加快起草更全面、更完整的法律，让AI治理由碎片化走向法制化，保障AI的健康发展。我国更表明加强AI的司法监管与打击诈骗，当中最高人民检察院工作报告强调严厉打击利用AI的电讯网络诈骗犯罪；最高人民法院工作报告则致力促进人工智能+的规范发展，对利用AI侵害他人合法权益行为坚决依法规制。

香港目前尚未就AI立法，我建议特区政府加快就AI管治立法，加强与内地之交流，并与业界共同努力探讨完善立法的工作，定下法律底线，保障公众利益、个人私隐及应对各种安全问题，确保AI有序发展。

作者胡晓明教授是港区全国人大代表、香港专业及资深行政人员协会前会长。

文章仅属作者意见，不代表香港01立场。

01论坛欢迎投稿。请电邮至01view@hk01.com，附上作者真实姓名、自我简介及联络方法。若不适用，恕不另行通知。香港01保留最终编辑权。