OpenClaw养龙虾AI|HKGAI主任警告存在资安风险 过度授权或失控
开源人工智能代理(AI Agent)“OpenClaw”(俗称“龙虾”)近日成为热话,亦引伸出不少资讯安全问题。香港科技大学(科大)首席副校长、香港生成式人工智能研发中心(HKGAI)主任郭毅可,出席HKGAI传媒春茗时表示,“养龙虾”确实存在一定风险,因“OpenClaw”虽具备作业系统级的执行能力,但本质上仍属于“执行孤岛”,无法跨用户协作,加上其权限极高,故存在数据泄露及系统安全风险。
科大副校长提醒 养龙虾存在风险
郭又认为,AI能力虽强,但如缺乏社会关系、身份识别及权限边界,往往令使用者面临两难,若不给予授权,AI无法执行任务,相反给予过度授权,其行为可能失控,甚至涉及越权修改或删除重要资料。
本地AI系统“港话通”为市民而设
HKGAI于2023年成立,是香港特区政府InnoHK平台的重点研发机构,专注开发本地化的大型基础模型,以科大为主导,期望打造一个能服务本地市民的AI生态系统。由HKGAI自主研发的“港话通”AI系统,由去年11月上线至今,已有逾70万用户注册使用,当中近5万名公务员涉及近100个部门亦有参与试用。有部门指出,当中的“港文通”能支援粤语、普通话、英文无缝切换,精准理解本地公文规范与法律语境,大幅提升政策草拟、文件翻译、会议纪要生成的效率与准确性。
除现有的AI文书写作助手及AI会议记录助理等产品外,HKGAI将进一步拓展“选校”、“马经”及“消费”实用功能。其中“港校通”智慧选校系统,针对家长面对资讯碎片化的痛点,整合从幼稚园到大学的学位查询与选校报名流程。AI可根据地理位置及预算进行智慧选校,并提供模拟面试与进度追踪,将繁杂的决策流程转化为一站式解决方案。
“港话通”加入选校、马经及消费三大功能
至于“港马通”AI马经,将结合大语言模型与海量赛马数据,提供智慧赛事分析、即时数据及专业马评。香港赛马运动历史悠久,是本地文化特色之一,故AI系统功能将定位为“香港赛马文化旅游推广”,不涉及博彩成分,亦不会提供预测和投注贴士,旨在向市民和旅客推广香港的赛马体育项目,预计于三月底公开上线。
消费方面则会推出类似折扣搜寻的功能,利用大模型辅助检索廉价商品与悭钱攻略,只需提供商户照片,系统便可根据场景辨识自动匹配优惠资讯。稍后亦会加入北上消费助手及积分系统,为香港市民提供邻近如深圳等地区的店舗搜寻,目前已与京东佳宝合作,用户可凭积分换取折扣。
团队推出ClawNet 强调人机共生
HKGAI团队同场亦介绍了智能体研发项目“ClawNet”,目的是构建一个安全、可管理的“AI智能体网络平台”,达至“人机共生”。“ClawNet”不会将一切交由“龙虾”去管理,而是由人来管理“龙虾”。
团队认为,人拥有社会身份,将此身份与特定权限赋予龙虾,使AI明确行为边界,订立“人专注创新,AI负责执行”的未来工作形态。以跨境贸易为例,当龙虾发现需要加钱才能赶上工期时,它会清晰汇报,而非越权代为“拍板”,同时所有操作均有迹可循,一旦出错可迅速定位授权来源。