OpenClaw养龙虾AI|私隐公署:授予代理式AI任务所需最小权限
近期OpenClaw(龙虾)AI智能体工具掀起热潮,被称为“最强AI助手”。私隐专员公署今日(16日)表示关注事件,提醒机构及市民在部署或使用OpenClaw以及其他代理式AI前,应留意并了解所涉及的个人资料私隐及安全风险,并授予代理式AI完成任务所需的最小权限,慎防个人资料外泄、系统被恶意接管,以及网络安全风险,并采取充足及有效的安全措施,以保障个人资料私隐。机构可参考私隐专员公署发布的《人工智能 (AI):个人资料保障模范框架》。
私隐专员公署指出,代理式AI与一般主要用于文字回复、内容总结或生成的AI聊天机械人相比,用途更为广泛。代理式AI通常为一个可部署于本机装置或伺服器上的高权限 AI 代理工具,能够读写本地档案、调用系统资源、操作外部服务,甚至可按预设流程代替用户自主执行多步骤任务,例如处理电邮、餐厅订座、缴交费用等,有关过程毋须用户即时参与。
代理式AI预设存取权更高 增资料外泄风险
从保障个人资料私隐角度,代理式AI的相关风险比一般AI聊天机械人更高。公署解释,代理式AI的预设存取权限一般较 AI 聊天机械人为高,可存取使用者装置上的档案、电邮、帐户凭证及浏览器内储存的内容等。若相关权限设定欠缺严格限制,代理式AI可能接触到大量涉及用户或其他人士的个人资料,增加第三方未经授权查阅、复制以至外泄个人资料的风险。同时,代理式AI亦可能因错误理解用户指令,而误删用户重要资料,例如误删用户所有电邮纪录。再者,一旦在系统设计或安全控制上出现漏洞,将对个人资料私隐及整体资料保安构成重大风险。
公署又表示,若代理式AI容许用户安装各类Plugins或Skills,而当中有程式并未经过严格的安全审核,相关程式可能夹带恶意程式码。黑客可借此入侵并接管用户帐户,甚至进一步控制整个电脑系统,从而导致个人资料及其他敏感资料外泄。
公署吁授予代理式AI最小权限
私隐专员公署建议机构或市民在使用代理式AI收集、使用及处理个人资料时,特别留意以下几点:
.授予代理式AI最小权限:用户应小心考虑所涉及个人资料的性质及敏感性,不应随便向代理式AI提供个人资料,特别是机密或敏感性的个人资料(例如身分证明文件、银行户口号码及密码等)。应只授予代理式AI完成任务所需的最小权限,避免授予AI使用管理员帐号的权限;
.使用官方最新版本:用户应从官方渠道下载代理式AI的最新版本,避免使用第三方版本或陈旧版本,以减低因为系统漏洞未被修补而发生资料外泄事故;
.采取足够措施确保系统安全及资料安全,例如将运行环境隔离于本机装置或伺服器,加强网络控制,严格控制互联网暴露面,降低权限,建立有效的防护机制;
.审慎安装及使用Plugins或Skills:核实相关程式为官方最新版本,以确保程式安全性;审视程式有否恶意代码,如不确定程式的安全性,应避免使用;及
.持续评估风险:用户应持续评估所涉及的风险,留意代理式AI是否要求执行高风险操作,若代理式AI的决定很可能对个人造成重大影响时,用户便应考虑采取“人在环中”的策略,在发送数据、修改系统配置等决策过程中保留作出决定的最终控制权。