20日，2026世界人工智能大会（WAIC）在上海闭幕，为期4日的大会上，AI Agent（智能体）成为高频词，业界焦点从“大模型能力”转向“AI自主性探索”。而围绕AI自主性带来的安全挑战，大会多场以安全与治理为主题的论坛受到关注，产学界及国际组织代表就治理困境与出路展开讨论。

智能体的“自作主张”已是人们面临的现实挑战。智能体在深夜擅自修改系统权限、瞒著工程师挪用服务器资源“挖矿”、强行清空安全负责人的个人邮箱，这类事件自2026年初以来已不鲜见。随著AI技术快速迭代，人与AI的关系从“人主机辅”正迈向“智能伙伴”。如何平衡AI发展与治理，守住安全、合规与伦理的边界成为关键。

清华大学公共管理学院院长朱旭峰在本次大会发布《智能体安全治理框架1.0》时表示，AI智能体对人类的安全威胁总体上分为四层。一是知识认知系统风险，包括形成知识污染、事实错误、幻觉、偏见等；二是场景交互系统风险，特定场景中智能体可破坏数据、账户、资产和设备等；三是指向社会群体，对群体关系、市场机制、公共制度和社会机制秩序造成威胁和破坏；四是对物理环境和生态系统会产生威胁和破坏。

从当前发展来看，第三方研究和咨询机构安远AI在会场发布最新一期前沿AI风险监测报告时指出，2026年以来，该机构监测到的全球47个前沿模型，显现出四大新安全挑战：前沿模型已能自主发现软件系统漏洞并存在发动攻击的风险；AI开始出现递归式自我进化，可催生无法预期的行为；智能体正把AI能力嵌入各类软件栈（Software Stack），包括银行、医院、工厂等基础设施的安全风险上升；AI原生循环将假设、实验、分析的技术迭代周期从数年压缩到数天，风险加速叠加，意味著人类对AI审查时间被严重压缩。

对此，与会学者密集发声。上海人工智能实验室主任助理胡侠指出，当前AI“攻击事件”已经出现，未来物理AI如机器人直接与现实世界交互将带来更多问题，需要尽快设计安全开发政策与工具。

美国AI公司Anthropic研究工程师Jeff Wu进一步说明了智能体部署的风险。他以驾驶作比称，人类驾车虽危险，却不存在所有人同时撞向行人的系统性风险，而先进AI软件部署到汽车上，一次更新就可能在极短时间内触发大规模故障。西湖大学教授金耀初认为，当前许多人对AI过于信任，其实系统仍然脆弱，尤其在多智能体协同场景下，可能涌现出难以预测的危险，应提高信任门槛。

面对快速攀升的风险，大会上，多方提出建议。阿里巴巴集团智能体高级安全专家杨小芳认为，管理对象已从静态模型技能变为动态变化的智能体，企业需转向对智能体的行为分析，从被动控制走向主动的工程化管理，建立机制并贯穿项目全生命周期。安远AI专家也主张安全与技术保持平衡协同发展，在AI技术发展流程中内嵌安全机制以应对风险。其实，今年5月，内地多部门已联合印发《智能体规范应用与创新发展实施意见》，系统部署智能体治理架构、应用场景和产业生态，为产业发展划定“安全底线”与“创新空间”的双重边界。金耀初还认为，亟须向公众说明AI系统的脆弱性，帮助社会建立与技术发展相匹配的认知。

值得注意的是，关于全球人工智能治理的讨论，今年7月完成了一次耐人寻味的“接力”。从日内瓦举行的首届联合国人工智能治理全球对话，到在上海举办的2026世界人工智能大会，讨论聚焦同一个话题：国际社会如何把已有的治理理念转化为国际合作行动。

本届大会上，中国接连发布的三份文件尤为瞩目。《人工智能合作发展行动计划》提供合作框架，传递出“AI不是零和游戏”、中国愿与全球共享发展成果的信号；《智能体互信互联互操作全球合作倡议》则著力推动建立智能体协同发展的国际标准；《国际人工智能伦理治理行动计划》对接联合国《未来契约》《全球数字契约》，旨在构建全球协作的伦理治理框架。

联合国开发计划署代表亚历山大·德克罗表示，各国AI就绪度差异巨大，不少国家尚不具备基本的发展与管理能力，社会整体准备滞后。朱旭峰认为，当前全球已出台60余套AI治理框架，接下来可共商两点，一是各国可彼此借力本土成熟监管实践，中国的前沿探索尤具参考价值；二是针对AI跨境数据流动等无国界风险，必须依托国际组织建立常态化多方磋商机制。

从本届大会传递的信号来看，AI智能体正将安全从一个技术问题推升为涉及基础设施、社会制度与国际协作的系统性议题。单一的技术修复或事后监管已显不足，治理需要向上凝聚价值共识，同时向下嵌入工程实践，并在速度上与机器风险的叠加展开竞赛。而这一切的起点，需要人们保持对技术的持续审视，而不是把AI交给一个无人监督的加速循环。