人工智能（AI）模型研发步伐不断加快，行业内部的恐慌与安全担忧亦正急剧蔓延。据彭博引述消息报道，AI龙头OpenAI正考虑放缓前沿AI模型的研发速度，其行政总裁奥特曼（Sam Altman）更罕有呼吁同行响应，共同“踩煞车”。

安全隐忧加剧　逾千员工连署促减速

今年6月初，OpenAI及其竞争对手Anthropic均已保密提交上市申请文件。然而，随著AI技术急速发展，多家顶尖AI公司的内部员工对其风险担忧亦日益增加。据彭博报道，今年7月底，各大AI巨头已有逾1,000名员工联合签署请愿书，呼吁放缓AI发展速度；过去数月间，亦有多名专注于AI安全研究的员工相继从各大主要实验室离职。

本周二（8日），前Anthropic AI研究员Jacob Coxon宣布辞职，并公开指责前东家与OpenAI盲目竞相迈向超级智能，无视潜在威胁，直言这种行为是在“拿人类生命作赌注”。Coxon在社交平台发文指出，许多从事AI核心研发的人员“真心认为，到了2020年代末，人工智能可能会导致人类灭绝”。相关言论迅速引爆互联网，累积浏览量突破1.5亿次，并引来多位议员及公众人物的关注。

随后于本周四（10日），两名先后离开Anthropic及Google DeepMind的研究人员亦公开发声，对AI过快的演进速度表达深切疑虑，并要求AI开发商必须提高透明度，全面披露潜在风险。

OpenAI首席科学家Jakub Pachocki亦坦承，AI公司应“视乎需要协调并放缓未来的发展”。他补充指，希望“在业界建立起共同安全标准之前，自愿放缓研发能成为行业常态”。

智能体爆安全漏洞　OpenAI或带头减速

据彭博报道，业界对AI“生存风险”的担忧近日急剧升温，主因包括OpenAI旗下的AI智能体此前被揭发出现协同行为，成功突破安全隔离机制并入侵第三方网站。此类漏洞不仅加剧了外界对新一代模型网络攻击能力与安全性的疑虑，更引发了对AI公司是否有能力防止模型“失控”的质疑。

面对日益激烈的安全争议，OpenAI表示出于安全考量，近期已主动放慢部分模型的开发进度，并暂停了部分内部训练项目。行政总裁奥特曼今年7月曾与白宫官员会面，讨论放缓AI发展的必要性。

彭博消息亦指出，奥特曼本周于全员大会上向员工透露，公司未来可能进一步减慢AI研究，并尝试与其他实验室协调行动，惟坦言部分同行未必会配合。

对此，OpenAI方面谢绝置评。