美国纽约州州长霍楚尔（Kathy Hochul）星期三（10月28日）正式签署一项新法，严禁未成年人使用具备虚拟伴侣属性的人工智能（AI）聊天机械人。这是迄今为止全美针对消费级AI模型出台的覆盖面最广的监管举措之一。

新法明确要求，聊天机械人营运商如拥有ChatGPT的OpenAI，采取合理的年龄核实措施。对于未满18岁的用户，或尚未确认用户已成年，平台不得提供新法所列的高风险聊天机器人功能。

机械人严禁输出任何可能误导未成年人认为它拥有生命、人类属性或真实情感的内容；不得诱导青少年产生双方具备私人情感、专业咨询或权威指导关系的错觉；不得将生成内容包装为个人观点。同时，系统被明令禁止留存未成年人的身心健康等私隐敏感数据。

霍楚尔在新法签署仪式上指出，这项立法的核心目标是斩断AI冒充未成年人“朋友、恋人”的情感绑定链条，筑牢青少年的心理与生理健康防线。

非营利倡导组织“常识媒体”（Common Sense Media）对新法表示高度认可，称之为全美最严格的儿童AI安全法，有效防范潜伏的青少年心理伤害风险。

但这一法规却遭到科技业界的强烈反弹，抨击新法条款定义过于宽泛，强调不应剥夺未成年人接触前沿学习的工具。

截至目前，OpenAI与Anthropic等头部AI企业均未就此作出公开回应。

本文获《联合早报》授权转载。