只用AI不经大脑会怎样?Anthropic专家警告:太依赖恐思考力退化
Anthropic旗下Claude Code工程师Addy Osmani近日发表报告警告称,当AI模型表现越趋精准可靠,人类反而正逐渐丧失质疑、验证与理解系统的核心能力。
他将此现象定义为“认知投降(Cognitive Surrender)”,并指出这将在技术领域引发难以察觉且代价高昂的“认知债务(Cognitive Debt)”。
Osmani引述华顿商学院研究学者Steven Shaw与Gideon Nave的理论,将人类对AI的依赖路径划分为三个阶段。
第一阶段为“认知卸载”:指的是将任务交由AI处理,但人类仍掌握运作逻辑并对最终决策负责。
第二阶段为“判断延后与依赖”:不再将AI产出视为待验证的假设,而是直接纳为后续作业的基础前提。
第三阶段为“认知投降”:彻底将AI的答案视为自身结论,完全丧失核查意愿与念头。
Osmani警告这三个阶段的转变往往在不知不觉中发生。工程师或分析师起初可能仅是粗略浏览产出内容,接著只检视文件结构,直到系统发生异常或需要解释关键架构决策时,才惊觉团队内部无人能理解底层逻辑。
Osmani指出,这并不意味著工程师必须强记每行程式码,而是必须清楚掌握自己究竟还有哪些环节尚未理解,并具备随时重建认知模型的能力。
相同风险也蔓延至企业营运,若管理层仅依赖AI汇整客户访谈、产出竞争对手分析或制定策略方针,却未检验原始资料,极可能在无形中采纳偏颇或错误的结论。
Osmani还提出了“意图债务(Intent Debt)”,指的是当使用者输入模糊的提示词(指令 / Prompt)时,AI往往会自行填补未说明的细节,这些隐含假设并未经过实质考量,人类在毫不知情的状态下将多项隐性决策权交给模型。
长此以往,AI的普及将令人类变得极度依赖,同时失去学习与思考的训练,若下一代完全不了解背后原理、全靠AI协助达到目的,人类将面临智商退化的危机。
【延伸阅读】OpenAI推Images 2.6模型!支援文字一键制作GIF动图 产图提速50%(点击连结看全文)
【本文获“快科技”授权转载,微信公众号:mydrivers】