来稿|从港大论文引虚构文献事件 看建立AI时代学术问责制的迫切

撰文: 01论坛
出版:更新:

来稿作者:谭永昌

一篇发表于《当代中国人口与发展》(China Population and Development Studies)的论文,被揭发引用多篇由人工智能虚构的文献,61篇引用中有约40%文献并不存在。论文第一作者为港大社工系博士生白同学,通讯作者为香港大学社会科学院副院长叶兆辉教授。叶教授回应指“博士生用AI没检查”、“非诚信问题”,处理方式是要求博士生“修读AI课程”。

在人工智能时代,我们的学术诚信机制似乎出现了新漏洞。关键也是它暴露了一个危险的监管落差:学生使用人工智能,有检测系统、明确惩罚;而研究方却没有相应检查机制、处分模糊。当门未能守好,破坏的不只是一篇论文,而是整个学术问责系统的可信度。

为何学术把关机制会失效?

香港大学事件固然是个别研究团队的失误,但更深层的问题是制度设计未跟上人工智能时代的步伐。据叶兆辉教授所指,此学术论文通过两次同侪评审,但评审者没有发现近半引用文献属虚构。这并非完全是评审者失职——同侪评审的设计前提是作者已尽职核实引用,评审者的职责是审视论证逻辑与学术贡献,而非逐条核实文献真伪。人工智能虚构的文献格式完整,包括作者、年份、期刊名称、DOI(数字对象识别符),靠肉眼难以察觉真伪。但当AI可以批量生成“看似真实”的虚假文献,这个信任前提已被打破。

不少本地大专院校已发布生成式人工智能在“教与学”层面的政策,主要针对学生使用与课程评核。虽然个别院校(如港大)已推出研究端AI指引,但这些多属“原则性建议”而非“强制规程”,且各校标准用字各异,缺乏统一、可执行的框架。

三个关键缺口尤其明显:第一,引用核证流程——虽然港大有AI使用指引,但缺乏如“逐一核实并提交声明”的流程与审核机制;其次,AI使用申报——现有要求多属倡议,缺乏类似利益申报那样可由伦理委员会稽核的制度;最后,违规分级与问责——现行学术诚信条例未针对AI滥用细化处分标准,导致处理个案时标准模糊、问责困难。如本次事件,叶兆辉称“博士学生用AI没检查”,但现行制度并无明文要求“人工智能生成引用必须核实”的操作细则,而处分该学生去“修读AI课程”——违规成本之低,令人咋舌。

连锁学术污染不堪设想

这种学术犯错如不及早把关,恐怕会出现连锁效应。涉事这篇论文研究香港生育率低迷因素,四成虚构的引用,意味着论文建基的实证基础有近半是空中楼阁。生育问题是重要的公共政策领域,若政策制定者或其他研究者引用这篇论文,可能导致错误的政策方向。第一层污染是这篇论文的论证可信度存疑;第二层污染是其他研究者引用这篇论文,将错误资讯再传播;第三层污染是基于错误文献的研究可能影响政策制定、教学内容。事件的重要性远超“技术问题”,而是会透过引用网络扩散的学术污染。

现状呈现明显的监管落差。在学生端,有明确政策禁止未申报使用AI,有Turnitin检测系统,违规有明确惩罚如不及格、开除学籍。但在研究端则模糊——缺乏规范,仅依赖同侪评审(已证实失效),无技术检测,处分同样模糊地“正调查”,但未有明确时间表和标准。这种不对称性制造了监管真空。

叶兆辉教授将问题定义为“技术问题”,而非“诚信问题”。但学术诚信的核心是作者对其发表内容的真实性负责。如果“不知道AI会虚构”可以成为免责理由,那么“不知道助理会抄袭”是否也可以?此次事件中,博士生白逸铭作为第一作者,使用AI协助整理引用资料时未检查内容,应承担直接责任。但叶兆辉作为通讯作者,对论文质量负有最终把关责任。在学术伦理中,通讯作者对论文品质承担最大责任,涉及学术不端的稿件甚至要承担法律责任。然而,当博士生的处分是“修读AI课程”,通讯作者的问责又在哪里?这种责任归属的模糊,正是研究端监管机制的核心问题。把关者未能守好门,破坏的不只是一条规则,而是整个规则系统的权威性。

建立应对AI学术问责制

期刊编辑部正调查,可能撤稿 。但撤稿只是补救措施,无法阻止下一次同类事件发生。更重要的是建立预防机制:港大或者相关单位是否会要求所有研究者申报AI使用?是否会建立引用核实流程?是否会对涉事的第一作者和通讯作者有实质处分?这些才是关键。

首先是建立研究端AI使用指引。现有人工智能政策聚焦教学与学生评核,对研究端缺乏明确规范。改革应包括三个方向:明确AI可用于文献搜寻、数据分析、语言润色等辅助性工作,但不可用于生成引用文献、实验数据等核心学术内容;强制核实所有由AI协助生成的引用文献,论文提交时需附上“引用核实声明”,类似研究伦理声明;透明申报AI使用情况,类似利益申报,例如“本研究使用AI协助文献搜寻,所有引用已人工核实”。

其次是建立统一问责标准。现时研究使用AI的违规处分模糊,核心原则其一,是问责制度可参考学生违规处分的设计。可以分级处理:轻微违规如AI使用未申报但引用真实,处分为警告、要求更正;严重违规如引用虚构文献,处分应为撤稿并公开更正、停职检讨、扣减研究资助、暂停招收研究生资格,通讯作者需承担连带责任;极严重违规如伪造数据、恶意误导,处分应为解雇、撤销学术资格等。处分应匿名公告,建立公开案例库,每年公布各院校学术诚信违规统计。透明化是问责的基础,只有让公众知道违规后果,才能建立阻吓作用。

驾驭工具维护教育质素

人工智能时代,模型日新月异,人们常言道人工智能有朝一日会取代人类。在书写这篇文章时,笔者亦有请教人工智能,唯我与诸位一样需要学习驾驭,而非被其凌驾。当工具变得如此强大,我们如何保持人性中珍贵的部分——诚实、责任、对真相的执着?学术诚信不只是一套规则,而是一种文化。人工智能可以是助力,但规则必须由人来守护。教授、学生、评审者、政策制定者,我们每个人都是这个制度的守护者,每个人都是守门人。

预防胜于治疗,制度升级刻不容缓。教育当局应牵头制定跨院校人工智能使用指引,大学教育应将学术诚信机制升级纳入院校质素保证框架,各院校应建立透明的违规处分公告机制,学术界应主动拥抱变革,而非被动等待丑闻爆发。这是学术界的责任,也是维护香港教育质素的公共责任。我们不能等到下一次丑闻,才发现制度仍然没有改变。

作者谭永昌是香港中文大学城市研究系学生。

文章仅属作者意见,不代表香港01立场。

01论坛欢迎投稿。请电邮至01view@hk01.com,附上作者真实姓名、自我简介及联络方法。若不适用,恕不另行通知。香港01保留最终编辑权。