恒生大学研AI侦测网络欺凌 懂粤英夹杂语境及早辨识介入
本港网上讨论文化盛行,且充斥中英夹杂、广东话口语及本土潮语,令传统人工智能(AI)难以辨识暗藏讽刺或间接攻击的网络欺凌行为。恒生大学最新一项研究突破技术限制,利用具备私隐保护的数据集及大型语言模型(LLM),从对话整体语境深入剖析网络欺凌,成功开发出一套能够在欺凌互动逐渐形成过程中及早识别的AI框架,为识别相关行为及建立更安全的数码社群提供新方向。
破解中英口语混合难题 分析多轮对话捕捉暗讽
研究由恒大计算机科学系助理教授朱振辉领导,成果于2026年先后发表于国际学术期刊《Data》及《Intelligent Systems with Applications》。朱振辉表示,项目早在数年前开展,惟当时技术无法处理涉及多名参与者的复杂对话,直至近年大型语言模型的快速发展,才令跨语境分析得以实现。
本港网民在网上沟通时,经常混合使用广东话、书面中文、英文及本地网络潮语。欺凌者往往未必直接使用粗言秽语或明显的冒犯字眼,而是采取讽刺、嘲笑或间接攻击等手段,传统单凭关键字过滤的系统极易走漏。为此,团队耗时逾6个月,从社交平台X(前称Twitter)数十万个原始帖文中进行清理及标注,建立包含1.4万多条人工标注帖文、逾1,600段对话的“具私隐保护中英夹杂网络欺凌数据集”。
系统评估权力失衡 助优先介入高风险个案
与过往单纯审查个别单一帖文的机制不同,新系统会分析多名参与者及多轮交流的完整对话。由LLM驱动的框架不仅能识别受害者、施暴者及欺凌互动行为,更能追踪相关行为如何随时间演变,从而精准捕捉重复针对、间接提及或人际关系变化等动态。
此外,研究团队更提出一套有系统的评估方式,综合考虑欺凌互动的频率、施暴者人数以及参与者之间的权力失衡程度,科学评估欺凌事件的严重性。这种分析机制有助教育机构、社交平台或前线辅导人员优先锁定高风险个案,以便在情况恶化前及早进行人为介入。
强调AI不取代人手判断 未来拟扩至图像及迷因
朱振辉强调,AI并非要取代人类的专业判断。他解释,网上语言变化迅速,且没有任何自动化系统是完全准确,因此人手审查仍然必要,相关数据集亦需定期更新及重新标注。研究同时证明,个人私隐保障与有效推动AI科研可以并存,在减少训练数据中的杂讯及偏误后,更可提升模型的表现。
团队计划未来将研究范畴由纯文字进一步拓展至图像、网络迷因(meme)及其他多模态内容,期望善用科技力量,协助减少网络欺凌造成的伤害,并为更安全的数码环境作出贡献。