专访:中学老师如何用Mac打造本地AI教学及行政系统 零Token成本

撰文: 林勇
出版:更新:

专访中学老师如何用Mac打造本地AI教学及行政系统,零Token成本。近年AI大行其道,就连不少学校及老师都要活用AI来协助教学,不过发现应用云端大型语言模型(Cloud LLM)时,发现往往受限于高昂的Token使用成本以及连线限制,而且处理校务与学生个人资料时更面对私隐外泄疑虑。早前记者就访问了明爱胡振中书院资讯及通讯科技科与STEAM科主任李晓岚老师(Ms. Li Hiu Nam Hilaria),就透过Mac成功将学校从云端AI过渡至本地AI(Local AI),在MacBook Pro及Mac mini等装置上流畅执行开源大型语言模型,开发出专属的互动式教学套件与行政应用程式,为本港科技教育树立了全新范本。

本地AI大模型优势

李晓岚老师说:“过去学校使用云端AI工具时,主要依赖大公司提供的免费版本。不过,当免费配额用尽后,学校便会面对无法继续使用的困境。若要自行开发网页并串接云端AI功能,教师必须将API绑定信用卡的付费帐户,在学校行政体制上难以估算与审批预算,亦难以保障经费的持续性。”而她指出,转用开源的本地大型语言模型后,由于模型直接下载至学校装置内运行,学校毋须再支付云端 Token 费用,只要开动电脑并维持供电,即可为全校师生提供无限次的AI运算服务。同时,学校能完全掌握模型微调的绝对控制权,将敏感的行政资料锁定在校园内部网络,杜绝资料上传至第三方云端供应商的私隐风险,全面提升资讯安全管理。

明爱胡振中书院资讯及通讯科技科与STEAM科主任李晓岚老师

Mac 硬件发挥流畅效能

要在校园内部顺畅执行复杂的开源大型语言模型,硬件配置正是不少学校需要克服的关口。李老师示范中透露,在本地跑AI并不一定需要购置极为昂贵且耗电的高阶伺服器或独立显示卡。当中Mac机内的Apple Silicon 的统一记忆体架构将中央处理器、图形处理器及神经网络引擎整合,使数据存取效率大幅提升,成为降低本地AI门槛的关键技术。

现时校方主要采用 Mac mini 及 MacBook Pro 作为基础运算装置,利用 Mac 硬件高效能且具成本效益的优点,让开源模型(如千问、Deepseek等)的运作变得非常流畅。校方目前正积极测试将这套本地系统进一步集中与强化,未来计划引入效能更强大的 Mac Studio 作为校内本地AI伺服器,以应付全校数百名师生同时连线运算的需要。

李老师花了一年多的时间来本地化AI系统

教学套件加强学生互动

在实际教学应用层面,这套完全基于本地LLM驱动的互动式教学套件,突破了以往AI只能“一问一答”的直线性互动。李老师透过本地化介面,融入了因材施教的教学逻辑。当系统侦测到学生答对题目时,本地AI会自动组装出难度较高、具挑战性的新问题;若学生答错,系统则会调低难度,并由另一组预先设定好、具鼓励性质的AI大模型引导学生思考。这种多模型协作的流程图设计,不但能照顾到不同学习进度的学生,更能持续激发学生的自主学习意欲。

因为本地化AI系统后,不再受到TOKEN的限制。

除了课堂学习外,本地AI在减轻教职员行政工作上亦发挥了成效。李老师睿:“学校经常需要处理大量的家长查询,然而教师日常教学行程紧密,难以即时回复。校方尝试将一本长达 60 多页、包含校规与常用资讯的家长手册数据汇入本地AI系统内。家长只要在介面上输入提问,系统便会自动在手册中搜寻相应的条文并即时解答,大幅缩短了家长等待回复的时间。”

利用AI来完成一个自动回应系统

此外,面对新入职教职员不熟悉校内繁复行政程序的问题,本地AI亦化身为行政助理;当新职员输入“椅子损坏”等校务问题时,系统便会根据内部文件,自动推断并提供正确的维修申请表,提升校务运作效率。

可以利用不同的LLM组合成一个合适教学或行政系统。

本地AI大模型成未来科技教育关键

学校其实正努力利用硬件优势与创新思维来推动本地AI教学计划,李老师经过约 1 年时间的调校、测试与优化,目前已成功应用于部分课堂教学及家长行政查询中。更表示学校未来将会继续探索更多开源大型语言模型在跨学科教学上的可能性。这种既能确保私隐安全,又能实践低成本、可持续发展的科技教育方案,可以改变了教学文化,更在人工智能时代下的数码转型,开辟了一条极具参考价值的教学发展路线。

早前在会展举行的学与教博览,不少学校及老师展出或示范了利用AI来协助教学或行政工作。

明爱胡振中书院现时采用甚么 Apple 硬件来运行本地AI大模型?

学校目前在测试阶段主要采用 Mac mini 及 MacBook Pro 作为执行本地大型语言模型(LLM)的装置,并计划于未来引入运算效能更强大的 Mac Studio,以构建更稳定的校内AI伺服器。

学校引入本地AI后,对师生的私隐与经费预算有何实质帮助?

本地AI不需要将数据上传至云端,所有敏感的校务及学生个人资料均储存于校内网络,保障私隐安全。同时,本地运算免除了云端供应商按用量收取的 Token 费用,学校毋须再面对预算超支或API付费审批的行政困难。