HPE推AI工厂助企业控Token成本 倡中小企先厘清营运需要再部署AI
人工智能(AI)逐步融入企业营运,企业关注的已不只是模型效能,亦包括运算成本、数据安全及投资回报。随着AI代理应用增加,Token(令牌)消耗及管理更成为企业部署AI时的重要考量。
慧与科技 (Hewlett Packard Enterprise, HPE)早前举行“HPE Discover More Hong Kong 2026”,分享企业AI基建及网络发展方向。HPE大中华区、香港及澳门副总裁兼董事总经理朱海翔表示,公司目前正透过AI工厂、混合云及自动化网络等方案,协助企业建立可扩展的AI基建,并建议中小企引入AI前,先厘清营运需要及预期效益,避免盲目投资。
朱海翔指出,HPE正推动以开源模型为基础的AI工厂(AI Factory)方案,让企业按需要在本地或混合云环境部署私人AI,处理内部数据及生成Token。企业可按自身业务需求管理AI运算资源,亦有助掌握成本及数据安全。
随着企业使用AI模型及AI代理的次数增加,Token的生成及消耗将直接影响营运开支。HPE香港及澳门总经理郭荣忠表示,企业使用AI代理时,不能只着眼于工作效率,亦须设立清晰的权限及管治机制。他指出,企业可透过HPE的编排层(Orchestration Layer)调配不同模型,按任务需要选择合适工具,并监察及限制Token用量,避免系统过度调用模型而令成本失控。
HPE香港及澳门首席技术总监Lawrence补充,企业可采用混合模型策略,由本地小型语言模型处理日常或较简单的工作,较复杂的任务才交由云端大型模型处理,并设定相应门槛,平衡运算需求与成本。
GreenLake按需扩展 网络方案助减服务中断
除AI工厂外,HPE亦提供GreenLake服务模式,让企业按实际需要使用及扩展基建资源,毋须一开始便大规模购置设备。郭荣忠表示,企业可先进行小规模概念验证,再按实际成效逐步扩大部署,相关模式亦可支援大型企业的基建升级。
网络方面,他说HPE推动自动化网络方案,透过监察及预测分析,及早识别潜在故障并作出处理,减低服务中断风险。
郭荣忠又说,透过 HPE Discover More Hong Kong 2026,将汇聚客户、合作伙伴及业界专家,共同探讨网络、AI 与混合云技术如何协同运作,打造具韧性的数码环境。
中小企部署AI 先找业务痛点再投资
对资源相对有限的中小企而言,郭荣忠建议,部署AI前应先厘清业务问题,而非先购买设备或追逐最新技术。他认为,企业须先决定希望透过AI降低成本、提升生产力,还是开拓收入及新客源,再按具体需要选择合适方案。
Lawrence表示,企业亦须在部署初期考虑AI代理的身分、存取权限及工作流程,将管治机制纳入整个系统设计,避免代理执行任务时出现不必要的模型调用,令Token开支超出预算。
内地生物医药积极应用AI 香港可助跨境合作
除企业营运外,生物医药亦是AI应用较活跃的领域之一。朱海翔表示,内地不少生物医药及制药企业已利用AI进行模型训练、建模、微调及推理,全球药企亦会到内地寻求药物研发及合作机会。半导体业界则利用AI改善生产流程及效率。
他指出,生物医药涉及大量研究及企业数据,跨境使用数据时须考虑不同地区的规定,认为香港在连接内地与国际市场方面具一定条件,若能配合合适的数据管理及合规安排,可望在国际药企与内地科研资源的合作中发挥桥梁作用。