You are currently viewing Token效能将成为衡量企业级AI价值核心指标

Token效能将成为衡量企业级AI价值核心指标

引言:蚂蚁数科在中关村论坛指出,随着AI智能体从“对话交互”向“任务执行”演进,企业级AI竞争焦点正从“参数竞赛”转向“Token效能竞争”。大小模型协同将成为产业落地的关键路径。

3月26日,在中关村论坛未来产业创新发展论坛上,蚂蚁数科大模型技术创新部总经理章鹏表示,OpenClaw类自主执行智能体的爆发将带来企业级AI范式革命,推动大模型在产业场景的落地从“参数竞赛”走向“Token效能竞争”。

蚂蚁数科大模型技术创新部总经理章鹏在中关村论坛演讲

章鹏指出,OpenClaw在真实产业环境中面临显著挑战:由于缺乏对行业规则、业务流程的深度理解,智能体在执行复杂任务时往往反复调用工具,导致Token消耗远高于有效产出。在一些高频调用场景中,Token消耗成本可达集成式Agent成本的数十倍甚至百倍,这种高投入低产出的模式,使其在产业规模化应用中面临可持续性难题。

“大模型产业落地的下半场,核心命题不是模型参数规模的竞争,而是单位Token效能的持续提升。”章鹏认为,企业应结合实际场景与需求,选择大小模型结合的AI解决方案,以更低算力成本实现更高业务价值。以金融场景为例,该领域每天需处理海量高频低时延的任务,传统行业推理大模型在這些场景就像“杀鸡用牛刀”,成本高昂,响应偏慢,资源浪费。

章鹏表示,大参数模型在复杂推理与深度分析方面表现更优,小参数模型则在高频小任务场景拥有更低延迟与更高性价比,产业需要大小模型相结合的方案,才能更高效低成本地解决真实场景问题。

论坛上,蚂蚁数科发布了轻量级金融专用模型Ling-DT-Fin-Mini-2.5,这是Ling DT系列大模型的首款模型。据介绍,该模型针对金融领域高并发、低时延的任务场景进行优化,在保持专业深度的同时,可将推理成本压缩至可规模化部署的水位。相比业界主流同能力通用模型,推理速度快100%,为金融机构带来切实的降本增效价值。

章鹏表示,技术发展终将回归产业对效率的理性要求,下一阶段的竞争中,Token效能将成为衡量企业级AI价值的核心指标。蚂蚁数科将持续深耕企业级AGI,进一步推出百灵企业版Ling DT大模型及其行业版,加速智能体在企业级复杂场景的规模化落地。

思为交互

思为交互科技

思为交互科技是一家”从云到端”的新型物联网及工业4.0技术公司,可以为各类生产制造型企业提供从硬件到云端全套的解决方案。我公司Galileo OS数据基座融合AI大模型、数据中台、物联网等技术,推动制造业工厂数字化转型。从数字化车间到智能工厂,全面覆盖安全、生产、质量、设备管理等业务。

声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:sales@idmakers.cn删除,任何个人或组织,需要转载可以自行与原作者联系。