携手火山引擎,顺丰科技用AI重塑供应链

互联网
2025
07/04
13:39
分享
评论

把大模型用在长链路、复杂协作的供应链上,是提效最明显的领域之一。供应链场景的「钉子」迎来了大模型生产力这把「锤子」。

作为支撑顺丰速运背后的供应链数智化承载,顺丰科技围绕物流场景的数智化需求,携手火山引擎积极探索大模型时代的最佳实践。

2024年,凭借火山引擎机器学习平台 AI 训推一体服务,顺丰科技推出了针对物流行业的垂直领域大模型——「丰语」,在顺丰的市场营销、客服、收派、国际关务等业务板块的二十余个场景中的落地实践应用。「丰语」系列模型还利用火山引擎 AI 云原生推理套件 ServingKit,实现了从模型部署到推理应用全链路的提效。

高效训推一体架构,打造「丰语大模型」

顺丰科技全面拥抱、 探索 AI 在物流各环节中的增长提效。自研的“丰语系列大模型家族”包括丰语语言大模型、丰语语音大模型、丰语多模态大模型,在顺丰科技的市场营销、客服、收派、国际关务等20+业务板块场景中实践应用。

image.png

在训练丰语大模型的过程中,顺丰科技通过火山引擎机器学习平台,实现从训练到推理的全链路加速。

模型训练过程中,火山引擎训练框架 veTuner 帮助「丰语大模型」实现了高性能 Dataloader 的全面适配与集群自动并行,相较开源框架性能提升超30%;

同时,火山引擎强化学习库 veRL 支持 PPO、GRPO、DAPO 等多种算法,最高实现64.9% MFU(内存频率利用率),大大降低了「丰语大模型」的训练成本;

xLLM 推理框架通过 PD 分离部署与动态流量调度,将「丰语」大模型的吞吐能力提升最高达5倍,稳定应对高并发业务高峰。

当大模型重塑物流服务,如何降低推理成本?

与此同时,随着大模型渗透到物流上下游的各个场景,每天千万件的订单信息需要消耗大量的 AI 推理资源。

面对不断攀高的推理成本,顺丰科技利用火山引擎 AI 云原生推理套件 ServingKit ,实现从模型部署到推理应用全链路的提效。在 DeepSeek V3/R1满血版的部署上做到顺丰同城“即日达”的效率,通过算子融合和镜像优化,在相同 SLO 和上下文输入长度下大模型吞吐有明显提升。

2025年,随着智能体落地按下加速键,未来,顺丰科技将携手火山引擎,进一步探索物流场景的 AI 生产力落地。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表 的观点和立场。

相关热点

相关推荐

1
3
Baidu
map