腾讯云副总裁王麒:全链路AI技术帮助企业拥抱大模型新机遇

互联网
2025
06/10
15:42
分享
评论

伴随大模型技术的高速发展,AI原生应用持续涌现,企业迎来新的发展机遇。6月10日,在腾讯全球数字生态大会青岛峰会上,腾讯云副总裁、腾讯云智能解决方案负责人王麒介绍,从自研的混元大模型到AI基础设施,再到模型训推、智能体开发,以及应用软件,腾讯云已经构建起了全链路的 AI 原生服务,并不断打磨和升级产品,帮助企业实现降本增效和价值飞跃。

腾讯云副总裁、腾讯云智能解决方案负责人王麒

在模型训推层面,腾讯云TI平台提供从数据准备到模型精调、服务部署的全流程开发工具链。结合客户部署和使用DeepSeek的需求,TI平台提供了多种训练和精调模式;在推理加速层面,通过深挖内核和架构延展,在精度几乎无损的前提下,实现服务时延的大幅降低, 以及吞吐能力的大幅提升。

在大语言模型之外,TI平台也提供了面向不同细分场景的解决方案。王麒表示,青岛是一个底蕴深厚且活力迸发的制造业大市。面向制造业,腾讯云 TIAOI平台提供了先进的工业质检方案,帮助企业利用AI提升质检的效率和质量。

截至目前,腾讯云的工业质检方案已经在20多个领域落地,覆盖电子3C、锂电制造、 零部件、半导体SMT等高端制造业核心板块;年交付超过1000套软件平台,累计检测超过2000万件产品,显著降低了瑕疵率,同时每年帮助企业节省超亿元质检成本。

在智能体开发层面,腾讯云也提供了完备的工具产品。不久前,腾讯云将大模型知识引擎全面升级为“腾讯云智能体开发平台”,通过行业领先的RAG技术、全面的Agent能力、以及实战打磨出来的匹配用户需求的功能,帮助用户在大模型时代快速构建智能体。

比如,腾讯云智能体开发平台首创零代码配置多Agent协同转交能力,让用户能轻松实现Agent间协作,通过构建“多专家”体系,让智能体组合处理更复杂的任务。在插件生态上,全面支持MCP协议,平台预置了高质量的、丰富的插件,开箱即用;依托稳定的工作流编排、多智能体协同机制和完善的MCP插件生态,企业可以快速搭建高可用、可演进的专属智能体系统。

王麒介绍,目前已经有众多客户通过智能体开发平台的能力实现降本增效和业务创新。比如,一汽丰田搭建起客服Agent,帮助用户自助排障,降低客服人力成本投入。目前,一汽丰田客服机器人独立解决问题率已从37%提升为84%,知识问答准确率也提升到了81%。

头部物流集团DHL通过智能体开发平台,编排了50条企业专属的工作流,快速搭建适合物流场景的智能服务,用AI自动接待客户,完成查询快件、修改地址和时间、寄送等服务。更重要的是,通过工作流的模式,一线业务人员也可以直接配置智能服务,大幅降低了AI技术的使用门槛。

以下为演讲全文:

各位领导、嘉宾、媒体朋友们,大家上午好! 我是腾讯的王麒, 今天非常荣幸能在这里,与大家共同探讨大模型时代下的新机遇。

今年以来,大模型技术的发展速度非常快,很多AI原生的应用在涌现。我们看到了几个明确的趋势:首先,大模型这项技术,与各类应用进一步融合,从AI原生到应用融合,正在重塑应用市场格局。

第二,训练和推理的效率持续提升。通过算力管理调度、推理加速优化等手段,算力的利用率不断提升,模型的使用成本降低,这也进一步推动了模型在更多场景落地。

第三,智能体的加速落地。今年以来,智能体这个话题特别热,通过智能体开发平台类的工具,企业可以快速落地智能体,企业构建AI应用的门槛也正在降低。

在这样的背景下,腾讯积极拥抱变化,开放共赢:我们坚持以长期投入的精神,继续加强研发投入和优质产品的开发。

在模型层面:我们坚定不移的推动全链路大模型自研,同时也积极拥抱先进的开源模型,让用户可以根据场景进行灵活选择。

在C端应用层面:我们承载满血版 DeepSeek的元宝已成为最受欢迎的AI应用之一,而元宝也正在变成一个AI基础能力,与微信、腾讯文档、腾讯新闻等各类应用融合创新。

比如用户可以把腾讯新闻、微信公众号等内容资源,一键分享到元宝进行分析和解读,高效获取内容干货;比如元宝快速生成的PPT大纲也可以一键发布到腾讯文档,生成高质量PPT。还有更多实用的能力,正在快速迭代。

在ToB领域:腾讯云也为企业提供全链路的 AI 原生服务。从基础设施层、平台工具层 、应用软件层,我们也提供了全栈的AI服务能力,助力企业降本增效和价值飞跃。下面来一起看一下我们我们重点升级的AI服务能力。

腾讯云TI平台是腾讯云面向实战的大模型开发平台,提供从数据准备到模型精调,到服务部署的全流程开发工具链。

在模型训练层面:我们升级了精调工具链,支持更多训练方式,同时支持训推一体潮汐调度。基于这个能力,TI平台能在夜间,将在线推理业务的闲时算力,自动释放给离线训练任务和离线数据处理任务,从而大幅提升资源利用率。

来看这样一个案例:某头部消费电子企业,基于TI平台统一管理集团算力, 支撑了大模型和传统CV小模型的研发,应用在电视产品文案生成、视频分析等场景。基于TI平台提供的精调工具链和资源管理能力,AI研发整体提效50%以上, GPU资源利用率也提升超过80%。

在模型推理层面:TI平台持续升级内置的Angel加速套件,以业界领先的推理加速能力,帮助企业降本。在技术升级方面,我们通过深挖内核和架构延展,在精度几乎无损的前提下,实现服务时延的大幅降低, 以及吞吐能力的大幅提升。

比如某头部新能源 制造商基于TI平台统一纳管算力部署DeepSeek专属模型,支撑知识问答、营销、座舱语音助手等多个业务场景。在使用TI平台提供的Angel加速能力后,DeepSeek的模型综合性能显著提升,资源成本显著降低。

青岛是一个底蕴深厚且活力迸发的制造业大市,腾讯云也提供面向制造业的工业质检方案。腾讯云 TIAOI-AI工业质检平台,专注于外观缺陷质检场景。在训练端,通过TI-AOI训练端训练高精度工业质检模型,并输出SDK;在运营端,将训练好的模型部署在产线机台,进行视觉缺陷检测。

截至目前,我们的工业质检方案在20多个细分领域成功落地,包括电子3C、锂电制造、 零部件、半导体SMT等高端制造业核心板块;年交付超过1000套软件平台,累计检测超过2000万件产品,显著降低瑕疵率,同时每年帮助企业节省超亿元质检成本。真正助力企业实现降本增效。

从模型到智能体,AI应用落地的门槛正在逐步降低。就在不久前,我们将大模型知识引擎全面升级为腾讯云智能体开发平台,通过行业领先的RAG技术、全面的Agent能力、以及实战打磨出来的匹配用户需求的功能,帮助用户在大模型时代快速构建智能体应用。

我们始终相信,企业的智能化能力,必须建立在对企业私域知识的 激活和挖掘之上。因此我们在知识处理领域做了非常深的工作:我们的RAG能力行业领先,能够实现从复杂 Excel表中精准提取答案,支持对接数据库,通过Text2SQL,用户用自然语言即可精准查询、秒级返回。

支持从文档自动生成问答对,并对完整的问答进行校对和管理,全流程可控,显著降低运营人力投入的时间成本。同时,支持文档间比对,辅助高效决策,支持版本对照,高亮增删改的内容,支持仅对变更片段生成问答对,显著降低token消耗。

在RAG基础上,我们提供了全面的Agent能力支持。这些能力源自大量企业场景的实战打磨,既保障了落地所需的稳定性和确定性,又保留了对话智能的灵活性。

比如,我们在工作流中首创具备全局视野的Agent节点,支持参数回退和全局意图洞察,让对话表现得更灵活自然。

同时,我们首创零代码配置多Agent协同转交能力,让用户能轻松实现Agent间协作,通过构建“多专家”体系,让智能体组合处理更复杂的任务。

在插件生态上,我们全面支持MCP协议,平台预置了高质量的、丰富的插件,开箱即用;依托稳定的工作流编排、多智能体协同机制和完善的MCP插件生态,企业可以快速搭建高可用、可演进的专属智能体系统。

同时,我们的平台提供真正面向业务上线运营的全链路支持。从智能体发布上线,到后续的运营监控、配置管理, 我们都有完善的运营管理后台支持,助力实现精细化运维,并支持私有化部署,真正让企业用得放心、运维省心。

这里我介绍两个客户案例:比如在一汽丰田,我们基于 行业大模型,提供 使用的客服Agent能力,帮助用户自助排障,客服机器人独立解决问题率已从37%提升为84%,知识问答准确率也提升到了81%,帮助客户有效减少客服人力成本的投入。

头部物流集团DHL通过智能体开发平台,编排了50条企业专属的工作流,快速搭建适合物流场景的智能服务,用AI自动接待客户,并完成查询快件、修改地址和时间、寄送等服务。更重要的是,通过工作流的模式,一线业务人员也可以直接配置智能服务,大幅降低了AI技术的使用门槛。

我们还有非常多的行业客户,包括零售、政务、金融、消费电子、教育、医疗、出行等客户落地案例。我们相信,随着大模型的持续进化和各项工具的升级,性能指标和产品体验会进一步得到优化,智能体一定能够成为企业和用户的得力助手。

也欢迎大家试用我们的腾讯云智能体开发平台。未来,腾讯也将围绕客户需求,持续打磨产品,为各行各业用好大模型、用好智能体提供助力!

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表 的观点和立场。

相关热点

相关推荐

1
3
Baidu
map