近日,以“共赢行业智能化”为主题的第九届华为全联接大会(HUAWEI CONNECT 2024),在上海隆重开幕。腾讯音乐娱乐集团(TME)天琴实验室AI大模型负责人吴斌博士作为特邀嘉宾出席了本次大会,带来了自研创新的MUSELight大模型推理加速(以下简称“MUSELight")解决方案。此次,腾讯音乐基于旗下天琴实验室自研的MUSELight大模型框架与昇腾AI云服务 合作共建,发布行业领先的Stable Diffusion系列视觉大模型推理加速方案lyraSD的昇腾适配,实现了AI算力的自主创新和领先突破,将在音频、视觉前沿技术应用,为用户提供更美好的音乐娱乐体验,并赋能行业。
伴随多模态融合技术的创新和发展,大模型AI在计算机视觉、听觉及自然语言处理等领域实现了进一步突破,为AI技术与行业的融合发展提供了广阔前景。然而,大模型部署所需的成本及硬件要求,令众多企业望而却步。如何提升模型的推理速度并有效降低部署成本,已成为业内关注的焦点。天琴实验室的MUSELight, 结合昇腾算力架构的特点和潜力,采用计算核心高度并发、流水折叠编排、计算/数据移动高度向量化及核心算子原生定制等多项优化策略,对昇腾AI算力进行了自顶向下的创新性优化,相比传统AI算力解决方案,推理速度提升超过166%,性价比提升35%。这一突破性的进展不仅有效降低了大模型的部署门槛,还为企业提供了更安全、高效、经济的自有AI算力应用解决方案,进一步推进了各行业在智能化转型方面的协同与共赢。
值得关注的是,天琴实验室MUSELight在昇腾AI算力的加速解决方案将于歌单封面生成业务展开试点。歌单封面生成是MUSE AI技术基于音乐理解绘制图片的创新成果,通过分析歌曲的内容和情感等要素,AI快速生成与音乐风格匹配的封面。这项业务不仅可以大幅提升歌单封面制作效率,还能够降低制作成本,有效推进音乐制作产业的数智化升级,进一步丰富音乐作品的呈现形式。据悉,天琴实验室将与昇腾AI云在第四季度进一步推出大语言模型等更多大模型推理加速解决方案,全面赋能各项业务形态。
在与昇腾AI云合作之前,天琴实验室的MUSELight大模型推理加速引擎,已经为多个业务场景提供了有效解决方案。比如,通过MUSELight的部署优化,微信键盘的文本润色模块获得了显著的模型加速收益,实现了近100%的速度提升和50%的成本优化。短文本基本可以“秒”生成,同时支持长文本润色及排版优化等功能,实现了更加高效、流畅的文本处理效果。此外,QQ音乐旗下的奇喵相机微信小程序,也在MUSELight大模型推理加速引擎的加持下,获得了30%的性能提升,极大缩短了图像生成时间,带来了“丝滑”的AI影像体验。通过MUSELight大模型推理加速引擎,天琴实验室不仅为腾讯旗下的微信、QQ音乐、全民K歌等平台带来了更高效的AI内容生成能力,还在行业内广泛推广,为其他企业降低大模型的部署成本,解决AI技术落地中的瓶颈问题。例如,MUSELight为全球数字科创领域的独角兽APUS带来了30%-40%的绘图中台能力提升,大幅提高了其业务效率,显著优化了AI技术的应用效果。
天琴实验室是腾讯音乐旗下首个音视频实验室,秉持着“科技向善”的企业使命,始终致力于用具有温度的前沿技术,为用户提供更美好的音乐娱乐体验。为了实现这一目标,天琴实验室在MUSELight之外,还研发了“琴乐音乐生成大模型”、“文曲大模型”、“MUSE AI音乐视觉生成”、“MuseV虚拟人生成”、“MuseLM音乐多模态大模型”等大模型黑科技。伴随着AI大模型在各行业智能化转型中的 应用,腾讯音乐天琴实验室凭借其行业领先的大模型技术,有望为行业提供更多具有温度和智慧的解决方案,助力更多企业开启智能化的未来。
