澎峰科技携手海光DCU,PerfXLM+推理框架赋能DeepSeek模型新飞跃

   发布时间:2025-02-07 19:59 作者:柳晴雪

近日,澎峰科技对外公布了一项重要技术进展,该公司自主研发的PerfXLM+推理框架已成功实现对海光DCU的深度适配与优化,特别针对DeepSeek全系列模型进行了专项优化。

澎峰科技在其官方网站上展示了这一成果,并表示此次适配通过优化底层架构,充分发挥了海光DCU的强大算力。特别是在处理DeepSeek-R1-Distill系列等模型时,结合海光DCU的并行计算能力,PerfXLM+推理框架有效降低了资源消耗,显著提升了推理效率。

在生态方面,海光DCU基于GPGPU通用加速计算架构设计,兼具出色的兼容性和生态开放性。这意味着DeepSeek模型可以直接在海光DCU上运行,无需进行复杂的底层适配工作。技术团队可以更加专注于模型的精度验证和性能优化,从而加快部署进程。PerfXLM+推理框架还通过模型量化、算子融合等核心技术,为企业提供了低成本、高稳定性的AI推理服务。

在应用场景方面,澎峰科技的PerfXLM+推理框架已经覆盖了自然语言处理、多模态理解等核心领域。借助海光DCU集群,客户可以快速迭代和弹性扩展模型,满足各行业对实时推理的需求,推动AI技术的规模化应用。

此前中科曙光国家先进计算产业创新中心有限公司也宣布了海光信息技术团队成功完成DeepSeek V3和R1模型与海光DCU的国产化适配,并正式上线。这一消息进一步证明了海光DCU在AI领域的应用潜力和澎峰科技在AI推理框架方面的技术实力。

 
 
更多>同类内容
全站最新
热门内容
本栏最新