微软Copilot+ PC实现新突破,本地运行DeepSeek 7B和14B大模型

   发布时间:2025-03-04 12:06 作者:钟景轩

微软近日宣布了一项重要进展,正式为Copilot+ PC引入了DeepSeek-R1的7B和14B蒸馏模型,这一功能通过Azure AI Foundry平台实现。此举标志着微软在将AI能力进一步融入个人电脑方面迈出了关键一步。

早在今年年初,微软便透露了将DeepSeek-R1模型的NPU优化版本引入搭载高通骁龙X处理器的Copilot+ PC的计划。如今,这一承诺已如期兑现,为用户带来了更为强大的本地AI运算能力。

据微软官方博客介绍,这一新功能将首先从搭载高通骁龙X处理器的Copilot+ PC开始部署,随后将逐步扩展到英特尔酷睿Ultra 200V和AMD锐龙系列的设备。这意味着,越来越多的用户将能够享受到由AI带来的便捷与高效。

由于DeepSeek模型运行在NPU上,这大大减轻了对PC电池续航和散热性能的压力。同时,用户能够持续获得强大的AI计算能力,而CPU和GPU则可以专注于执行其他任务,从而提升了整体系统的运行效率。

微软在模型优化方面下足了功夫。他们使用了内部开发的Aqua自动量化工具,成功将所有DeepSeek模型的变量量化为int4权重。然而,目前模型的标记速度尚有待提高。据微软报告,14B模型的标记速度仅为8 tok/秒,而1.5B模型的标记速度则接近40 tok/秒。不过,微软表示他们正在积极优化,以期进一步提高速度。

对于开发者而言,这一新功能无疑是一个利好消息。他们现在可以通过AI Toolkit VS Code扩展,在Copilot+ PC上轻松下载和运行DeepSeek模型的1.5B、7B和14B版本。这将为他们提供更加丰富的AI工具,助力他们开发出更加智能、高效的应用程序。

 
 
更多>同类内容
全站最新
热门内容
本栏最新