阿里云一键部署DeepSeek模型,三步零代码轻松上手!

   发布时间:2025-02-05 03:22 作者:冯璃月

近日,阿里云发布了一项重大更新,宣布其PAI Model Gallery平台现已支持云上一键部署DeepSeek-V3与DeepSeek-R1模型。这一举措标志着AI模型开发流程的重大简化,用户无需编写繁琐的代码,即可实现从模型训练、部署到推理的全过程。

据悉,阿里云PAI Model Gallery的一键部署功能操作简便,仅需三步即可完成。首先,用户需登录PAI控制台,选择并进入指定的工作空间。在左侧导航栏中,快速开始选项下的Model Gallery等待着用户的探索。

进入Model Gallery后,用户可以在模型列表中轻松找到所需部署的DeepSeek模型。例如,点击“DeepSeek-R1-Distill-Qwen-7B”模型卡片,即可进入该模型的详细信息页面。

在模型详情页,用户只需点击右上角的部署按钮,即可开始模型的部署过程。值得注意的是,DeepSeek-R1支持vLLM加速部署,而DeepSeek-V3则不仅支持vLLM加速部署,还提供了Web应用部署的选项。DeepSeek-R1蒸馏小模型更可采用BladeLLM和vLLM进行加速部署。

部署成功后,用户可以在服务页面查看调用信息,获取Endpoint和Token等关键信息。若对服务调用方式有疑问,用户可点击预训练模型链接,返回模型介绍页面查看详细的调用方式说明。

本次部署的DeepSeek-R1-Distill-Qwen-7B模型是经过蒸馏处理的版本。它基于DeepSeek-R1的推理能力,通过蒸馏技术将推理模式迁移到了较小的Qwen模型上。同时,阿里云PAI Model Gallery也提供了DeepSeek-R1和DeepSeek-V3原始模型的一键部署服务,以满足不同用户的需求。

 
 
更多>同类内容
全站最新
热门内容
本栏最新