DeepSeek-V3重磅开源!6710亿参数自研MoE模型引领国产AI新高度

   发布时间:2024-12-27 09:19 作者:陆辰风

近日,“深度求索”官方公众号揭晓了一项重要进展,其DeepSeek-V3模型已正式上线并同步开放源代码。用户只需访问chat.deepseek.com官网,便能与这一最新版本的模型进行互动。

据官方介绍,DeepSeek-V3是一个具备6710亿参数的专家混合(MoE)模型,通过多个专家网络将问题空间精细划分为多个同质区域,有效提升了模型的处理能力。该模型在预训练阶段处理了高达14.8万亿的token,并激活了370亿参数。

DeepSeek-V3在多项评测中的表现尤为亮眼,不仅超越了Qwen2.5-72B和Llama-3.1-405B等开源模型的性能,还与世界顶尖的闭源模型GPT-4o和Claude-3.5-Sonnet等相媲美。

在知识、长文本处理、代码生成、数学计算以及中文理解等多个方面,DeepSeek-V3均取得了显著进步。尤其在算法代码和数学问题的处理上,其表现尤为突出。DeepSeek-V3的生成速度也大幅提升至60 TPS,相较于V2.5版本,速度提高了3倍。

为了让更多开发者能够轻松适配和应用DeepSeek-V3,官方不仅开源了原生FP8权重,还提供了BF16转换脚本。目前,SGLang、LMDeploy、TensorRT-LLM和MindIE等多个平台已支持V3模型的推理。

与此同时,DeepSeek还对API服务价格进行了调整。新的定价策略为:每百万输入tokens的价格为0.5元(缓存命中)或2元(缓存未命中),每百万输出tokens的价格为8元。为了让更多用户能够体验到新模型的强大功能,DeepSeek特别设置了长达45天的优惠价格体验期。

从即日起至2025年2月8日,无论是已注册的老用户还是在此期间内注册的新用户,均可享受DeepSeek-V3 API服务的优惠价格,即每百万输入tokens的价格为0.1元(缓存命中)或1元(缓存未命中),每百万输出tokens的价格为2元。

 
 
更多>同类内容
全站最新
热门内容
本栏最新