Mistral新推两款AI模型,端侧处理50页文档不再是难题?

   发布时间:2024-10-17 19:56 作者:冯璃月

Mistral公司近期宣布,正式推出两款全新AI模型——Ministral 3B与Ministral 8B,旨在为用户带来更加卓越的本地化AI体验。这两款模型无需依赖传统的云连接方式,可直接在设备上运行,为用户提供无缝的智能服务。

Ministral 3B和8B均具备强大的功能,即便在无互联网连接的情况下,也能轻松提供翻译、本地分析和机器人等多项服务,满足用户多元化的需求。两款模型的上下文窗口高达128K,能够一次性处理长达50页的文档,充分展示了其强大的数据处理能力。

在价格方面,Ministral 8B的定价为每百万个tokens 0.1美元(约合人民币0.7元),而Ministral 3B的定价更为亲民,仅为0.04美元(约合人民币0.28元)。这使得3B版本更加适合小规模操作和初创开发者。Ministral 8B采用了独特的交错滑动窗口注意力机制,在提高推理速度的同时,还能有效节省内存。

 
 
更多>同类内容
全站最新
热门内容
本栏最新