Mistral公司近期宣布,正式推出两款全新AI模型——Ministral 3B与Ministral 8B,旨在为用户带来更加卓越的本地化AI体验。这两款模型无需依赖传统的云连接方式,可直接在设备上运行,为用户提供无缝的智能服务。
Ministral 3B和8B均具备强大的功能,即便在无互联网连接的情况下,也能轻松提供翻译、本地分析和机器人等多项服务,满足用户多元化的需求。两款模型的上下文窗口高达128K,能够一次性处理长达50页的文档,充分展示了其强大的数据处理能力。
在价格方面,Ministral 8B的定价为每百万个tokens 0.1美元(约合人民币0.7元),而Ministral 3B的定价更为亲民,仅为0.04美元(约合人民币0.28元)。这使得3B版本更加适合小规模操作和初创开发者。Ministral 8B采用了独特的交错滑动窗口注意力机制,在提高推理速度的同时,还能有效节省内存。