当前位置: 首页 » 资讯 » 新科技 » 正文

Mistral推出两款端侧AI模型 可一次性处理50页文档

IP属地 北京 编辑:陈阳 太平洋科技 时间:2024-10-17 19:30:05

近日,Mistral公司宣布推出两款新型AI模型——Ministral 3B和Ministral 8B。这两款模型的设计宗旨是提升和智能等设备的本地化AI体验。与传统的云连接方式不同,这两款模型可直接在设备上运行。

即使在无互联网接入的情况下,Ministral 3B和8B也能提供翻译服务、本地分析和机器人等多项服务,满足用户多样化的需求。两款模型的上下文窗口均为128K,相当于可以一次性处理50页文档,展现了强大的数据处理能力。

Ministral 8B的价格为每百万个tokens 0.1美元(约合人民币:0.7元),而3B版本则为0.04美元(约合人民币:0.28元)。较低的定价使得3B版本更适用于小规模操作和初创开发者。Ministral 8B采用了独特的交错滑动窗口注意力机制,这种设计在提高推理速度的同时,还能有效节省内存。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新