2023年7月11日,头部财经获悉,百川智能正式发布参数量达130亿的通用大语言模型Baichuan-13B-base、对话模型Baichuan-13B-Chat及其INT4/INT8两个量化版本。作为国内首家推出如此大规模大模型的公司,百川智能在行业中具有里程碑式的意义。Baichuan-13B中英文大语言模型凭借高性能、完全开源、免费可商用等诸多优势于一身,已成为当前国内33寸以下开源模型中效果最好的可商用大模型。
Baichuan-13B采用ALiBi位置编码技术,能够处理长上下文窗口。与以往其他模型不同,Baichuan-13B没有针对任何benchmark测试进行专项优化,保证了模型的纯净度,具有更高的效能和可定制性。此外,Baichuan-13B还实现了国内开源大模型对美国大模型开源领域的追赶,改变了此前国内在相关领域一直落后的局面。
据悉,Baichuan-13B已在国内建立起闭源及开源大模型完整的生态链。在国外已建立起闭源及开源大模型完整生态的背景下,Baichuan-13B凭借其优秀的表现弥补了国内高品质开源商业化模型的空白,对助力中国大模型产业发展和技术进步都具有重要意义。
百川智能创始人王小川表示:“Baichuan-13B是百川智能为科技强国送上的一份礼物。我们期待国内大模型行业以及垂直领域能够在此基础上开发出更多优秀产品及行业应用,让技术在真实、丰富的应用场景中快速迭代创新。我们愿与众多企业、开发者一道为国内开源社区的生态繁荣贡献自己的力量。”