文|光锥智能,作者 | 白鸽,编|王一粟
大模型,正在重塑“一体机”这个原本小众的服务器产品。
“之前行业对一体机的需求非常少。”科大讯飞智算业务部副总经理许昀对光锥智能说道,“而现在的需求远超预期。”
自开年以来,随着DeepSeek大模型的爆火,也点燃了大模型一体机市场的爆发。
据IDC统计,市场上已迅速有接近百家厂商推出AI一体机产品,包括新华三等服务器厂商、京东云、百度智能云等云服务提供商、科大讯飞等行业应用开发商及大模型技术供应商等各路玩家。
一体机厂商在机场打广告
大模型一体机是一个专为人工智能大模型应用和部署而设计的集成计算设备,通常包含中央处理器(CPU)、图形处理器(GPU)、存储器、操作系统、AI平台软件及各类模型算法等软硬组件,可以理解为一个小型独立的服务器,既能够让大模型开箱即用,还能够保证数据安全。
这些玩家推出各种集成DeepSeek大模型为主的大模型一体机,并以各自不同的竞争优势切入不同的行业场景应用之中。
从产品类型上看,市场上目前爆火的大模型一体机,更多是以集成DeepSeek大模型为主,包括32B、70B以及671B满血版等,整体售价大概在十几万元到百万元之间不等。
“华为四卡机器售价15万多,底层硬件是鲲鹏CPU+昇腾,内置DeepSeek-70B大模型,集成问答助手、知识库等功能,可同时支持30个人并发。”一位大模型一体机销售商对光锥智能表示,“而搭配DeepSeek-671B大模型的一体机售价则超过200万元。”
事实上,在IT基础设施中,一体机并不是一个全新产品,此前也存在着数据库一体机等产品,但整体市场需求却始终是不温不火。
而这一波大模型一体机爆发背后,则是受DeepSeek影响,及大模型小型化和算力小型化的发展趋势,通过“软硬协同、开箱即用”的特性,能够满足企业在专一的业务场景中,低成本使用大模型的需求,解决了企业AI部署中的数据安全、算力成本和场景适配三大痛点。
不过,尽管大模型一体机供给方的市场热度颇高,“但实际上在行业落地还需要时间。”许昀说道,“毕竟现阶段大多数企业还处于试点阶段,行业适配还需要时间,预计半年左右时间,真实的市场需求才会爆发出来。”
Gartner研究总监张吟铃也表示:“很多企业并未算清楚部署大模型一体机的投资回报比,也因此很多对大模型使用场景经过研究的大型企业对大模型一体机的投资并不多,整体行业还处在一个前期。”
那么,本质上仍属于AI服务器类型的大模型一体机,还能够持续火多久?各类玩家在其中又将以什么样的角色进行争夺战?
一体机需求暴增,众多玩家开抢市场
2025年,被看作是大模型落地应用暴发的一年,一体机作为底层算力支持的服务器,也成为众多企业拓展大模型落地应用的关键一环。
据浙商证券最新测算,预计2025年至2027年,一体机的需求量将分别达到15万台、39万台和72万台,在央国企的市场空间有望达到1236亿元、2937亿元和5208亿元。
而为了抢夺更多的大模型市场,包括AI服务器厂商、云计算厂商,以及行业应用和大模型技术公司,纷纷开始布局大模型一体机市场,发布相关系列产品。
硬件厂商中,大致可以分为两大类型,一个是以新华三为例的AI服务器厂商,一个则是以华为为例的国产芯片厂商,前者可以提供集成化的产品,而后者更多是提供底层芯片支持。
以新华三为例,其截至目前已经发布了多种大模型一体机产品:
一种是集成DeepSeek大模型的一体机,包括覆盖14B至671B规模的灵犀Cube大模型一体机,搭载DeepSeek V3、R1模型,支持671B大模型单机推理及训推一体服务UniCube;
另外一种则是为特定行业定制的大模型一体机,如与数字政通合作的城市治理大模型一体机,与泛微合作的协同办公大模型一体机,以及与百度健康合作的医疗大模型一体机等。
相比较来说,新华三作为服务器厂商,硬件优势明显,自主研发的服务器如 H3C UniServer R5330 G7和R5500,能够支持高性能GPU,提供灵活的拓扑架构,兼容多种模型,并且,硬件厂商也会注重软硬件集成,优化了性能和兼容性,减少用户的配置成本。
另外,硬件层面可以很明显地看到,国产化则成为大模型一体机的重要趋势,而以华为昇腾、海光、寒武纪等为主的国产芯片,也成为了众多行业客户打造大模型一体机的底层硬件配置首选。
在华为中国合作伙伴大会2025上,华为董事、ICT BG CEO杨超斌表示,目前已有超80家伙伴基于昇腾打造开箱即用的大模型一体机,并通过极简部署和灵活配置,满足企业多样化的需求。
除硬件厂商外,云厂商可以说是布局Deepseek大模型一体机最激进的玩家。
据不完全统计,包括三大运营商云、百度智能云、京东云、火山引擎、浪潮云、阿里云等众多云厂商,都已经推出了大模型一体机产品。
目前云厂商们的大模型一体机基本可以分为两大类型,一是适配DeepSeek标准版(蒸馏版,32B或70B),一个则是适配DeepSeek满血版(671B),并以此为基础适配不同行业场景。
如京东云针对金融场景,银行、券商行业建议适配满血版,保险和基金则建议适配基础版。
而百度智能云则是按照千帆和百舸两大平台细分大模型一体机,百舸一体机以算力效率和成本控制为核心,而千帆一体机则侧重模型开发的便捷性与应用生态的丰富性。
一方面,云厂商可以针对不同场景推出各种细分的大模型一体机,能够覆盖更多细分场景的用户需求,同时,云厂商还可以结合自身的云服务生态、弹性算力等,为用户提供更多支持。
事实上,云厂商如此积极地抢占大模型一体机市场,这背后归根结底,则是因为“国内云厂商很难放弃私有化部署这块蛋糕,这是其非常重要的营收之一。”张吟铃对光锥智能说道。
毕竟,在当前中国市场中,即使公有云发展这么多年,企业私有化部署的需求仍始终存在。
此前一位头部云厂商战略规划人士认为,公共云是未来5年-10年的发展方向。但在未来3年,中国云市场核心增长点是私有云、混合云。
也正因此,对于大多数云厂商来说,企业私有化部署市场是一块还没有“啃”下来的蛋糕,而大模型一体机市场的爆发,则给云厂商们提供了机会。
在大模型一体机市场中,还有一类玩家,就是以科大讯飞为例的行业应用及大模型技术厂商,相比于硬件厂商的硬件优势、云厂商的生态优势,其核心竞争力则聚焦在技术和行业理解上。
这些厂商不仅有自己的基座大模型能力,还能够根据行业特定,对开源大模型进行微调,并以此沉淀出了很多细分场景的行业大模型。
比如近期科大讯飞的星火深度推理模型X1的全面升级,并基于星火X1首发星火医疗大模型X1,其大模型一体机也推出了针对政务、警务、司法、医疗、高教等五个应用场景的一体机产品。
“(一体机)需要与行业软件做深度结合。”许昀说道,“而对于同类型的大模型厂商,则看谁能够具有更深的行业理解,实现差异化竞争优势。”
从硬件厂商,到云厂商,再到大模型厂商,大模型一体机市场的爆火,政企客户爆发式的需求,仿佛是开启了一场抢夺大模型落地应用的“盛宴”。
但从市场需求方来看,更多企业还处于前期试点阶段,真正的市场需要远未真正爆发出来。而对于大多数企业来说,大模型一体机的应用,真的能够带来更高的商业价值吗?
超细分场景应用,一体机商业价值待验证
一体机市场的突然爆火,主要得益于DeepSeek这一波热度的带动。
一方面,DeepSeek爆火之后,让更多政企客户自上而下了解大模型的能力,更愿意尝试进行大模型的落地应用,这也使得“大模型的整个需求池子变大了,需求面变广了。”许昀说道。
另一方面,更为重要的一点是,此前很多企业的业务场景都需要对数据隐私安全负责,而受限于数据安全合规等因素影响,都未轻易尝试将大模型与业务结合。
可以说,DeepSeek刺激了企业对大模型“轻量级”的私有化部署需求,让预算有限的小场景小需求,都能用上大模型。
因此,综合市场信息也可以看到,目前大模型一体机的市场需求,更多地来自金融、政企、医疗、教育等对数据安全要求较高和工业等对延时较为敏感的应用场景,尤其是金融、政务等领域的客户对大模型一体机的需求尤为旺盛。
但大模型一体机所能够提供的大模型能力和算力支持是有限的,也正因此,目前在各行业场景中,真正能够应用一体机的,都是在某一个行业中特别细分的场景。
“一体机的应用可能是在一些非常细的领域,因为在大的行业中,每一个细分领域里针对模型的参数量的要求和需求都不一样。”许昀说道,“所以我们会从具体的行业场景中再筛选出不同细分的场景进行一体机适配。”
如在大企业之下会存在很多小部门,其中财务部对数据隐私安全要求较高,就可以使用一体机进行大模型的私有化部署,而通过小部门的试点,企业最后可以再决定是否要建设大型算力中心。
还有一些企业的IT部门部署一台一体机,做企业内部知识库的检索,或者是做一些对话的操作系统等,以及利用大模型来提升员工的工作效率等。
“现阶段接触的客户中,对满血版一体机的需求冲动也非常大,但在落地的过程中也会存在疑问——部署一体机的应用场景是什么?”许昀说道,“因此,不同的场景对一体机的诉求都不同,要根据行业场景进行因地制宜。”
从一体机客户来说,大多数对隐私不敏感的中小企业,更多地还是使用便宜弹性的公有云,而对于一些存在长期需求,比如需要使用大模型的总结归纳能力来读取其他家公司的财报,且并不想将其放在公有云场景下的,则可以部署一体机。
对于大型企业,一般会构建自己独立的智算平台,而想要在细分的场景中部署一体机,还需要考虑与自身其他智能算力平台如何协同管理的难题。
如果说智算中心是一个满汉全席,那一体机更像是地方小吃。所以,大模型一体机真的能够撑起一个独立的市场吗?
“现阶段,企业部署DeepSeek一体机后,可以用作增长业务的场景其实非常少,更多用于效能提升”张吟铃说道,“目前企业处于一个内部从上到下尝试部署的过程中。”
张吟铃直言对未来一体机赛道保持谨慎态度:“一体机的底层逻辑还是服务器硬件加软件,上层搭载的大模型开发部署平台能够让企业部署AI更便利,但当企业在使用大模型进入到成熟期后,需要扩展资源用作更多场景部署,企业则需要面对使用同一软件平台去纳管不同种类一体机的挑战,若企业已经选择了一套软件平台,则需要增加更多服务器即可。”
不过,从商业化逻辑来看,对于像科大讯飞这样的厂商来看,其与硬件厂商的本质区别,就是不依靠硬件挣钱,而是赚取软件服务费用,以及带动客户从细分市场向其他项目转换的营收。
从具体使用来看,行业客户目前对一体机也存在两极分化的评价:一方面认为一体机能够满足自己在某一个细分行业上的需求,整体实现的效果也还不错;另一方面则因为没有找到与行业能够深度结合的点,且部署一体机的价格也并不是很便宜,觉得一体机效果不好。
当前大模型一体机的应用主要聚焦在细分行业中的细场景下,而其是否真的能够给企业带来真正的降本增效,以及未来市场潜力如何,都还存疑。
而大模型一体机从能用,到好用,再到真正解决企业实际问题,还需要一段时间。
走,去行业深处!
事实上,行业中对大模型一体机是否能够真正发挥大模型性能也存在诸多讨论。
有位业内人士表示:“目前,大部分卖单机的都没有考虑并行策略、跨节点通信开销优化,就好比江南七怪一起上也是战五渣,但是全真七子一个很弱,七个摆阵就能跟黄药师不分上下,因为天罡北斗阵做集群优化。”
但尽管如此,当前DeepSeek一体机仍是满天飞。不过,一体机现阶段更多地还是满足客户的情绪价值:本地化、开箱即用、专属性,并做更多的场景尝试,尤其是政企市场。
而围绕着DeepSeek一体机的上下游也变得火热起来,很多做算力服务器的销售商,也开始大力推销一体机,但最终真的签单落地的,却并不多。
且真实现状是,有大多数官宣部署了DeepSeek大模型的企业,实际上却只是进行了前期测试。
许昀也对光锥智能直言:“我们现在只是看到了市场需求,但很多都还在做一体机的试点,行业适配还需要时间,所以现阶段一体机实际订货量暂时还没有明确的数据。”
但许昀却也坚定地看好大模型一体机赛道。
在他看来,随着当前越来越多小版本大模型的推出,会更适合以一体机的形式进行部署,毕竟其性价比非常有优势,“现在软件和硬件都在不停地进步,所以未来一定会在某一个时间点,有一些非常好用的垂类模型,能够放在专用的一体机上。”
而一体机的未来,一定是在行业上纵深发展,毕竟,只有这样才能够降低模型尺寸的同时,还能够把效果做到最优。