随着人工智能技术的飞速发展,特别是DeepSeek大模型的崛起,一个曾经相对小众的服务器产品——一体机,正逐渐成为市场的新宠。
科大讯飞智算业务部的副总经理许昀透露,过去,行业对一体机的需求微乎其微,但如今,这一需求已远超预期。自DeepSeek大模型走红以来,一体机市场迅速升温,吸引了众多厂商的加入。
据IDC统计,目前已有近百家厂商推出了AI一体机产品,涵盖了新华三等服务器厂商、京东云、百度智能云等云服务提供商,以及科大讯飞等行业应用开发商和大模型技术供应商。这些厂商纷纷推出集成DeepSeek大模型的一体机,以满足不同行业场景的应用需求。
一体机,作为一种专为人工智能大模型应用和部署而设计的集成计算设备,集成了CPU、GPU、存储器、操作系统、AI平台软件及各类模型算法等软硬件组件。它不仅能让大模型开箱即用,还能确保数据安全。
市场上的大模型一体机,主要以集成DeepSeek大模型为主,包括32B、70B以及671B满血版等,价格区间在十几万元至百万元不等。例如,华为的一款四卡一体机,售价约15万元,底层硬件采用鲲鹏CPU和昇腾芯片,内置DeepSeek-70B大模型,支持问答助手、知识库等功能,可同时满足30人并发使用。而搭载DeepSeek-671B大模型的一体机,售价则超过200万元。
尽管一体机并非全新产品,此前已有数据库一体机等存在,但整体市场需求一直较为平淡。此番大模型一体机的爆发,得益于DeepSeek的推动以及大模型和小型化算力的发展趋势。通过“软硬协同、开箱即用”的特性,一体机满足了企业在专一业务场景中低成本使用大模型的需求,解决了数据安全、算力成本和场景适配三大痛点。
然而,尽管一体机市场供给方的热度颇高,但实际需求落地仍需时间。许昀表示,目前大多数企业仍处于试点阶段,行业适配需要时间,预计半年左右,真实的市场需求才会爆发。
Gartner研究总监张吟铃也指出,很多企业尚未明确部署大模型一体机的投资回报比,因此,尽管对大模型使用场景有研究的大型企业不少,但对大模型一体机的投资并不多,整体行业仍处于前期阶段。
2025年被视为大模型落地应用的关键一年,一体机作为底层算力支持的服务器,成为众多企业拓展大模型落地应用的关键一环。据浙商证券测算,预计2025年至2027年,一体机的需求量将分别达到15万台、39万台和72万台,在央国企的市场空间有望达到千亿元级别。
为了抢占更多的大模型市场,AI服务器厂商、云计算厂商以及行业应用和大模型技术公司纷纷布局一体机市场,发布相关系列产品。硬件厂商中,新华三等AI服务器厂商提供集成化产品,而华为等国产芯片厂商则提供底层芯片支持。云厂商方面,包括三大运营商云、百度智能云、京东云等在内的众多云厂商,都已推出大模型一体机产品。
新华三作为服务器厂商,硬件优势明显,其自主研发的服务器能够支持高性能GPU,提供灵活的拓扑架构,兼容多种模型,并优化了性能和兼容性,降低了用户的配置成本。国产化成为大模型一体机的重要趋势,以华为昇腾、海光、寒武纪等为主的国产芯片,成为众多行业客户打造大模型一体机的首选底层硬件配置。
科大讯飞等行业应用及大模型技术厂商,则凭借技术和行业理解的核心竞争力,推出针对特定行业场景的一体机产品。这些厂商不仅有自己的基座大模型能力,还能根据行业特性对开源大模型进行微调,并沉淀出细分场景的行业大模型。
尽管一体机市场火爆,但更多企业仍处于前期试点阶段,真正的市场需求尚未全面爆发。对于大多数企业来说,大模型一体机的应用能否带来更高的商业价值,仍待验证。目前,大模型一体机的市场需求主要来自金融、政企、医疗等对数据安全要求较高或对延时较为敏感的应用场景。然而,一体机所能提供的大模型能力和算力支持有限,因此,在各行业场景中,真正能够应用一体机的,往往是某一行业中的特定细分场景。
对于一体机客户来说,大多数对隐私不敏感的中小企业更多使用公有云,而对于有长期需求且注重数据隐私的企业,则可以选择部署一体机。对于大型企业来说,虽然一般会构建独立的智算平台,但在细分场景中部署一体机时,还需考虑与现有智能算力平台的协同管理问题。
尽管一体机市场潜力巨大,但目前企业部署DeepSeek一体机后,能用于增长业务的场景其实并不多,更多用于效能提升。张吟铃对未来一体机赛道持谨慎态度,认为当企业使用大模型进入成熟期后,可能需要面对使用同一软件平台纳管不同种类一体机的挑战。
不过,从商业化逻辑来看,像科大讯飞这样的厂商,与硬件厂商的本质区别在于不依靠硬件挣钱,而是赚取软件服务费用以及带动客户从细分市场向其他项目转换的营收。目前,行业客户对一体机的评价存在两极分化,一方面认为一体机能满足细分行业需求,整体效果不错;另一方面则认为一体机价格不菲且未找到与行业深度结合的点,效果不佳。