在人工智能领域,一个曾经相对小众的产品——一体机,正经历着前所未有的变革与关注。这一切的源头,无疑是指向DeepSeek大模型的崛起,它不仅点燃了市场的热情,更推动了大模型一体机成为业界的新宠。
科大讯飞智算业务部副总经理许昀表示,以往行业对一体机的需求寥寥无几,但如今这一局面已彻底改变。据IDC统计,市场上已有近百家厂商推出了AI一体机产品,参与者涵盖了服务器厂商如新华三、云服务提供商如京东云和百度智能云、以及行业应用开发商和大模型技术供应商等。
大模型一体机,专为人工智能大模型的部署和应用而生,集成了CPU、GPU、存储器、操作系统、AI平台软件及多种模型算法等软硬件组件。它如同一个独立的小型服务器,既便于大模型的快速部署,又能确保数据安全。这些厂商推出的各类大模型一体机,大多集成了DeepSeek大模型,如32B、70B及671B满血版等,价格区间从十几万元到百万元不等。
一位大模型一体机销售商透露,华为推出的一款四卡机器,售价约15万元,底层硬件基于鲲鹏CPU和昇腾芯片,内置DeepSeek-70B大模型,具备问答助手、知识库等功能,支持30人并发使用。而配备DeepSeek-671B大模型的一体机,价格则超过200万元。
尽管一体机并非全新产品,此前已有数据库一体机等存在,但市场需求始终不温不火。此次大模型一体机的爆发,得益于DeepSeek的推动,以及大模型和小型化算力的发展趋势。它通过“软硬协同、开箱即用”的特点,满足了企业在特定业务场景中低成本使用大模型的需求,解决了数据安全、算力成本和场景适配三大难题。
然而,尽管市场热度高涨,但大模型一体机的行业落地仍需时间。许昀指出,目前大多数企业仍处于试点阶段,行业适配需要时间,预计半年左右市场需求才会真正爆发。Gartner研究总监张吟铃也表示,许多企业尚未明确大模型一体机的投资回报比,因此大型企业对大模型一体机的投资并不多,整体行业仍处于初期阶段。
2025年被视为大模型落地应用的关键一年,一体机作为底层算力支持的服务器,成为企业拓展大模型应用的关键一环。据浙商证券测算,预计2025年至2027年,一体机的需求量将分别达到15万台、39万台和72万台,央国企市场空间有望达到数千亿元。
硬件厂商中,新华三发布了多种大模型一体机产品,包括集成DeepSeek大模型的灵犀Cube大模型一体机,以及为特定行业定制的城市治理、协同办公和医疗大模型一体机等。作为服务器厂商,新华三在硬件方面优势明显,自主研发的服务器能够支持高性能GPU,提供灵活的拓扑架构,兼容多种模型。
国产化成为大模型一体机的重要趋势,以华为昇腾、海光、寒武纪等为主的国产芯片,成为众多行业客户打造大模型一体机的首选底层硬件配置。在华为中国合作伙伴大会上,华为董事、ICT BG CEO杨超斌表示,已有超过80家伙伴基于昇腾打造开箱即用的大模型一体机。
云厂商也是大模型一体机市场的重要参与者。包括三大运营商云、百度智能云、京东云等众多云厂商都已推出相关产品。云厂商的大模型一体机主要分为适配DeepSeek标准版和满血版两大类,并以此为基础适配不同行业场景。云厂商不仅能推出针对各种细分场景的大模型一体机,还能结合自身的云服务生态和弹性算力,为用户提供更多支持。
在大模型一体机市场中,还有一类以科大讯飞为代表的行业应用及大模型技术厂商。他们的核心竞争力在于技术和行业理解,不仅有自己的基座大模型能力,还能根据行业特定对开源大模型进行微调,并沉淀出细分场景的行业大模型。
科大讯飞推出了针对政务、警务、司法、医疗、高教等应用场景的一体机产品。许昀表示,一体机需要与行业软件做深度结合,对于同类型的大模型厂商来说,谁能具有更深的行业理解,谁就能实现差异化竞争优势。
大模型一体机的市场需求主要来自于金融、政企、医疗、教育等对数据安全要求较高和对延时较为敏感的应用场景。然而,一体机所能提供的大模型能力和算力支持有限,目前主要应用在细分场景中。许昀表示,一体机的应用可能是在一些非常细分的领域,因为每个细分领域对模型参数量的要求和需求都不同。
对于中小企业来说,更多使用便宜弹性的公有云,而对于一些存在长期需求且对隐私敏感的企业,则会选择部署一体机。对于大型企业来说,一般会构建自己独立的智算平台,而想要在细分场景中部署一体机,还需要考虑与自身其他智能算力平台的协同管理问题。
尽管大模型一体机市场火爆,但张吟铃对未来一体机赛道持谨慎态度。她认为,现阶段企业部署DeepSeek一体机后,更多用于效能提升,而非增长业务场景。当企业使用大模型进入成熟期后,需要扩展资源用于更多场景部署,可能会面临使用同一软件平台纳管不同种类一体机的挑战。
然而,从商业化逻辑来看,像科大讯飞这样的厂商,与硬件厂商的本质区别在于不依靠硬件挣钱,而是赚取软件服务费用以及带动客户从细分市场向其他项目转换的营收。目前,行业客户对一体机的评价存在两极分化,一方面认为一体机能够满足细分行业需求,整体效果良好;另一方面则认为没有找到与行业深度结合的点,且部署价格不菲,效果不佳。
大模型一体机的应用主要聚焦在细分行业中的细场景下,其是否真的能够给企业带来降本增效以及未来市场潜力如何,都仍存疑。许昀直言,虽然目前看到了市场需求,但很多仍处于试点阶段,行业适配需要时间。
尽管如此,许昀仍然坚定看好大模型一体机赛道。他认为,随着越来越多小版本大模型的推出,一体机将更适合部署这些模型,性价比优势明显。未来,一体机的未来发展必然是在行业上纵深发展,只有在降低模型尺寸的同时将效果做到最优,才能真正满足企业的需求。