随着大模型技术在2024年的显著提速，其在产业中的应用迎来了爆发式增长。据统计，2024年上半年大模型项目的中标金额已达9.38亿元，远超2023年全年的7.89亿元，标志着大模型从理论研究迈向了广泛的实际应用。
大模型的应用不再局限于广泛的概念，而是逐步深入到各个行业之中。各行业对于如何实现AI技术赋能现有业务的需求日益迫切，成为企业在技术革新中保持竞争力的重要考量。浪潮信息产品方案开发部总经理魏健指出，大模型的行业应用不仅需要强大的模型本身，还需要考虑如何有效提升AI应用创新的质量和效率。
当前，大模型在行业应用过程中面临多重挑战。首要挑战来自硬件层面，大模型的训练和推理需要庞大的算力资源，且随着模型参数规模的扩大，对算力的需求也进一步增加。高昂的硬件成本以及初期效果的不确定性，使得企业在采购硬件设备时犹豫不决。青云副总裁沈鸥表示，很多企业因为关注投资回报率，不愿在初期投入大量资源。
企业在应用模型赋能业务时，发现小参数量的模型往往比大参数量的模型效果更好。魏健解释说，通用大模型由于参数巨大，难以直接应用于复杂、离散的行业场景，需要结合行业专业数据进行再学习。
面对这些挑战，企业在应用大模型的初期更倾向于选择一站式的解决方案。一体机因其快速交付、开箱即用、极致性能和安全高效的特点，成为企业部署行业模型的重要选择。
根据公开数据，2023年和2024年上半年，大模型项目中硬件、软件和服务的占比分别为60%、11%、17%和61%、5%、30%以上，硬件和服务占据了主导地位。魏健表示，一体机能够快速帮助企业落地大模型应用，尤其对传统行业企业来说，是一个重要的解决方案。
青云科技CEO林源认为，一体机在大模型应用的初级阶段特别受欢迎，它能让企业快速实现大模型的应用落地。目前市面上的一体机主要面向端侧的微调和推理场景，随着技术发展，用户群体和需求也在增加。
从用户群体来看，一体机的主要客户包括传统行业用户、ISV公司以及大模型应用开发团队。魏健指出，一体机能够帮助这些用户以较低的成本快速实现模型应用开发，抢占市场份额。
林源表示，一体机更适合于标准化的小场景，能够快速、经济地开发出专有的小模型产品。对于复杂业务场景，定制化仍然是更好的选择。
目前，已有20余家企业布局一体机产品，希望通过软硬一体的解决方案加速大模型的应用步伐。浪潮信息推出了元脑企智EPAI一体机，提供一站式大模型生产及应用全流程开发工具链。联想也发布了智能体一体机，提供零代码开发功能，方便用户创建智能体。
云厂商也纷纷入局，推出了一体机产品。青云科技推出了AI智算一体机，为用户提供开箱即用的AI环境。优刻得的大模型一体机则支持多种开源模型的部署及算力调度。
无论是硬件厂商还是云厂商推出的一体机，其核心能力都是提供开箱即用的平台和开源开放的大模型能力，帮助用户快速开发企业级模型软件和产品。
