近日,全球知名IT市场研究与咨询公司IDC发布了一项关于中国生成式AI应用开发平台市场的报告,该报告聚焦于企业统一AI开发平台的雏形,并对市场上的大模型平台进行了深入探讨。IDC定义的大模型平台由模型开发平台和应用开发平台两部分组成,前者提供训练与调优工具,后者则支持低代码/无代码应用开发。
报告不仅对比分析了市场上的主流大模型平台厂商,还为企业用户提供了选择平台的关键技术指标。在评估中,百度智能云脱颖而出,荣获七项满分,稳居榜首,亚马逊云AWS和阿里云紧随其后,并列第二。
IDC指出,大模型平台为应用程序开发开辟了新的路径。企业在选择平台时,应重点关注模型层和数据层的能力。模型层方面,如何让模型更好地适配企业应用场景是关键;数据层方面,则需做好RAG(检索增强生成),以确保生成内容的准确性,消除幻觉。
百度智能云凭借其深厚的技术积累,在模型层和数据层均表现出色。其千帆大模型平台提供从模型开发、模型服务到应用开发的全流程服务。文心大模型日均调用量超过15亿次,千帆平台已帮助客户精调3.3万个模型,开发77万个企业应用。
模型精调对于大模型与产业的深度融合至关重要。大模型虽具有强大的泛化能力,但在特定行业及领域的应用中,仍需通过精调来融入专业知识和数据特征,以满足特定需求。百度智能云千帆平台提供了完整的工具链,支持多种模型训练方法,并提供高质量通用语料数据和模型精调样板间,每天超过一半的调用量来自精调后的模型。
以医疗行业为例,杭州全诊医学基于千帆平台和文心大模型打造的AI医疗助理应用,能够在医疗全阶段服务医生和患者。通过20万份精标病历数据对模型进行精调,AI医疗助理的医学用语更加准确规范,病历生成准确度提升45%,医生接诊量提高20%。
RAG技术已成为企业解决大模型幻觉问题的有效手段。生成式AI已成为企业布局和投资的重点,但通用大语言模型在实际应用中常存在幻觉问题或回答不准确的情况。为解决这一问题,企业采用RAG技术,将生成式AI与企业内部数据库、知识库结合,使生成内容更加准确合理。IDC发布的另一份报告显示,在生成式AI开发过程中,41%的高管认为构建RAG架构至关重要,81%的IT领导者认为基于业务数据的生成式AI模型能为企业带来显著竞争优势。
在RAG和向量数据库市场评估中,百度智能云的向量数据库VectorDB在核心性能、功能全面性、大模型支持、战略与生态合作、工程化落地五个领域保持领先,综合排名并列第一。目前,VectorDB已在超过500家客户中实际落地使用,支持多种常用算法和主流LLM、RAG框架,以及百度智能云千帆和开源Embedding模型。