ITBear旗下自媒体矩阵:

大模型时代来临,中国云厂商如何加速布局十万卡集群?

   时间:2024-11-14 12:01:16 来源:蓝鲸新闻作者:蓝鲸新闻编辑:快讯团队 发表评论无障碍通道

在人工智能领域,中国头部科技企业正加速布局大规模算力集群,以支撑大模型的高速发展。百度、字节、阿里和华为等企业纷纷加大智算投入,其中百度在百度世界2024大会上透露,已在打造十万卡集群能力方面取得关键突破。

百度创始人李彦宏在大会上透露,文心大模型日均调用量已达到15亿,这一数字在短短六个月内从2亿激增,证明了大模型应用的广阔前景。随着大模型技术的不断成熟,各行各业对算力的需求也在迅速增长。

在教育行业,好未来集团通过采用大模型技术,实现了个性化学习推荐,提升了教学效果。而在车企领域,端到端智驾技术成为主流,车企对算力的投入意愿更加强烈。高校、餐饮和电力等行业也在积极探索大模型技术的应用。

随着大模型技术的广泛应用,算力与算法的重要性开始对等,企业投入占比发生变化。车企人士表示,在端到端智驾研发中,算力投入占比已达到50%甚至更高。

面对企业对智算基础设施的迫切需求,云厂商纷纷加大投入,提升技术实力。百度百舸异构计算平台通过丰富的技术栈,解决了龙头企业在算力上的问题,提升了资源利用率。

百度集团执行副总裁沈抖在大会上透露,百度已解决了十万卡集群的两个难题,包括一云多芯混合训练效能折损控制在5%以内,以及跨地域机房部署性能折损控制在4%以内,这两项技术均达到业界领先水平。

尽管有观点认为Scaling Law在放缓,但国内龙头企业仍在积极探索强化学习等新技术,以降低模型训练对算力的需求。同时,云厂商通过构建大型集群,提高资源利用率,降低企业成本。

随着市场的快速演进,中国云厂商正在加速平台建设,推动大模型技术浪潮的发展。未来,随着更多行业的应用落地,大模型技术将为中国经济的高质量发展注入新的动力。

 
举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version