ITBear旗下自媒体矩阵:

火山引擎总裁详解豆包大模型:超低价背后的技术逻辑

   时间:2024-05-16 13:51:18 来源:ITBEAR编辑:星辉 发表评论无障碍通道

【ITBEAR科技资讯】5月16日消息,在昨日的火山引擎原动力大会上,字节跳动豆包大模型正式亮相,其超低定价策略立即在行业内激起千层浪。火山引擎总裁谭待在会上详细阐述了大模型定价背后的逻辑,强调技术降本与市场需求的双重考量是推动价格革命的关键因素。

豆包主力模型的推理输入价格定为惊人的0.0008元/千Tokens,相较于市场价格降低了99.3%,这一数字无疑是对整个大模型市场的一次重磅冲击。谭待直言不讳地指出,这一降价并非简单的市场补贴行为,而是通过技术手段实实在在降低了成本。他解释道,火山引擎团队通过持续改进模型结构和训练方法,包括采用业界备受瞩目的MoE(混合专家模型),在保障模型性能的同时,有效优化了推理成本。

除了模型本身的改进,工程层面的优化也为成本降低贡献了重要力量。谭待提到,随着大模型调用量的增加,优化空间也随之扩大。相较于传统的单机推理方式,分布式推理能够更高效地利用底层算力,进而显著降低推理成本。此外,豆包大模型每日需处理海量数据,包括1200亿Tokens文本和生成3000万张图片,这要求系统具备高效的资源调度能力。通过智能调度算法,豆包大模型能够将不同任务混合执行,实现资源利用的最大化。

谭待还以字节跳动旗下产品为例,展示了如何通过业务特点进行错峰使用以降低成本。他提到,像飞书这样的企业级应用在工作时间内流量较大,而抖音等娱乐应用在休闲时间更为活跃。通过对这些业务特性的精准把握,豆包大模型能够在不同时间段合理分配资源,从而达到降低成本的目的。

面对外界关于“大模型价格战”的议论,谭待认为当前大模型市场尚处于培育阶段,远未达到充分竞争的状态。他将当前的市场比作一个正在培养的池塘,强调只有通过降低门槛,才能让更多的创业者和企业尝试并受益于大模型技术。

据ITBEAR科技资讯了解,豆包大模型的发布和定价策略是字节跳动在AI领域的重要一步。此举不仅展示了其在技术降本方面的决心和能力,也为整个大模型市场的未来发展带来了新的思考和期待。在这场由技术驱动的价格战中,字节跳动无疑扮演了一个重要的角色,推动着整个行业向更加普及和实惠的方向发展。

 
举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  网站留言  |  RSS订阅  |  违规举报  |  开放转载  |  滚动资讯  |  English Version