ITBear旗下自媒体矩阵:

骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革

   时间:2024-10-22 11:00:29 来源:和讯网作者:顾雨柔编辑:瑞雪 发表评论无障碍通道

【ITBEAR】凤凰网科技讯(作者/于雷)北京时间10月22日,骁龙8至尊版正式发布,移动端AI表现全面发力。高通CEO克里斯蒂亚诺·安蒙表示,未来智能手机重要体验将围绕AI展开,手机将成为最重要的AI智能体,人们与手机之间的互动将围绕着个人需求展开,现有的App生态将产生巨大的变革。

骁龙8至尊版搭载第二代Oryon CPU和增强的高通HexagonNPU,利用高通AI引擎优势,能够带来更强大的终端侧生成式AI处理能力。

结合高通AI软件栈以及行业领先的工具套件,包括高通AI模型增效工具包(AIMET)等,为模型提供了全栈优化能力。通过使用基于硬件的INT4量化技术,可以大幅提升终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过30 tokens/秒。

高通宣布与腾讯混元合作,基于骁龙8至尊版移动平台,共同推动了腾讯混元大模型7B和3B版本的终端侧部署。通过利用终端侧AI加速,降低运营成本,进一步扩展生成式AI在终端侧的应用和普及。

智谱也是高通在大模型方面的合作伙伴,智谱的GLM-4V端侧视觉大模型会面向骁龙8至尊版进行深度适配和推理优化,支持多模态交互。

 
举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version