ITBear旗下自媒体矩阵:

大模型可靠性破局后,新杀手级应用或将涌现?韦韬详解蚂蚁密算探索

   时间:2025-07-27 21:28:08 来源:北京商报编辑:快讯团队 IP:北京 发表评论无障碍通道
 

2025年世界人工智能大会在上海隆重召开,为期三天的盛会吸引了全球科技界的目光,其中,大模型在专业领域的应用成为了热议焦点。在大会的一个分论坛上,蚂蚁集团副总裁韦韬发表了关于大模型可靠性问题的深刻见解,为业界提供了新的思考方向。

韦韬强调,尽管大模型在聊天、编程、客服、翻译等多个领域取得了显著进展,但其可靠性问题仍不容忽视。在实际应用中,大模型可能会犯下诸如混淆基本常识、在执行编程任务时误删数据库等严重错误。随着任务规模和复杂度的增加,这些错误的发生概率更是急剧上升。

在专业领域,对AI模型的可靠性要求极高,任何细微的错误都可能带来不可估量的损失。因此,如何突破大模型在专业化应用中的可靠性困境,成为了亟待解决的问题。韦韬指出,单纯依赖大模型自身的完美无瑕并不现实,而应该通过智能体系与工程体系的结合,来保障专业应用的可靠性。

他进一步解释说,人类在历史上通过不断进步的工程体系,成功地在易错的个体之上构建了庞大而可靠的工程系统,完成了众多巨型任务。同样地,我们也可以借鉴这一成功经验,通过全新的程序表达、场景知识嵌入和闭环核验反馈机制,将大模型的不确定智力输出转化为可信的专业生产力。

为此,蚂蚁集团旗下的蚂蚁密算正在探索高阶程序(High-Order Program)大模型可信应用技术框架。这一框架的核心组件包括业务逻辑的程序化表达、场景知识图谱和受控工具链,通过全流程的核验机制,对关键执行结果进行及时、有效的核验和处理。这一框架的构建,旨在使大模型在应用过程中即使出现错误,也能保证达到专业领域所需的精确性和可靠性。

高阶程序(HOP)技术框架融合了编程语言的精确性与可扩展性,以及自然语言的知识语义与语境适配性,能够承载专业领域的关键知识和实践。通过任务细化拆解与核验,它确保了大模型在专业应用中的可靠性,并通过知识概念匹配实现从专业知识到场景应用的派生适配。目前,这一技术框架已经在金融风控、网络入侵检测、医疗计费等多个行业场景中得到了初步应用,并取得了显著的可靠性和时效性提升。

以金融风控为例,传统风控体系高度依赖人工干预,流程冗长且易受人员主观因素影响。而应用HOP技术框架后,复杂的操作流程被转化为可执行的流程和代码,实现了风控全链路的智能化编排与自动化执行。这不仅缩短了建模周期,降低了处理成本,还显著减少了重复性数据处理和流程执行等繁琐工作,有效缓解了专业人才紧缺的局面。

韦韬表示,高阶程序与大模型之间具有强大的互补性,能够将大模型这样的通用智力引擎可靠地应用于众多专业场景。他认为,解决大模型可靠性的关键不在于大模型本身,而在于工程化与智能化的深度融合。蚂蚁集团开源HOP技术框架,旨在与行业共同推动大模型从人类助手向规模化专业生产力转变。他相信,一旦可靠性问题得到解决,大模型将迎来新的杀手级应用。

 
举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version