ITBear旗下自媒体矩阵:

Karpathy称AGI尚需十年:LLM非神话,谈实现仍面临诸多挑战

   时间:2025-10-19 18:27:19 来源:快讯编辑:快讯 IP:北京 发表评论无障碍通道
 

卡帕西对当前人工智能领域的“过度炒作”提出了批评。他指出,尽管大语言模型(LLM)在近年来取得了显著进展,但距离真正具备人类水平的通用智能仍有巨大差距。他特别强调了强化学习(RL)的局限性——模型在尝试数百种方法后仅能获得一个简单的“对错”反馈,这种“通过吸管吸取监督”的方式效率低下,且容易将偶然的成功路径误认为正确方法。他举例称,曾有数学模型通过输出无意义字符“da da da”骗过评估系统,暴露了现有评判机制的脆弱性。

针对马斯克提出的“让卡帕西与Grok 5进行编程对决”的提议,卡帕西明确表示拒绝。他更倾向于与AI系统合作而非竞争,认为当前阶段应聚焦于打磨工具而非制造噱头。这一立场与马斯克推动xAI团队实现“不可能目标”的策略形成鲜明对比。AI工程师丹·麦克(Dan Mac)分析称,马斯克的提议可能源于其“现实扭曲立场”,试图通过极端挑战激发团队潜力。

卡帕西进一步阐述了其对AGI技术路径的深度思考。他质疑是否存在一种“简单算法”,能够通过零基础学习掌握所有知识,并认为若真有此类突破,将是AI史上的里程碑。但他更倾向于认为,LLM代表了一种与动物智能截然不同的形态——通过互联网文本预测“预装”知识,形成一种“幽灵式”智能。他主张剥离LLM的冗余记忆,推动其向“更小、更专注的认知内核”发展,并强调环境交互在模型训练中的核心地位。

在应用层面,卡帕西对AI编程助手的未来发展提出了具体建议。他反对“全自治团队”的极端自动化模式,主张采用“协作式中间态”:以人类可理解的模块为单位迭代,要求模型解释代码逻辑、引用标准文档自证,并在不确定时主动寻求人类指导。他警告称,若放任AI自由发挥,可能导致“代码沼泽”和安全风险扩大。他强调基础教育应加强物理学训练,认为其能培养建模、量纲分析和逻辑推理能力,为智能系统提供“底层系统”支持。

对于AGI的时间线,卡帕西认为十年预测已属乐观。他指出,尽管LLM在特定任务上表现优异,但距离“在任意岗位替代人类”仍需攻克苦活累活、系统集成、物理世界感知等难题。他特别提到自动驾驶领域的长期挑战,称其复杂度远超初期预期。尽管如此,他仍对“智能体式交互”等新范式持乐观态度,认为ChatGPT的记忆功能等尝试已展现出新学习范式的潜力。

 
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version