概念 锯齿状智能

锯齿状智能

概念 2 min read · 2026-05-02 #model#anthropic

锯齿状智能是 Andrej-Karpathy 在 Sequoia AI Ascent 2026 上提出的一个概念,用以描述当前大语言模型能力分布极不均匀的特征:模型可以一口气重构 10 万行代码库,却会在常识问题上翻车(如建议你走路去洗车店)。

经济学解释

Karpathy 认为锯齿状智能主要不是一个技术问题,而是一个经济学问题。模型能力的分布形状由两条线决定:

可验证性(Verifiability)

强化学习(RL)需要奖励信号,而奖励信号需要可验证。代码能不能跑、数学题答案对不对——这些领域的反馈信号清晰,因此可以构建 RL 环境,模型在这些领域飞速进化。

商业价值(Revenue / TAM)

仅有可验证性还不够,还需要有钱赚。市场大、付费意愿强、能形成商业闭环的领域,会被前沿实验室打包进 RL 训练数据分布;反之则无人投入。

在 RL 的轨道上,你在飞;离开数据分布,你拿着砍刀进丛林。 —— Karpathy

锯齿状的本质

所谓锯齿状,不是缺陷,而是结构。是"可验证 + 有钱赚"这两条线把模型能力雕成的形状。在 智能体工程 的实践中,工程师需要理解这种锯齿状分布,才能正确地分配任务和设定预期。

对工程实践的影响

理解锯齿状智能对于 AI 工程实践有重要意义:

  1. 任务分配:将模型擅长的可验证任务交给 AI,将需要常识判断和品味的任务留给人类
  2. 质量保障:在模型能力薄弱的领域建立额外的验证机制
  3. 预期管理:不因为模型在某些任务上的超人表现就对其全面信任

这与 Cursor 在 Agent Harness 中按模型定制策略的做法相呼应——承认模型的局限性,通过工程手段弥补。

外部链接

来源

暂无来源