AI 简明手册
开放模型与本地部署 · 大模型如何变小涌现:能力为什么会突然出现

涌现:能力为什么会突然出现

定义

模型能力并不总是随参数量平滑增长。某些能力在规模较小时得分接近零,跨过一定量级后突然跳到可用水平,这种现象叫涌现。也有研究认为,部分阶跃可能只是离散评测指标造成的假象。

说明

把参数量放在横轴、某项任务成绩放在纵轴,能看到两种曲线:常规能力随规模稳步上升;涌现能力则长期贴地,在某个阈值附近迅速抬头。麻烦在于跳升之前,曲线看起来像走不通,而且目前没有理论能准确预测某项能力会在哪个规模出现。

涌现能力的例子和阈值会随模型家族、数据、提示和评测方式变化,不应把某个参数规模写成通用门槛。心智理论等能力尤其依赖测试设计,改写题目后结果可能变化。

一项代表性研究指出,离散或非线性指标可能把连续改善显示成突然跃迁;换成连续指标后,部分阶跃会变平滑。这不是说能力不存在,而是提醒读者区分模型变化与测量方式。

边界与误区

  • 怎样验证某项能力是否真的涌现: 同时改变模型规模与评测口径,查看连续指标、不同提示和多个模型家族;单个离散榜单上的跳升不足以下结论。

  • 为什么有些研究认为涌现是假象: 有研究认为,离散评测只按最终结果给分,错一步就整题算零,模型从错得离谱进步到只差一点时分数仍为零,等跨过最后门槛才一下子跳起来。改用连续指标,例如逐个 Token 记录正确答案的概率,同一批模型的进步曲线会变成平滑上升,说明部分阶跃可能来自评测方式而非模型本身。

  • 产品团队看到模型“突然会了”应该怎么做: 先确认是不是评测口径造成的阶跃,再用自己的任务和多种判分方式交叉验证,避免把指标现象当成稳定的能力突破。

来源与核验

  1. [mirage] Are Emergent Abilities of Large Language Models a Mirage?

核验日期:2026-08-31