[控场AI]
概念Emergent Abilities

涌现能力

涌现能力(Emergent Ability)是指复杂系统在规模或复杂度达到某一临界点后,突然呈现出在较小规模下不具备的新能力或行为特征。在人工智能领域,特指大型语言模型随参数量和训练数据规模增长,超越某一阈值后自发出现的推理、类比、多步骤问题求解等能力。其核心特征为非线性、不可预测性,即能力的出现并非渐进式提升,而是呈现跃迁式变化。

核心事实

时间轴 (近 90 天)

11月2日

Schaeffer等人在2023年的论文中指出,许多所谓的涌现能力可能只是评估指标不连续造成的假象——当换用连续指标时,性能提升是平滑的。

待验证50%
10月15日

当多个AI代理交互时,系统整体可能产生单代理不具备的集体行为,如协同探测、任务分配和策略进化。

待验证50%
10月15日

涌现能力是指当AI系统规模或复杂度超过某个阈值后,突然出现的、未被显式编程或训练目标直接指定的新能力。

待验证50%
10月14日

复杂推理所需的“涌现能力”通常只在更大参数量的模型上出现。

待验证50%
10月10日

涌现能力(emergent capabilities)指模型在训练目标之外自发展现出的推理、代码生成或工具使用能力

待验证50%
10月9日

大型语言模型的涌现能力被部分研究者视为通用智能信号,但也有研究者认为这些能力可能仍是对训练数据隐含模式的高效压缩与检索

待验证50%
10月4日

涌现能力使得事前风险评估的准确性存在结构性局限,并挑战了传统产品责任法中可预见性的认定逻辑

待验证50%
9月24日

当前的大语言模型缺乏可靠的自我内省(introspection)能力

已验证65%
9月22日

业界将模型能力划分为涌现能力(emergent capabilities)和对齐能力(alignment)两个维度

待验证50%
9月16日

以Geoffrey Hinton、Yoshua Bengio为代表的「能力风险」派认为当前大型模型已展现出难以完全解释的涌现能力,仅靠工程手段无法消除根本性的对齐失败风险

待验证50%

还有 19 条时间轴事件

全部知识事实 (20)

已验证

当模型参数量突破某个临界点后会涌现出推理、调试等在小模型上看不到的能力,被称为涌现能力(Emergent Abilities)

90%
已验证

2023年斯坦福大学研究对「涌现」现象提出质疑,认为这在很大程度上是评估指标选择造成的假象,而非模型能力的真实突变

85%
已验证

前沿模型存在涌现能力,即在达到某个参数规模阈值后突然展现出训练目标中未明确包含的能力

80%
已验证

涌现能力是指当模型参数规模突破某一临界点后,突然涌现出训练目标之外的复杂能力,如逻辑推理、代码生成、跨语言迁移

80%
已验证

涌现能力指当模型规模超过某个临界阈值后,某些此前不存在的能力会突然出现,性能出现断崖式跃升

80%
已验证

斯坦福2023年的论文认为涌现是评估指标选择导致的测量假象,换用平滑指标后能力提升是连续的

80%
已验证

大语言模型的涌现能力是指在参数规模突破某个阈值后突然展现出的复杂推理能力

80%
已验证

2022年谷歌Brain团队在论文《Emergent Abilities of Large Language Models》中首次系统记录了大语言模型的'涌现能力'现象

80%
已验证

涌现能力是指当模型规模突破某个阈值后突然出现的、在小规模模型中不存在的能力,例如思维链推理

75%
已验证

涌现能力(emergent abilities)指模型规模超过某临界点时突然显现训练时未明确优化的新能力,如多步推理、代码生成或少样本学习

75%
已验证

思维链效果在参数量超过100B的模型上尤为显著

75%
已验证

斯坦福大学Rylan Schaeffer团队在2023年提出反驳研究,认为「涌现」可能是评估指标选取不连续导致的视觉假象,而非模型能力的真实非线性跃升

70%
已验证

AI红队测试面临涌现能力的特殊挑战,模型在特定提示词组合下可能展现训练时未被预期的能力,使穷举式测试几乎不可能实现

70%
已验证

当前的大语言模型缺乏可靠的自我内省(introspection)能力

65%
已验证

大语言模型存在涌现能力,当模型规模超过一定阈值后会突然展现出小规模时不具备的能力

65%
已验证

涌现能力的出现机制仍是学术界争议热点,部分研究者认为是真实相变现象,另一些认为是评估指标造成的视觉假象

65%
已验证

斯坦福的Schaeffer等人对涌现现象提出质疑,认为涌现可能部分是评估指标选择导致的测量伪影

65%
已验证

2022年谷歌的研究报告首次系统记录了涌现能力现象

65%
待验证

部分研究者认为大模型涌现能力是真实的相变现象,另一些人认为这只是评估指标选择造成的统计假象

85%
待验证

大语言模型展现出的涌现能力使得技术进步具有高度不可预测性,当模型规模跨过某个计算阈值时会突然展现出训练者未曾明确设计的新能力

70%

来源文章