[控场AI]
概念AI末日概率 / doom probability

P(doom)

AI安全研究领域用于量化通用人工智能可能带来灾难性后果的主观概率估计指标,由研究者基于个人判断给出具体数值,是讨论AI存在性风险的常用非正式工具

时间轴 (近 90 天)

10月26日

P(doom)指AI消灭人类的概率,通常以未来十年为尺度;美国普通人的中位数接近零,而在AI实验室里至少是两位数。

待验证50%
9月29日

P(doom)指AI安全研究者用来量化存在性风险的非正式指标,代表AI导致灾难的主观概率估计,并无统一的科学计算方法

待验证50%
9月29日

AI研究者Eliezer Yudkowsky曾公开表示其个人P(doom)估值超过90%

待验证50%
9月29日

研究者Paul Christiano对P(doom)给出相对保守的估计

待验证50%

全部知识事实 (4)

来源文章