尼克·博斯特罗姆
瑞典哲学家,牛津大学人类未来研究所创始人,以研究AI存在性风险和超级智能著称,著有《超级智能》一书
核心事实
时间轴 (近 90 天)
生存性风险概念由牛津大学哲学家尼克·博斯特罗姆在2002年的论文《生存性风险》中系统提出。
目标对齐(AI Alignment)是AI安全领域的核心课题之一,最早由牛津大学哲学家尼克·博斯特罗姆在《超级智能》一书中系统阐述。
回形针最大化思想实验由哲学家尼克·博斯特罗姆在2003年提出,用于说明工具性目标与终极目标之间的危险错位。
存在性风险(existential risk,简称x-risk)这一概念由牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)在2002年系统提出,指的是'一种能够永久摧毁地球生命起源智能的威胁'。
博斯特罗姆将本应由全球协调解决的问题被压缩成一场无法退出的竞赛的困境,称为'单边主义者的诅咒'(singleton curse)的反面。
博斯特罗姆2014年的著作《超级智能》提出了'对齐问题'(alignment problem):如何确保一个远比人类聪明的系统,其目标始终与人类真正想要的东西保持一致。
尼克·博斯特罗姆(Nick Bostrom)等人提出了智能爆炸(Intelligence Explosion)假说,即AI能力超过某临界点后自我改进速度将急剧加快
超级智能(Superintelligence)概念最早由哲学家尼克·博斯特罗姆在2014年的同名著作中系统阐述
牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)提出了「差异技术发展」(Differential Technological Development)概念
哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险,认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
还有 7 条时间轴事件
全部知识事实 (17)
哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险,认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
75%已验证尼克·博斯特罗姆的著作《超级智能》系统性阐述了高级AI的存在性风险
75%已验证2003年哲学家Nick Bostrom在论文中讨论了超级智能可能带来的存在性风险
75%已验证超级智能概念因牛津大学哲学家尼克·博斯特罗姆的著作《超级智能》而广为人知
65%待验证回形针最大化器是博斯特罗姆的思想实验,揭示危险不一定来自恶意目标,一个错误指定的目标加上足够强大的优化能力后果可能同样灾难性
60%待验证生存性风险概念由牛津大学哲学家尼克·博斯特罗姆在2002年的论文《生存性风险》中系统提出。
50%待验证目标对齐(AI Alignment)是AI安全领域的核心课题之一,最早由牛津大学哲学家尼克·博斯特罗姆在《超级智能》一书中系统阐述。
50%待验证回形针最大化思想实验由哲学家尼克·博斯特罗姆在2003年提出,用于说明工具性目标与终极目标之间的危险错位。
50%待验证博斯特罗姆2014年的著作《超级智能》提出了'对齐问题'(alignment problem):如何确保一个远比人类聪明的系统,其目标始终与人类真正想要的东西保持一致。
50%待验证存在性风险(existential risk,简称x-risk)这一概念由牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)在2002年系统提出,指的是'一种能够永久摧毁地球生命起源智能的威胁'。
50%待验证博斯特罗姆将本应由全球协调解决的问题被压缩成一场无法退出的竞赛的困境,称为'单边主义者的诅咒'(singleton curse)的反面。
50%待验证尼克·博斯特罗姆(Nick Bostrom)等人提出了智能爆炸(Intelligence Explosion)假说,即AI能力超过某临界点后自我改进速度将急剧加快
50%待验证超级智能(Superintelligence)概念最早由哲学家尼克·博斯特罗姆在2014年的同名著作中系统阐述
50%待验证牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)提出了「差异技术发展」(Differential Technological Development)概念
50%待验证博斯特罗姆将超级智能细分为速度超智能、集体超智能和品质超智能三种形态
50%待验证智能爆炸的推演后来被尼克·博斯特罗姆等哲学家进一步发展,成为当代AI存在性风险讨论的理论基石之一
50%待验证工具性趋同(Instrumental Convergence)概念由史蒂夫·奥莫亨德罗在2008年首次系统化提出,后由博斯特罗姆进一步发展
50%