待验证90% 置信观点时间未知

辛顿认为人们在减轻AI可怕风险方面投入的工作远远不够

1

来源数

90%

置信度

中期 (~90 天)

时效性

2026/5/31

首次发现

有效期至：2026/8/29

来源

AI教父辛顿最新警告：AI学会欺骗，程序员将被取代

bilibili全球宏观速递

涉及实体

Geoffrey Hintonperson

相关事实

待验证主观类任务、执行成本极高的单次任务、以及医疗诊断和法律判断等高风险决策不适合让AI自主循环运行73% 相似待验证Rio认为真正的风险不是机器太有创造力，而是人在AI周围变得太被动72% 相似待验证AI Agent最危险的风险不是不听话，而是非常听话地执行了一个没想清楚的目标71% 相似待验证缺乏可观测性和度量的AI成本优化往往只是碰运气70% 相似待验证Reddit上的一条热门讨论指出，绝大多数人已不再把'这个新模型很危险'的警告当回事，因为AI行业'喊狼来了'的次数太多70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/15880

API

curl https://kongchang.com/api/v1/knowledge/claims/15880

MCP

get_claim(id=15880)