人物
Evan Hubinger
Anthropic对齐科学(Alignment Science)负责人,专注于AI对齐与安全研究,尤其关注递归自我改进AI的风险问题
核心事实
时间轴 (近 90 天)
9月11日
Anthropic的Alignment Science负责人Evan Hubinger承认缺乏相关解决方案,并预估未来十年AI导致大规模灭绝的概率超过10%
待验证50%
9月2日
欺骗性对齐(Deceptive Alignment)概念由Evan Hubinger等研究者在2019年的论文《Risks from Learned Optimization》中系统阐述
已验证65%