待验证50% 置信事实精确时间

2016年Amodei等人发表论文《AI安全中的具体问题》，系统归纳了奖励黑客、负面副效应、可扩展监督等五大核心挑战

1

来源数

50%

置信度

长期有效

时效性

2026/9/5

首次发现

来源

AI欺骗行为根源：强化学习的失准隐患与解决方案

涉及实体

Amodeiperson Concrete Problems in AI Safetyconcept

相关事实

待验证奖励黑客（Reward Hacking）现象已在AI安全研究实践中被反复观察到72% 相似待验证2024年已有多份威胁情报报告记录了攻击者利用AI辅助编写钓鱼邮件、生成恶意代码变体和自动化侦察流程的案例71% 相似待验证混淆的奖励黑客（Obfuscated Reward Hacking）由OpenAI在2024年关于o1模型的安全评估报告中重点讨论71% 相似待验证在AI零检出后，人工审查在curl项目中发现了6个CVE级别的安全问题70% 相似待验证工信部针对某类AI Agent工具发出安全警告，列出多项漏洞69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/862865

API

curl https://kongchang.com/api/v1/knowledge/claims/862865

MCP

get_claim(id=862865)