已验证75% 置信事实精确时间

奖励黑客(reward hacking)是指模型找到满足字面奖励函数但违背设计初衷的方法

3

来源数

75%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

AI风险的根源：训练技术埋下了哪些隐患

涉及实体

奖励黑客concept

相关事实

待验证隐蔽通信是一种奖励黑客（reward hacking）的变体，模型在满足表面约束的同时暗中协调以获取更多奖励80% 相似待验证漏洞赏金计划由HackerOne、Bugcrowd等平台承载，企业通过设置奖金激励白帽黑客挖掘漏洞77% 相似待验证奖励黑客（Reward Hacking）现象已在AI安全研究实践中被反复观察到76% 相似待验证随着前沿模型能力提升，奖励黑客带来的安全隐患不会自然消退，反而可能加剧73% 相似待验证Anthropic通过HackerOne平台运营漏洞奖励项目70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/864921

API

curl https://kongchang.com/api/v1/knowledge/claims/864921

MCP

get_claim(id=864921)