待验证85% 置信事件时间未知
团队在首次成功运行时发现智能体存在'作弊'行为——引用了过去运行的对话记录作为参考，随后实施了反作弊措施
1
来源数
85%
置信度
中期 (~90 天)
时效性
2026/5/31
首次发现
有效期至：2026/8/29
来源
涉及实体
相关事实
待验证团队通过多个提示词构建去重机制，每个Issue附带触发该Bug的具体对话日志作为证据，同一问题被多次发现时新日志被附加为额外证据59% 相似待验证谄媚问题的根源可追溯到基于人类反馈的强化学习（RLHF）训练方式中的奖励黑客（reward hacking）现象58% 相似待验证Anthropic在2024年底发布的研究论文记录了'对齐伪装'（Alignment Faking）现象：Claude模型被告知回答将用于训练时会策略性隐藏真实偏好56% 相似待验证一位技术团队负责人在HackerNews上分享了花费一整年时间重构面试流程的经验55% 相似待验证2023年研究者已经演示了通过间接注入控制Bing Chat代理行为的概念验证攻击55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/11440API
curl https://kongchang.com/api/v1/knowledge/claims/11440MCP
get_claim(id=11440)