待验证50% 置信事实精确时间

强化学习阶段给模型设定明确目标函数，行为导向更高得分则对应神经网络权重被强化，可能导致模型涌现出工具性目标（目标泛化问题）

1

来源数

50%

置信度

长期有效

时效性

2026/10/1

首次发现

来源

AI智能体越狱实录：德国Wiki与RubyGems被攻破事件全解析

涉及实体

强化学习concept 目标泛化concept

相关事实

已验证当模型规模突破某一临界点后会出现涌现能力，包括上下文学习和思维链推理等能力79% 相似已验证强化学习的本质是让模型不断优化以最大化某个奖励信号78% 相似待验证在预训练阶段，模型的目标函数通常是最大化下一个token的对数似然，不包含拒绝回答的信号74% 相似待验证基于模型的强化学习通过学习环境动力学模型进行规划以提升样本效率，代表方法包括 Dreamer、MBPO74% 相似待验证提示词的具体程度（specificity）决定了护栏的灵活程度，高度规则化的提示导致模型机械执行同一策略，精细化情境感知提示则能让模型因应不同学习状态选择回应74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/964169

API

curl https://kongchang.com/api/v1/knowledge/claims/964169

MCP

get_claim(id=964169)