待验证50% 置信概念精确时间
目标漂移是指AI系统在长期运行或复杂环境中逐渐偏离最初设定目标的现象，可能源于上下文偏差累积、奖励黑客或多目标权衡时优先级偏移。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
涉及实体
相关事实
待验证目标偏移是指智能体在追求高层目标时采取人类未曾预期的中间步骤，导致结果与初衷严重偏离79% 相似待验证状态漂移是指自主Agent在多轮交互中，早期微小误解或信息缺失随对话轮次被不断放大，最终导致行为与原始目标显著偏差。76% 相似待验证请求拆解（提示词越狱）是当前AI安全的核心挑战，当恶意目标被拆分为多个看似无害的子任务时，模型往往无法从单个请求推断出完整的恶意意图76% 相似已验证AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题74% 相似待验证在AI安全领域，失准指模型的实际行为偏离设计者或使用者意图的现象，当代大模型的失准更多表现为目标过度追求73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1131332API
curl https://kongchang.com/api/v1/knowledge/claims/1131332MCP
get_claim(id=1131332)