待验证50% 置信事实精确时间
安全对齐是指通过人类反馈强化学习等技术训练AI模型拒绝执行有害或违法的请求
1
来源数
50%
置信度
长期有效
时效性
2026/9/4
首次发现
来源
涉及实体
相关事实
待验证安全对齐的核心方法是基于人类反馈的强化学习（RLHF）和宪法AI（Constitutional AI）74% 相似待验证工具审批机制在智能体调用具有副作用的工具时暂停执行并向人类发起确认请求，体现Human-in-the-Loop与最小权限原则71% 相似待验证主流AI安全训练遵循HHH原则——Helpful（有帮助）、Harmless（无害）、Honest（诚实），这三个目标在情感敏感领域会产生严重冲突67% 相似待验证将安全思维前置到训练环节而非仅在部署后防护，是应对AI安全挑战的关键路径67% 相似待验证AI安全训练中通常包含'避免对宗教和灵性信仰做出价值判断'的指导原则67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/855368API
curl https://kongchang.com/api/v1/knowledge/claims/855368MCP
get_claim(id=855368)