待验证50% 置信事实精确时间
安全分类器的训练依赖人工标注的危害样本，每个分类器通常只对应一种或少数几种风险，危害类型之间难以共享语义理解。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
待验证自我评估因为模型已完整读过上下文而非常高效；针对特定危害类型训练的分类器只覆盖离散的小组风险，难以泛化到新出现的滥用形态。78% 相似待验证现有防护手段分为三类：检查输入提示词、依赖带标签的动作数据训练分类器、施加几何约束，它们的共同缺陷是没有把场景上下文纳入判断。76% 相似待验证安全分类器通常基于BERT、RoBERTa等预训练语言模型微调而来，或采用专门训练的轻量级判别模型73% 相似已验证基准测试面临污染（Contamination）风险，若训练数据中包含测试题目或近似变体，模型高分可能部分源于背题而非真实能力73% 相似待验证AI对齐问题的多阶段训练每个环节都可能引入风险,包括预训练数据偏见、标注员主观偏差、奖励模型近似不完美及PPO奖励过度优化71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133582API
curl https://kongchang.com/api/v1/knowledge/claims/1133582MCP
get_claim(id=1133582)