待验证50% 置信事实精确时间

该研究的核心假设是共享的训练数据和相似的架构会导致能力更强的LLM之间表现出更高的行为一致性，进而产生系统性风险

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI能力悖论：为何更强的模型反而带来更高的系统风险

涉及实体

LLMconcept Capability Paradoxconcept

相关事实

待验证参数量相似的情况下，训练数据质量分布的差异往往比架构差异更能决定特定场景的表现上限75% 相似已验证对抗训练通过将已知越狱样本纳入训练数据来提升模型对攻击提示的识别与抵抗能力，但面临新型变体的持续挑战74% 相似待验证跨模型引用行为差异的根源包括预训练语料差异、SFT数据集差异和RLHF阶段人类标注者群体差异73% 相似待验证行为克隆存在分布偏移问题，DAgger等改进算法通过让学习中的智能体与专家持续交互来扩充训练数据73% 相似待验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902692

API

curl https://kongchang.com/api/v1/knowledge/claims/902692

MCP

get_claim(id=902692)