待验证50% 置信事实精确时间
OpenAI的负责任扩展政策、Anthropic的安全使用政策以及DeepMind的Frontier Safety Framework都试图通过内部红线管控高能力模型的训练与发布节奏
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/28
首次发现
有效期至：2026/12/27
来源
涉及实体
相关事实
待验证Anthropic和OpenAI都将模型规避关闭、欺骗性对齐等安全问题列为重点研究方向，OpenAI设有超级对齐项目75% 相似待验证OpenAI描述了一套分层软性安全防护栈，涵盖训练保护、实时内容检查、账户风险监测、访问权限控制、行为监控和持续红队测试75% 相似待验证OpenAI、Anthropic等公司正在研究的防注入技术方案包括将数据内容沙盒化、训练模型拒绝执行数据层指令、以及用监督模型检测执行模型输出74% 相似待验证OpenAI的InstructGPT、Anthropic的Constitutional AI以及Meta的Llama系列都采用了类似的安全对齐流程73% 相似已验证OpenAI有Preparedness Framework，对模型在网络安全、CBRN威胁、说服力和自主行为四个维度进行分级评估72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/956410API
curl https://kongchang.com/api/v1/knowledge/claims/956410MCP
get_claim(id=956410)