待验证50% 置信事实精确时间

主流大模型在发布前都会经过安全对齐训练，使其拒绝生成恶意软件代码、协助网络攻击、输出违法内容等请求

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

HuggingFace开始内容审查？下架模型引发社区争议

涉及实体

安全对齐concept

相关事实

已验证开源模型权重一旦公开，攻击者可以通过微调（fine-tuning）移除模型的安全限制74% 相似待验证企业应对勒索软件的核心防御措施包括定期离线备份、部署零信任架构、员工安全意识培训和制定事件响应预案71% 相似待验证开发者在处理敏感数据或依赖模型不泄露内容的场景中，应当在应用层增加额外防护，而非完全信任API层的过滤70% 相似待验证Anthropic的网络安全防护针对防止模型被滥用于生成恶意代码、规划攻击路径或辅助针对关键基础设施发动网络攻击的场景70% 相似待验证从不可信来源执行代码是软件安全领域最基本的禁忌之一，应通过代码签名、包管理器验证、沙箱执行等手段防范70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/923989

API

curl https://kongchang.com/api/v1/knowledge/claims/923989

MCP

get_claim(id=923989)