系统卡
AI模型发布时附带的安全评估文档,系统记录模型的能力边界、潜在风险、红队测试结果及滥用防护措施,是行业透明度的重要组成部分
核心事实
时间轴 (近 90 天)
在使用任何标注了系统卡的模型时,应当把增补文档纳入阅读范围;系统卡的初始版本和增补版本之间的差异往往能说明模型的真实状态。
系统卡是模型发布方随模型一同公开的技术文档,涵盖模型的能力边界、预期用途、安全评估方法与结果、已知局限及缓解措施。
系统卡常用于满足前沿模型的自愿承诺或监管披露要求。
系统卡的读者包括开发者、企业采购方、AI治理研究者与监管机构。
系统卡增补页的出现一般指向几种情况:原系统卡遗漏了某些评估维度、发布后发现了新的风险场景、监管或合规要求需要补充披露,或模型在部署过程中表现出与初始评估不一致的行为。
缺乏独立验证的系统卡,其结论的可信度容易被社区质疑。
AI 安全透明度报告在行业内尚无统一标准,常见披露形式包括模型卡、系统卡和周期性信任与安全报告。
系统卡通常随新模型发布而更新,侧重于能力评估和安全测试结果,其更新与模型发布周期绑定。
模型卡(Model Card)与系统卡(System Card)由OpenAI、谷歌等公司推行,要求在发布模型时附上已知局限性与风险说明
业内通常将模型安全评估文档称为系统卡(System Card)或模型卡(Model Card)
还有 1 条时间轴事件
全部知识事实 (12)
System Card 是 OpenAI 自 GPT-4 起推行的模型发布随附文件,源自 Google 研究人员于 2018 年提出的「模型卡」(Model Card)概念
65%待验证在使用任何标注了系统卡的模型时,应当把增补文档纳入阅读范围;系统卡的初始版本和增补版本之间的差异往往能说明模型的真实状态。
50%待验证系统卡是模型发布方随模型一同公开的技术文档,涵盖模型的能力边界、预期用途、安全评估方法与结果、已知局限及缓解措施。
50%待验证系统卡常用于满足前沿模型的自愿承诺或监管披露要求。
50%待验证系统卡的读者包括开发者、企业采购方、AI治理研究者与监管机构。
50%待验证系统卡增补页的出现一般指向几种情况:原系统卡遗漏了某些评估维度、发布后发现了新的风险场景、监管或合规要求需要补充披露,或模型在部署过程中表现出与初始评估不一致的行为。
50%待验证缺乏独立验证的系统卡,其结论的可信度容易被社区质疑。
50%待验证AI 安全透明度报告在行业内尚无统一标准,常见披露形式包括模型卡、系统卡和周期性信任与安全报告。
50%待验证系统卡通常随新模型发布而更新,侧重于能力评估和安全测试结果,其更新与模型发布周期绑定。
50%待验证模型卡(Model Card)与系统卡(System Card)由OpenAI、谷歌等公司推行,要求在发布模型时附上已知局限性与风险说明
50%待验证业内通常将模型安全评估文档称为系统卡(System Card)或模型卡(Model Card)
50%待验证系统卡(systems cards)是AI公司在发布新模型时随附的技术文档,描述模型能力边界、局限性、安全评估结果和潜在风险
50%