待验证50% 置信事实精确时间

NLP领域的对抗性评估经历了从TextFooler等词级替换攻击、到CheckList等行为测试框架、再到SWORD这类系统化事实扰动方法的演进

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

SWORD基准揭示大模型跨语言事实核查的隐藏漏洞

涉及实体

TextFoolertechnology CheckListtechnology SWORDconcept

相关事实

待验证成员推断攻击通过分析模型对特定文本的困惑度差异，判断该文本是否曾出现在训练集中70% 相似待验证探针式提示（probing prompt）在NLP研究中最初指用简单分类器检测预训练模型内部表征中是否编码了语言学特征，后被拓展到价值观和偏见检测领域69% 相似待验证对抗式审查借鉴了安全领域的红队测试、架构评审中的魔鬼代言人技术和测试驱动开发（TDD）等工程实践69% 相似待验证开发者对系统进行了对抗性测试，故意提出偏离主题的问题，系统表现出良好的拒答能力68% 相似待验证自动模式的分类器通过引入上下文感知追溯操作指令来源是否可信，以防范Prompt注入攻击68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/895266

API

curl https://kongchang.com/api/v1/knowledge/claims/895266

MCP

get_claim(id=895266)