[控场AI]
概念个人身份信息 / Personally Identifiable Information

PII

个人身份信息,泛指可单独或结合其他信息识别到具体自然人的数据,包括姓名、邮箱、电话、身份证号、金融账户等,是隐私保护与合规领域的核心概念

核心事实

时间轴 (近 90 天)

11月1日

对视频做 PII 扫描需要先做帧采样或语音转写,再分别对画面 OCR 结果和音频文本做实体识别,最后把命中位置映射回时间码。

待验证50%
10月24日

PII(个人身份信息)检测通常采用轻量级命名实体识别(NER)模型,对文本与图像OCR结果进行实时扫描。

待验证50%
10月19日

输入护栏应在推理发生之前完成校验与清洗,包括schema验证、长度上限、允许清单、越狱筛查、间接注入筛查,并尽早清除PII。

待验证50%
10月17日

在审计日志中剔除电话号码等 PII 会带来副作用:当需要回溯具体对话时,日志本身无法直接关联到客户身份,需要借助消息 ID 在其他系统中进行跨库映射。

待验证50%
10月17日

PII 最小化是 GDPR 第 5 条“数据最小化”原则的具体落地:只收集和处理达成特定目的所必需的最少数据。

待验证50%
10月15日

测试日志、DOM 快照和网络 trace 中常包含敏感载荷、OAuth bearer token、PII 或内部基础设施 URL,将原始上下文传给外部 LLM 提供商意味着重大合规风险,需在模型摄取前实施严格脱敏层。

待验证50%
10月15日

如果平台将含PII的内容原样存了下来,且无法配置过滤规则,那么在生产中它将成为一个持续扩大的数据泄露面。

待验证50%
10月15日

AI Agent的追踪数据里往往直接包含用户prompt、模型输出和工具返回值,这些内容可能含有个人身份信息(PII)、凭证或商业机密。

待验证50%
10月15日

客服Agent可调用的工具(如订单查询、邮件发送、退款)使其持有的PII(姓名、地址、邮箱、电话、订单历史)可通过工具调用本身泄露。

待验证50%
10月15日

原始 Prompt 往往夹带 PII、专有源码或凭证密钥,全量采集可能触碰 GDPR、HIPAA 等隐私法规。

待验证50%

还有 12 条时间轴事件

全部知识事实 (20)

已验证

个人身份信息(PII)是指任何可以单独或与其他信息结合后用于识别特定个人的数据,包括直接标识符和IP地址、设备指纹等间接标识符

65%
待验证

对视频做 PII 扫描需要先做帧采样或语音转写,再分别对画面 OCR 结果和音频文本做实体识别,最后把命中位置映射回时间码。

50%
待验证

PII(个人身份信息)检测通常采用轻量级命名实体识别(NER)模型,对文本与图像OCR结果进行实时扫描。

50%
待验证

输入护栏应在推理发生之前完成校验与清洗,包括schema验证、长度上限、允许清单、越狱筛查、间接注入筛查,并尽早清除PII。

50%
待验证

在审计日志中剔除电话号码等 PII 会带来副作用:当需要回溯具体对话时,日志本身无法直接关联到客户身份,需要借助消息 ID 在其他系统中进行跨库映射。

50%
待验证

PII 最小化是 GDPR 第 5 条“数据最小化”原则的具体落地:只收集和处理达成特定目的所必需的最少数据。

50%
待验证

测试日志、DOM 快照和网络 trace 中常包含敏感载荷、OAuth bearer token、PII 或内部基础设施 URL,将原始上下文传给外部 LLM 提供商意味着重大合规风险,需在模型摄取前实施严格脱敏层。

50%
待验证

如果平台将含PII的内容原样存了下来,且无法配置过滤规则,那么在生产中它将成为一个持续扩大的数据泄露面。

50%
待验证

AI Agent的追踪数据里往往直接包含用户prompt、模型输出和工具返回值,这些内容可能含有个人身份信息(PII)、凭证或商业机密。

50%
待验证

客服Agent可调用的工具(如订单查询、邮件发送、退款)使其持有的PII(姓名、地址、邮箱、电话、订单历史)可通过工具调用本身泄露。

50%
待验证

原始 Prompt 往往夹带 PII、专有源码或凭证密钥,全量采集可能触碰 GDPR、HIPAA 等隐私法规。

50%
待验证

数据敏感性分为几个层级:公开数据可随意发送;内部业务数据合规性取决于行业监管(如金融、医疗、政务往往有硬性规定);个人身份信息(PII)和商业机密通常不可外发。即便提供商承诺不用于训练,数据仍会离开本地环境。

50%
待验证

企业调用大模型时prompt中可能夹带用户姓名、手机号、身份证号、银行卡号等敏感信息,一旦发送给第三方模型供应商就可能构成数据泄露或违反GDPR、个人信息保护法等法规。

50%
待验证

PII(个人身份信息)指可用于识别特定自然人的数据,如姓名、邮箱、电话、身份证号、IP地址等;在LLM场景中,prompt天然可能携带用户上传的文档、对话历史、账号凭据,因此span中记录原文的风险远高于传统API追踪。

50%
待验证

除非有严格的PII脱敏管线,否则不应在span中记录原始prompt/completion内容,因为span虽然采样率通常低于指标,但仍然会被记录。

50%
待验证

RAGGuardrails类实现输入和输出护栏:输入检查拦截Prompt注入(检测'ignore previous instructions'等触发词)和PII泄露(正则匹配SSN、邮箱、信用卡号、电话号码);输出检查包含幻觉检测(提取答案中的数字,检查是否在上下文中,长度超过2位的数字若不在上下文则标记为未验证声明)和PII检测,并在PII出现时用[REDACTED]替换。

50%
待验证

针对数据流入的三步防护包括租户隔离、脱敏中间件抹除PII、资产级凭证扫描器阻止令牌或密钥进入输出流

50%
待验证

常见的合规技术手段包括在请求进入网关前自动检测并遮蔽PII、记录不可篡改的审计日志,以及基于角色的访问控制(RBAC)

50%
待验证

Inqueria 声称在任何模型接触转录文本之前,先在自有系统内完成 PII(个人身份信息)脱敏

50%
待验证

SCIM payload中通常包含姓名、邮箱、部门、职级、电话号码等员工个人信息,属于GDPR、CCPA等法规下的PII

50%

来源文章