PII
个人身份信息,泛指可单独或结合其他信息识别到具体自然人的数据,包括姓名、邮箱、电话、身份证号、金融账户等,是隐私保护与合规领域的核心概念
核心事实
时间轴 (近 90 天)
对视频做 PII 扫描需要先做帧采样或语音转写,再分别对画面 OCR 结果和音频文本做实体识别,最后把命中位置映射回时间码。
PII(个人身份信息)检测通常采用轻量级命名实体识别(NER)模型,对文本与图像OCR结果进行实时扫描。
输入护栏应在推理发生之前完成校验与清洗,包括schema验证、长度上限、允许清单、越狱筛查、间接注入筛查,并尽早清除PII。
在审计日志中剔除电话号码等 PII 会带来副作用:当需要回溯具体对话时,日志本身无法直接关联到客户身份,需要借助消息 ID 在其他系统中进行跨库映射。
PII 最小化是 GDPR 第 5 条“数据最小化”原则的具体落地:只收集和处理达成特定目的所必需的最少数据。
测试日志、DOM 快照和网络 trace 中常包含敏感载荷、OAuth bearer token、PII 或内部基础设施 URL,将原始上下文传给外部 LLM 提供商意味着重大合规风险,需在模型摄取前实施严格脱敏层。
如果平台将含PII的内容原样存了下来,且无法配置过滤规则,那么在生产中它将成为一个持续扩大的数据泄露面。
AI Agent的追踪数据里往往直接包含用户prompt、模型输出和工具返回值,这些内容可能含有个人身份信息(PII)、凭证或商业机密。
客服Agent可调用的工具(如订单查询、邮件发送、退款)使其持有的PII(姓名、地址、邮箱、电话、订单历史)可通过工具调用本身泄露。
原始 Prompt 往往夹带 PII、专有源码或凭证密钥,全量采集可能触碰 GDPR、HIPAA 等隐私法规。
还有 12 条时间轴事件
全部知识事实 (20)
个人身份信息(PII)是指任何可以单独或与其他信息结合后用于识别特定个人的数据,包括直接标识符和IP地址、设备指纹等间接标识符
65%待验证对视频做 PII 扫描需要先做帧采样或语音转写,再分别对画面 OCR 结果和音频文本做实体识别,最后把命中位置映射回时间码。
50%待验证PII(个人身份信息)检测通常采用轻量级命名实体识别(NER)模型,对文本与图像OCR结果进行实时扫描。
50%待验证输入护栏应在推理发生之前完成校验与清洗,包括schema验证、长度上限、允许清单、越狱筛查、间接注入筛查,并尽早清除PII。
50%待验证在审计日志中剔除电话号码等 PII 会带来副作用:当需要回溯具体对话时,日志本身无法直接关联到客户身份,需要借助消息 ID 在其他系统中进行跨库映射。
50%待验证PII 最小化是 GDPR 第 5 条“数据最小化”原则的具体落地:只收集和处理达成特定目的所必需的最少数据。
50%待验证测试日志、DOM 快照和网络 trace 中常包含敏感载荷、OAuth bearer token、PII 或内部基础设施 URL,将原始上下文传给外部 LLM 提供商意味着重大合规风险,需在模型摄取前实施严格脱敏层。
50%待验证如果平台将含PII的内容原样存了下来,且无法配置过滤规则,那么在生产中它将成为一个持续扩大的数据泄露面。
50%待验证AI Agent的追踪数据里往往直接包含用户prompt、模型输出和工具返回值,这些内容可能含有个人身份信息(PII)、凭证或商业机密。
50%待验证客服Agent可调用的工具(如订单查询、邮件发送、退款)使其持有的PII(姓名、地址、邮箱、电话、订单历史)可通过工具调用本身泄露。
50%待验证原始 Prompt 往往夹带 PII、专有源码或凭证密钥,全量采集可能触碰 GDPR、HIPAA 等隐私法规。
50%待验证数据敏感性分为几个层级:公开数据可随意发送;内部业务数据合规性取决于行业监管(如金融、医疗、政务往往有硬性规定);个人身份信息(PII)和商业机密通常不可外发。即便提供商承诺不用于训练,数据仍会离开本地环境。
50%待验证企业调用大模型时prompt中可能夹带用户姓名、手机号、身份证号、银行卡号等敏感信息,一旦发送给第三方模型供应商就可能构成数据泄露或违反GDPR、个人信息保护法等法规。
50%待验证PII(个人身份信息)指可用于识别特定自然人的数据,如姓名、邮箱、电话、身份证号、IP地址等;在LLM场景中,prompt天然可能携带用户上传的文档、对话历史、账号凭据,因此span中记录原文的风险远高于传统API追踪。
50%待验证除非有严格的PII脱敏管线,否则不应在span中记录原始prompt/completion内容,因为span虽然采样率通常低于指标,但仍然会被记录。
50%待验证RAGGuardrails类实现输入和输出护栏:输入检查拦截Prompt注入(检测'ignore previous instructions'等触发词)和PII泄露(正则匹配SSN、邮箱、信用卡号、电话号码);输出检查包含幻觉检测(提取答案中的数字,检查是否在上下文中,长度超过2位的数字若不在上下文则标记为未验证声明)和PII检测,并在PII出现时用[REDACTED]替换。
50%待验证针对数据流入的三步防护包括租户隔离、脱敏中间件抹除PII、资产级凭证扫描器阻止令牌或密钥进入输出流
50%待验证常见的合规技术手段包括在请求进入网关前自动检测并遮蔽PII、记录不可篡改的审计日志,以及基于角色的访问控制(RBAC)
50%待验证Inqueria 声称在任何模型接触转录文本之前,先在自有系统内完成 PII(个人身份信息)脱敏
50%待验证SCIM payload中通常包含姓名、邮箱、部门、职级、电话号码等员工个人信息,属于GDPR、CCPA等法规下的PII
50%