待验证50% 置信观点精确时间

8000多个账号被误封数月才被察觉，说明系统缺乏人工复核缓冲环节，当AI被授权直接执行封号且缺乏校验机制时模型偏差会被放大

1

来源数

50%

置信度

长期有效

时效性

2026/7/9

首次发现

来源

Discord误封8000账号：AI审核系统为何把棋盘认成违规内容

rss2026/7/7

相关事实

待验证涉及账务系统核查、后台数据库修改等操作时，AI客服缺乏相应系统权限和操作接口，只能给出模板化回复64% 相似待验证成熟的商业级漏洞扫描器误报率常在30%-70%之间波动，AI Agent在复杂场景中的误判率可能更高，SRC平台对频繁提交无效报告的账号有惩罚机制62% 相似待验证实体解析错误场景中，AI在用户合法权限范围内检索到错误的关联账户，权限没有越界但结果错误61% 相似待验证许多监控系统只关注请求是否超时或返回错误码，而不检查输出内容是否有实质性进展，使循环问题可能在产生大量费用后才被发现58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/365365

API

curl https://kongchang.com/api/v1/knowledge/claims/365365

MCP

get_claim(id=365365)