#LLM可靠性

共 3 篇相关文章

LLM在生产环境中的大多数故障并不戏剧化：HTTP 200背后隐藏着幻觉、数学错误、Schema违规、指令漂移和合规失效。本文系统梳理五大失败类别及其成因，并介绍确定性验证层如何在不改动模型的前提下拦截这些静默错误。

U-Space 提出一种无需正确性标签、无需重复采样与额外训练的 Token 级不确定性量化方法，通过低维子空间投影实现可解释的置信度估计，在推理基准的长度受控评测中优于熵方法与监督式基线，但仍依赖人工语义锚点且尚未验证开放生成场景。

一个为期11天的Kaggle升级基准测试揭示：评估AI模型应看最差形态而非平均值。本地小模型会做题却不知自己不会，虚假自信率高达100%。本文解析该基准的设计、发现与工程落地方案。