#AI可靠性
共 7 篇相关文章
·6 分钟
Every LLM Lies：大模型幻觉背后的工程应对之道
大模型幻觉不只是模型问题，更是系统工程问题。本文基于“Every LLM Lies”一文，剖析LLM虚假信息的多种失败模式，提出House Principle原则，并从分离生成与验证、保留证据谱系、让不确定性可操作等角度，给出可落地的LLM可靠性架构设计建议。
阅读全文 →
·4 分钟
没人敢为AI答案背书：谁在检查AI的输出？
微软Agent Framework、艾伦研究所OLMo模型卡、LangChain与Google Harness²研究都指向同一结论：没人敢为AI答案背书，检查输出的责任落在使用者身上。本文分析这一模式背后的工程含义，以及"答案自带证据"的系统设计思路。
阅读全文 →
·9 分钟
AI评测器真相：没有答案键，评分会有多不可靠？
梳理77项研究后发现：AI评测器没有验证过的答案键时，恰在它自己答不对的问题上最不可靠，且错误系统性偏向误通过。本文解析原因、主观判断的边界，并给出一套可上手的20样本检查流程。
阅读全文 →
·4 分钟
当LLM说"很可能"：语言不确定性与人类的鸿沟
arXiv新论文揭示大语言模型在语言不确定性表达上与人类存在系统性错位：模型说的"很可能"并非人类理解的概率。文章解读LLM不确定性量化的新方法METHODNAME及其对AI可靠性的意义。
阅读全文 →
·5 分钟
多智能体群体为何会集体陷入错误信念？
多智能体系统中，由LLM驱动的AI智能体群体为何会集体收敛到错误信念？本文借鉴《大众幻想与群众性疯狂》，剖析同质化偏见、相互影响与缺乏外部校验如何导致多智能体错觉，并探讨相应的系统设计启示。
阅读全文 →
·5 分钟
被说服而非被告知：AI如何被利益偏见证词骗过
arXiv新研究揭示语言模型代理的系统性失效：面对CRM中带利益偏见的销售证词，AI会把断言当证据通过本应否决的交易，七个主流模型被误导率高达87%-97%，模型规模和推理能力均无法抵抗。
阅读全文 →
