语言模型
核心事实
时间轴 (近 90 天)
语言模型缺乏对二维空间的精确感知,因为其训练目标与架构基于 token 序列,没有显式的坐标系或像素概念。
四个此前从未接触 tok 的语言模型,仅凭一页参考文档,在 87 条流程描述上有效 tok 的生成率为 85.7% 到 100%,而对应的 BPMN XML 每条描述都能生成。
在仅凭一页参考文档写 tok 的实验中,最强模型写 tok 比写 BPMN XML 分别少用 25% 和 19% 的 token。
当模型配置为带有精简技能和一个检查器工具的 agent 时,有效 tok 生成率提升到 97.6% 到 100%,最强模型的 token 节省为 21% 和 14%。
如果技能设计成让模型通过工具去读参考文档,token 开销是精简技能的 1.7 到 2.8 倍。
研究假设语言模型在预训练中自发将抽象关系模式从具体主题中剥离出来,形成独立的表征维度,从而支撑跨领域类比迁移。
拒绝方向是机制可解释性研究中的概念:在对齐后的语言模型中,拒绝有害请求与顺从请求的激活差异可以投射到一个低维方向上,沿该方向移动激活可显著改变模型的拒绝倾向。
一个仅读取注册方案的前沿语言模型展现出0.20的干预技能(95% CI 0.08 至 0.31),区间完全在零上。
扰动测试显示,在86%的对比中,交换试验臂会反转语言模型预测的符号。
盲参考并非完全药物盲:一个语言模型能从盲提示中恢复出被隐藏的药物类别,准确率达45%。
还有 40 条时间轴事件
全部知识事实 (20)
Function Calling(Tool Use)是大模型调用外部工具的标准化机制,开发者预先声明工具名称、描述和参数Schema,模型自主判断何时调用
90%已验证大语言模型本质上是无状态函数,权重在推理时已经固定,不会随时间推移而学习
80%已验证AI智能体具备三个关键能力:任务规划、工具调用、记忆与上下文管理
80%已验证智能体框架(Agent Harness)不替代核心模型的推理能力,而是在模型之外构建运行时管理壳,负责工具调用、状态管理、错误恢复等横切关注点
80%已验证测试用例为 AI 提供了可机器验证的目标函数,将模糊的自然语言需求转化为精确的通过/失败信号
75%已验证大语言模型在生成每个词元时,是在对词汇表中所有可能的下一个词进行概率采样,而非确定性地选择唯一答案
70%已验证目前主流大语言模型在置信度校准和选择性弃权方面均存在明显缺陷,往往过度自信,且面对超出训练分布的问题倾向于给出流畅但错误的回答
65%已验证大语言模型无法从结构上区分用户指令和内容中夹带的指令,因为两者对模型而言都是同一个token序列的一部分
65%已验证大语言模型的置信度输出本质上是概率分布的产物,而非对事实真伪的真实判断,可能对错误陈述表达高置信度
65%已验证奖励模型的训练可使用Bradley-Terry模型等排序学习框架,训练神经网络预测任意两个回答之间的人类偏好概率,接收(prompt, response)对并输出标量分数
65%已验证上下文窗口是指模型在单次对话中能够记住并参考的文本长度,超出范围的信息会被截断丢弃
65%已验证工具调用机制允许大语言模型在推理过程中动态调用外部函数,是从语言模型到行动模型的本质跨越
65%待验证语言模型本身只能输出文本,无法直接执行打开文件、按下按钮等操作。
60%待验证参数量越大,模型在语言理解和生成质量上通常越强,但对内存和算力需求也成倍增长
60%待验证语言模型缺乏对二维空间的精确感知,因为其训练目标与架构基于 token 序列,没有显式的坐标系或像素概念。
50%待验证四个此前从未接触 tok 的语言模型,仅凭一页参考文档,在 87 条流程描述上有效 tok 的生成率为 85.7% 到 100%,而对应的 BPMN XML 每条描述都能生成。
50%待验证在仅凭一页参考文档写 tok 的实验中,最强模型写 tok 比写 BPMN XML 分别少用 25% 和 19% 的 token。
50%待验证当模型配置为带有精简技能和一个检查器工具的 agent 时,有效 tok 生成率提升到 97.6% 到 100%,最强模型的 token 节省为 21% 和 14%。
50%待验证如果技能设计成让模型通过工具去读参考文档,token 开销是精简技能的 1.7 到 2.8 倍。
50%待验证拒绝方向是机制可解释性研究中的概念:在对齐后的语言模型中,拒绝有害请求与顺从请求的激活差异可以投射到一个低维方向上,沿该方向移动激活可显著改变模型的拒绝倾向。
50%