大型语言模型
核心事实
时间轴 (近 90 天)
大型语言模型在面对政治选举、候选人评价等话题时，通常会触发内置的安全对齐机制。
在序列化微调大型语言模型时，全参数微调几乎必然导致原有能力的显著退化。
在大模型场景中，典型的多层防御包括：训练阶段的对齐微调与红队测试、推理阶段的输入过滤与提示词加固、输出阶段的毒性分类器与内容审查、以及部署后的运行时监控与异常行为检测。
智能体是以大型语言模型为大脑，通过外部工具、记忆、规划等机制赋予自主行动能力的系统。
在 LLM 语境下，智能体通常指一个以大型语言模型为决策核心、能够循环执行“观察—思考—行动”的系统。
大型语言模型在零压力环境下普遍会给出基于绿色伦理的回应，研究者将这种现象称为「绿色洗白」。
安全对齐并非绝对可靠，模型可能因分布外输入、多语言迁移或提示词构造而失效。
越狱提示词是一类经过特殊设计的输入文本，目标是诱导大型语言模型绕开安全对齐机制，输出本应被限制的回复。
实验涵盖了对数线性策略、神经网络模型和大型语言模型，结果表明与均匀选择平局相比，所提出的选择规则在减少伪相关依赖方面取得相当的效果，但所需的平局数量更少。
LLM 无法测量体温、血压、血氧，也无法做尿常规或血培养。
还有 40 条时间轴事件
全部知识事实 (20)
Chain of Thought能显著提升模型在数学推理、逻辑判断等需要多步推导的任务上的表现
90%已验证大型语言模型存在知识截止日期的固有局限，模型只包含训练数据截止日期之前的信息
80%已验证决策模型是一类区别于生成式语言模型的专用架构，核心目标是对给定输入输出结构化判断结果而非生成自然语言文本
75%已验证大型语言模型服务的每一次推理都需要消耗大量GPU算力，容量规划难度远超普通应用
75%已验证大语言模型在数学推理、定理证明和形式化验证方面展现出越来越强的能力
75%已验证RAG（检索增强生成）是一种结合信息检索与生成式大模型的架构范式，模型生成答案前先根据用户查询从外部知识库检索最相关的文档片段，再将其作为上下文注入模型
70%已验证安全对齐通过 RLHF、Constitutional AI 等训练方法使大语言模型遵循人类价值观和安全准则，主流商业模型内置输入过滤层、输出监控层及权重层面的价值约束
70%已验证研究发现模型生成的思维链推理与其实际内部计算过程并不完全对应，可能给出与真实决策路径无关的事后解释
70%已验证模型的每次调用会同时消耗输入token（提示词和上下文）与输出token（模型生成的回复），两者通常分别计价
65%已验证大语言模型通过统计模式学习生成文本，无法从机制上保证逻辑无误
65%已验证上下文窗口是当前大语言模型的根本限制之一，模型单次推理只能处理有限数量的 token
65%已验证由于大语言模型基于概率采样，即便指令写在上下文中，模型仍可能在复杂推理链中遗忘或跳过某些指令，这被称为指令遵循的不稳定性
65%已验证大型语言模型基于逐词预测下一个最可能出现的token生成内容，而非从事实数据库中检索答案
65%已验证大语言模型本质上是一个基于概率的文本预测系统，其核心机制是「下一个词预测」（Next Token Prediction），并不真正理解语义
65%待验证批评者质疑AI的突破究竟是真正的数学推理还是对训练数据中已有解法的高级检索与重组
70%待验证大型语言模型能够自动化分析恶意代码、生成漏洞利用脚本、模拟社会工程学攻击话术，将原本需要高技能黑客数小时完成的工作压缩至分钟级别
70%待验证大型语言模型的训练语料可能包含未正式发表的学术预印本、研究笔记等，引发数据污染问题
60%待验证大型语言模型在面对政治选举、候选人评价等话题时，通常会触发内置的安全对齐机制。
50%待验证在序列化微调大型语言模型时，全参数微调几乎必然导致原有能力的显著退化。
50%待验证在大模型场景中，典型的多层防御包括：训练阶段的对齐微调与红队测试、推理阶段的输入过滤与提示词加固、输出阶段的毒性分类器与内容审查、以及部署后的运行时监控与异常行为检测。
50%