大语言模型
核心事实
RAG的核心思想是在大模型生成回答前,先从外部知识库检索相关信息作为上下文注入提示词
'Hallucination' refers to large language models generating plausible-sounding but factually incorrect content with high confidence
Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
时间轴 (近 90 天)
现代大语言模型经过人类反馈强化学习调优后,其输出在风格、用词和节奏上已高度贴近人类,尤其在短文本中可供判别的信号极为有限,分布重叠严重。
创作者每次调用模型生成内容前应自问方向是主动选择还是模型和平台共同塑造的默认路径。
模型输出的是统计上最可能的合理延续,而非基于意图或理解的表达。
长期以模型输出为起点或模板,创作者的判断标准可能从'这表达了我真正想说的'滑向'这看起来像模型会生成的好内容'。
AI 续写/扩写功能的输出在局部通顺,但跨章节的风格一致性与人物声音稳定性难以保证,需要作者逐段筛选改写。
自动化数据叙事直到大模型具备长文本组织能力后才真正具备产品化条件。
大语言模型能够流畅复述推导,导致陈述性知识的稀缺性迅速下降,获取成本被大幅摊薄。
当前主流的大语言模型本质上是符号与文本模式的处理器,缺乏对物理空间的直接感知与操作经验。
训练成本、推理成本、能耗以及部署门槛都会随参数规模上升。
更大的参数量通常意味着更强的知识容量和推理潜力,在基准测试和复杂任务中更容易取得优势。
还有 40 条时间轴事件
全部知识事实 (20)
RAG的核心思想是在大模型生成回答前,先从外部知识库检索相关信息作为上下文注入提示词
90%已验证'Hallucination' refers to large language models generating plausible-sounding but factually incorrect content with high confidence
90%已验证Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
90%已验证推理模型在需要多步逻辑推导的信息综合任务中表现更优,但延迟更高,需根据任务特性合理选用
90%已验证Function Calling(Tool Use)是大模型调用外部工具的标准化机制,开发者预先声明工具名称、描述和参数Schema,模型自主判断何时调用
90%已验证Agent具备规划、工具调用、记忆与自主迭代的能力,区别于传统大语言模型的单次问答模式
90%已验证检索增强生成(RAG)通过引入实时网络搜索并附上引用来源来锚定事实,但其效果受搜索结果质量、文档解析准确率、模型理解能力等环节影响
90%已验证大语言模型并不真正理解情感,而是识别出文体的典型模式进行模式匹配
90%已验证工具调用(Function Calling)机制允许模型在推理过程中调用外部工具,如文件读写、终端命令、搜索 API
90%已验证大语言模型的上下文窗口决定了模型在单次推理中能处理的信息量上限
90%已验证生成式AI是指能够根据输入提示自动生成文本、图像、代码等内容的人工智能系统
90%已验证Prompt注入(Prompt Injection)是针对大语言模型应用的安全威胁,攻击者通过在输入中嵌入恶意指令试图覆盖系统原有行为约束
90%已验证推理时计算扩展(Test-time Compute Scaling)通过在推理阶段投入更多计算资源来提升模型性能,研究表明在某些任务上比单纯增大模型参数更加高效
90%已验证训练一个顶级大模型的成本已达数亿美元级别
90%已验证现代大语言模型通常经历预训练、监督微调(SFT)和基于人类反馈的强化学习(RLHF)三个训练阶段
90%已验证AI幻觉的根源在于LLM的生成机制:模型本质上是在做下一个token的概率预测,优化的是语言的连贯性而非事实的准确性
90%已验证大语言模型基于Transformer架构,通过海量文本数据训练而成
90%已验证LLM存在'Lost in the Middle'现象,即模型对上下文开头和结尾的信息关注度高,而对中间部分的信息容易忽略
90%已验证同一个AI模型面对不同质量的提示词,输出效果可能存在数量级的差异
90%已验证2023年以来随着大语言模型能力的提升,AI智能体从学术概念迅速走向实际产品落地
90%