嵌入模型
将文本转化为高维向量表示的模型，是RAG系统实现语义检索的核心组件，通过余弦相似度等算法衡量文本语义相似性
核心事实
时间轴 (近 90 天)
RAG中，嵌入模型的选择直接影响检索质量，换用不同嵌入模型往往需要重新建库。
当标注量只有几十到几百条时，直接训练分类器容易过拟合，可考虑用少量样本做嵌入模型微调或采用k近邻分类。
讨论中用户指出，嵌入模型的质量和领域匹配度会显著影响最终效果。
有标注数据时，嵌入+sklearn通常更优，尤其当标注量足以覆盖任务分布。
嵌入模型只负责表征，参数量更小、推理成本低，且不依赖提示词工程。
嵌入模型是将离散输入映射为稠密向量的神经网络模型，代表有OpenAI的text-embedding-ada-002、Voyage AI的voyage系列，以及开源的BGE、E5、GTE等。
嵌入+sklearn方案比Jev更便宜，且几乎总是显著更准。
该实验使用开源或低成本嵌入模型将输入文本转为向量，再在嵌入之上拟合简单的sklearn模型，并与Jev进行效果和成本对比。
嵌入模型将工具的名称、功能描述、参数说明等拼接后映射为固定维度的向量，任务到来时计算任务向量与各工具向量的余弦相似度即可排序召回。
嵌入模型微调通常采用对比学习框架：将语义相近的样本对作为正例、不相关的作为负例，通过拉近正例距离、推远负例距离来优化检索排序能力。
还有 40 条时间轴事件
全部知识事实 (20)
RAG（检索增强生成）技术架构将文档切片、向量化、存入向量数据库，查询时先检索相关片段再交给模型生成回答
90%已验证向量记忆数据库将历史对话内容转化为高维语义向量，在新对话时以相似度检索方式动态召回相关记忆片段并注入上下文窗口
80%已验证嵌入模型将文本转换为高维向量时，通常生成768维或1536维的浮点数数组
80%已验证向量数据库（如Pinecone、Weaviate、Milvus等）通过嵌入模型将文本转化为高维向量，使用余弦相似度或欧氏距离进行近似最近邻（ANN）搜索
80%已验证向量数据库将文本内容通过嵌入模型（Embedding Model）转化为高维数值向量，检索时通过余弦相似度等算法找出语义最接近的内容
80%已验证RAG教程很少覆盖一个关键问题：分块边界几乎总是错的；当把文档切块并嵌入时，实际上是对哪些上下文属于一起做出假设，这些假设经常不成立。
70%已验证如果RAG流水线返回技术上正确但语境上无用的结果，问题几乎一定出在切块或元数据上，而不是嵌入模型
70%已验证语义缓存机制对相似请求的历史响应进行向量化存储，当语义相似度超过阈值时直接返回缓存结果以降低上游API调用频次与成本
70%已验证向量嵌入是将离散的文本、代码或经验转化为连续高维空间中数值向量的过程，使语义相近内容在向量空间中距离更近
70%已验证长期记忆检索底层依赖向量数据库技术，通过Embedding模型将文本转化为高维向量
70%已验证Embedding是把文本、图像等非结构化数据映射为高维稠密向量的技术。
65%已验证专用小模型的局限在于任务边界模糊、需要跨领域推理或处理未见边缘情况时泛化能力会迅速下降
65%已验证在代码场景中，按函数边界切片比按固定字符数切片能保留更完整的语义单元
65%已验证RAG策略通过向量嵌入将代码片段编码为高维语义向量，在检索时计算查询意图与代码片段的语义相似度以召回相关代码
65%已验证OpenAI的text-embedding-ada-002能将文字映射到高维向量空间，语义相近的文本在向量空间中距离更近
65%已验证嵌入模型通常将文本压缩为768或1536维的稠密向量
65%待验证RAG中，嵌入模型的选择直接影响检索质量，换用不同嵌入模型往往需要重新建库。
50%待验证嵌入+sklearn方案比Jev更便宜，且几乎总是显著更准。
50%待验证该实验使用开源或低成本嵌入模型将输入文本转为向量，再在嵌入之上拟合简单的sklearn模型，并与Jev进行效果和成本对比。
50%待验证嵌入模型是将离散输入映射为稠密向量的神经网络模型，代表有OpenAI的text-embedding-ada-002、Voyage AI的voyage系列，以及开源的BGE、E5、GTE等。
50%