BGE
由北京智源人工智能研究院开源的文本嵌入模型系列,在多个语义检索基准上表现优异,支持中英双语,是常用的开源 Embedding 模型之一。
核心事实
时间轴 (近 90 天)
嵌入模型是将离散输入映射为稠密向量的神经网络模型,代表有OpenAI的text-embedding-ada-002、Voyage AI的voyage系列,以及开源的BGE、E5、GTE等。
bge-m3等部分后续BGE版本对查询前缀做了简化,但使用bge-large-zh等经典版本时仍需遵守查询端加前缀的要求。
BGE经典版本(如bge-large-zh)的输入上限为512个token。
BGE采用非对称检索训练方式,查询和文档使用不同编码模板;遗漏查询前缀会导致编码分布与训练分布不一致。
使用BGE嵌入模型做检索时,查询端必须添加特定指令前缀,否则相似度打分可能失真,出现无关句子得分高于相关句子的倒挂现象。
常见的中文可用 Embedding 模型包括 OpenAI 的 text-embedding-3、BGE、M3E、通义千问 text-embedding 等。
RAG成本优化杠杆包括:嵌入模型换用本地BGE可省90%以上,向量数据库自托管可省80%,简单查询路由到小模型可省50-80%,高频查询加Redis缓存可省30-60%
BGE和Nomic-Embed等开源Embedding模型无需联网调用即可在普通GPU甚至CPU上运行
即便是经过指令微调或对比学习优化的现代嵌入模型(如BGE、E5),各向异性问题也并未完全消除,只是程度有所改善
主流嵌入模型如 OpenAI text-embedding-3-small、BGE系列轻量版本通常在100M–500M参数量级
还有 11 条时间轴事件
全部知识事实 (20)
OpenAI的text-embedding-ada-002和开源的BGE系列是常用的Embedding模型
80%已验证Embedding是将文本转换为高维数值向量的过程,语义相近的文本在向量空间中距离更近
80%已验证BGE(BAAI General Embedding)是由北京智源人工智能研究院开源的中文嵌入模型
80%已验证OpenAI的text-embedding-ada-002能将文字映射到高维向量空间,语义相近的文本在向量空间中距离更近
65%已验证Embedding模型本质上是Encoder-only Transformer架构,代表为BERT及其变体,通过对比学习或掩码语言模型任务预训练
65%待验证BGE和text-embedding-3是当前可选的向量嵌入(Embedding)模型
90%待验证知识库检索中,文档分段后每个文本块通过嵌入模型(如text-embedding-ada-002或BGE系列)转换为高维向量存储在向量数据库中
90%待验证嵌入模型是将离散输入映射为稠密向量的神经网络模型,代表有OpenAI的text-embedding-ada-002、Voyage AI的voyage系列,以及开源的BGE、E5、GTE等。
50%待验证bge-m3等部分后续BGE版本对查询前缀做了简化,但使用bge-large-zh等经典版本时仍需遵守查询端加前缀的要求。
50%待验证使用BGE嵌入模型做检索时,查询端必须添加特定指令前缀,否则相似度打分可能失真,出现无关句子得分高于相关句子的倒挂现象。
50%待验证BGE采用非对称检索训练方式,查询和文档使用不同编码模板;遗漏查询前缀会导致编码分布与训练分布不一致。
50%待验证BGE经典版本(如bge-large-zh)的输入上限为512个token。
50%待验证常见的中文可用 Embedding 模型包括 OpenAI 的 text-embedding-3、BGE、M3E、通义千问 text-embedding 等。
50%待验证RAG成本优化杠杆包括:嵌入模型换用本地BGE可省90%以上,向量数据库自托管可省80%,简单查询路由到小模型可省50-80%,高频查询加Redis缓存可省30-60%
50%待验证BGE和Nomic-Embed等开源Embedding模型无需联网调用即可在普通GPU甚至CPU上运行
50%待验证即便是经过指令微调或对比学习优化的现代嵌入模型(如BGE、E5),各向异性问题也并未完全消除,只是程度有所改善
50%待验证主流嵌入模型如 OpenAI text-embedding-3-small、BGE系列轻量版本通常在100M–500M参数量级
50%待验证Blender 从 2.8 版本起逐步移除了内置的 Game Engine(BGE),社区主要通过 UPBGE 或将场景导出到 Godot/Unity 等外部引擎来实现游戏逻辑
50%待验证HuggingFace上的BGE系列模型对中文支持更友好,且可本地部署避免数据出境合规风险
50%待验证OpenAI text-embedding、BGE、Jina是可选择的不同Embedding模型
50%