[控场AI]
模型

text-embedding-ada-002

OpenAI 推出的文本嵌入模型,将文本映射到高维连续向量空间,用于语义搜索、相似度计算等任务,是最常用的商业 Embedding 模型之一。

核心事实

时间轴 (近 90 天)

10月29日

嵌入模型是将离散输入映射为稠密向量的神经网络模型,代表有OpenAI的text-embedding-ada-002、Voyage AI的voyage系列,以及开源的BGE、E5、GTE等。

待验证50%
10月12日

不同模型(如 GPT-4、GPT-3.5、text-embedding-ada-002)使用的是不同的 tokenizer,同一段文本在不同模型下的 token 数量可能不同。

待验证50%
10月7日

嵌入相似度方法将文档和概念描述编码为高维向量,通过余弦相似度等度量判断语义接近程度,依赖预训练句子编码器如Sentence-BERT、text-embedding-ada-002

待验证50%
10月7日

常用嵌入模型包括OpenAI的text-embedding-ada-002和可本地运行的sentence-transformers

待验证50%
10月5日

cl100k_base 是 GPT-4 和 text-embedding-ada-002 等模型采用的具体词表

待验证50%

全部知识事实 (11)

已验证

OpenAI 的 text-embedding-3-small 模型会将文本转换为 1536 维的浮点数数组

80%
已验证

OpenAI的text-embedding-ada-002和开源的BGE系列是常用的Embedding模型

80%
已验证

Embedding模型本质上是Encoder-only Transformer架构,代表为BERT及其变体,通过对比学习或掩码语言模型任务预训练

65%
待验证

知识库检索中,文档分段后每个文本块通过嵌入模型(如text-embedding-ada-002或BGE系列)转换为高维向量存储在向量数据库中

90%
待验证

OpenAI的text-embedding-ada-002和开源的sentence-transformers系列是常用的嵌入模型

60%
待验证

现代Embedding模型(如OpenAI的text-embedding-ada-002、阿里的千问Embedding系列)能够将整个句子或段落编码为固定维度的稠密向量,通常为768维或1024维

60%
待验证

嵌入模型是将离散输入映射为稠密向量的神经网络模型,代表有OpenAI的text-embedding-ada-002、Voyage AI的voyage系列,以及开源的BGE、E5、GTE等。

50%
待验证

不同模型(如 GPT-4、GPT-3.5、text-embedding-ada-002)使用的是不同的 tokenizer,同一段文本在不同模型下的 token 数量可能不同。

50%
待验证

嵌入相似度方法将文档和概念描述编码为高维向量,通过余弦相似度等度量判断语义接近程度,依赖预训练句子编码器如Sentence-BERT、text-embedding-ada-002

50%
待验证

常用嵌入模型包括OpenAI的text-embedding-ada-002和可本地运行的sentence-transformers

50%
待验证

cl100k_base 是 GPT-4 和 text-embedding-ada-002 等模型采用的具体词表

50%

来源文章