[控场AI]
模型text-embedding-3-small

text-embedding-3-small

OpenAI发布的第三代小型文本Embedding模型,相比ada-002在语义区分度上有所提升,噪声地板更低

核心事实

时间轴 (近 90 天)

10月20日

通过第三方中继网关测试,text-embedding-3-small 的平均嵌入生成时间为 127ms,比数据库写入更慢。

待验证50%
10月19日

HotKV 的缓存机制先做精确匹配(对标准化后的问题、模型标识和系统提示词版本做 SHA-256 哈希),再做语义匹配(使用 OpenAI text-embedding-3-small 生成向量,余弦相似度超过阈值即命中),均未命中才调用模型并写回缓存。

待验证50%
10月15日

在LLM前加一层基于embedding的语义缓存,余弦相似度阈值设为0.92且模型一致时直接返回缓存结果,约30%的重复用户查询命中缓存,整体支出再降约20%。

待验证50%
10月15日

OpenAI text-embedding-3-small定价为0.02美元/百万token,5亿token的初始语料库一次性嵌入花费10美元,月度刷新约1美元,每次查询嵌入成本约0.000001美元。

待验证50%
10月15日

不同模型的嵌入不可比较,所以要在每个块旁边存储模型名称和维度;1536维对应OpenAI text-embedding-3-small的默认输出长度。

待验证50%
10月15日

OpenAI的text-embedding-3-small等Embedding模型按调用量计费,其使用成本低于更贵的模型,但检索效果存在明显差距。

待验证50%
10月15日

在AI FAQ场景中,RAG通常分为离线与在线两阶段:离线阶段将FAQ文档切分为chunk,通过embedding模型转为向量后存入向量数据库;在线阶段将用户问题向量化,用余弦相似度召回top-k段落,再交由LLM合成答案

待验证50%
10月5日

主流嵌入模型如 OpenAI text-embedding-3-small、BGE系列轻量版本通常在100M–500M参数量级

待验证50%
10月2日

嵌入模型(如 text-embedding-3-small/large、text-embedding-004)与负责对话的 LLM 是两个独立的模型

待验证50%
9月12日

Embedding 模型(如 BGE、text-embedding-3-small)相比 LLM 体量小得多,通常可跑在 CPU 或低规格 GPU 上,推理耗时在毫秒级

待验证50%

还有 5 条时间轴事件

全部知识事实 (16)

已验证

OpenAI 的 text-embedding-3-small 模型会将文本转换为 1536 维的浮点数数组

80%
已验证

Embedding是将文本转换为高维数值向量的过程,语义相近的文本在向量空间中距离更近

80%
待验证

通过第三方中继网关测试,text-embedding-3-small 的平均嵌入生成时间为 127ms,比数据库写入更慢。

50%
待验证

HotKV 的缓存机制先做精确匹配(对标准化后的问题、模型标识和系统提示词版本做 SHA-256 哈希),再做语义匹配(使用 OpenAI text-embedding-3-small 生成向量,余弦相似度超过阈值即命中),均未命中才调用模型并写回缓存。

50%
待验证

在LLM前加一层基于embedding的语义缓存,余弦相似度阈值设为0.92且模型一致时直接返回缓存结果,约30%的重复用户查询命中缓存,整体支出再降约20%。

50%
待验证

OpenAI text-embedding-3-small定价为0.02美元/百万token,5亿token的初始语料库一次性嵌入花费10美元,月度刷新约1美元,每次查询嵌入成本约0.000001美元。

50%
待验证

不同模型的嵌入不可比较,所以要在每个块旁边存储模型名称和维度;1536维对应OpenAI text-embedding-3-small的默认输出长度。

50%
待验证

OpenAI的text-embedding-3-small等Embedding模型按调用量计费,其使用成本低于更贵的模型,但检索效果存在明显差距。

50%
待验证

在AI FAQ场景中,RAG通常分为离线与在线两阶段:离线阶段将FAQ文档切分为chunk,通过embedding模型转为向量后存入向量数据库;在线阶段将用户问题向量化,用余弦相似度召回top-k段落,再交由LLM合成答案

50%
待验证

主流嵌入模型如 OpenAI text-embedding-3-small、BGE系列轻量版本通常在100M–500M参数量级

50%
待验证

嵌入模型(如 text-embedding-3-small/large、text-embedding-004)与负责对话的 LLM 是两个独立的模型

50%
待验证

Embedding 模型(如 BGE、text-embedding-3-small)相比 LLM 体量小得多,通常可跑在 CPU 或低规格 GPU 上,推理耗时在毫秒级

50%
待验证

本地可运行的 sentence-transformers 系列模型(如 all-MiniLM-L6-v2)能完全离线工作,而 OpenAI 的 text-embedding-3-small 等云端模型精度较高但需要联网

50%
待验证

RAG 管道中文档通过嵌入模型转换为高维向量表示,通常为 768 至 3072 维

50%
待验证

OpenAI 的 text-embedding-3-small 输出 1536 维向量,嵌入向量维度通常在 384 到 1536 之间

50%
待验证

text-embedding-3-small的向量维度为1536维,BGE-small为384维

50%

来源文章