待验证60% 置信事实精确时间

语义缓存通过将查询转化为向量嵌入并计算余弦相似度识别语义等价的查询，可将实际API调用量减少30%-70%

2

来源数

60%

置信度

长期有效

时效性

2026/7/8

首次发现

来源

Otari：开源LLM控制平面工具全面解析

hackernewshackernews2026/7/6

相关事实

待验证语义缓存通过向量相似度匹配复用历史LLM调用结果，能识别语义相近但表述不同的请求以减少API调用次数78% 相似待验证语义缓存通过将用户请求转化为向量嵌入，在向量空间中计算语义相似度，将语义相近的问题映射到同一缓存结果，从而减少模型调用次数和Token消耗76% 相似已验证前缀缓存通过缓存常见的提示词前缀来减少重复计算，从而提升推理效率74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/273264

API

curl https://kongchang.com/api/v1/knowledge/claims/273264

MCP

get_claim(id=273264)