[控场AI]
概念语义分块器

SemanticChunker

一种文档分块策略实现,按Markdown标题层级和段落语义进行切分,控制token数量并保留重叠窗口,同时将header_path存入元数据以保留上下文信息

时间轴 (近 90 天)

10月12日

SemanticChunker按Markdown标题层级切分文档,保留header_path元数据,每个分块带50 token重叠。

待验证50%
10月12日

在文档摄入中,使用语义分块(先按Markdown标题层级切分,再按段落聚合,控制token不超过512,保留50 token重叠)能保留header_path元数据,提升检索质量。

待验证50%
9月23日

LangChain的SemanticChunker和LlamaIndex的SemanticSplitterNodeParser提供了开箱即用的语义切割实现

待验证50%

全部知识事实 (3)

来源文章