概念语义分块器
SemanticChunker
一种文档分块策略实现,按Markdown标题层级和段落语义进行切分,控制token数量并保留重叠窗口,同时将header_path存入元数据以保留上下文信息
时间轴 (近 90 天)
10月12日
SemanticChunker按Markdown标题层级切分文档,保留header_path元数据,每个分块带50 token重叠。
待验证50%
10月12日
在文档摄入中,使用语义分块(先按Markdown标题层级切分,再按段落聚合,控制token不超过512,保留50 token重叠)能保留header_path元数据,提升检索质量。
待验证50%
9月23日
LangChain的SemanticChunker和LlamaIndex的SemanticSplitterNodeParser提供了开箱即用的语义切割实现
待验证50%