[控场AI]
论文词法提示压缩 / 确定性词法压缩

Lexical Prompt Compression

一篇arXiv论文提出的无训练、无辅助模型的Prompt压缩方案,基于十一种可组合的词法级NLP变换,仅需CPU即可运行,具有完全确定性的压缩结果

时间轴 (近 90 天)

9月15日

该arXiv论文提出了一种不依赖训练、不依赖任何辅助模型、仅靠词法级NLP处理的纯CPU Prompt压缩管线

待验证50%
9月15日

该压缩管线由十一种可独立开关的词法变换组成,包括停用词移除、填充短语删除、缩写与省略形式替换、基于词性的剪枝、词形还原、基于WordNet的同义词缩短和命名实体保留

待验证50%
9月15日

最激进配置的平均token削减率达到40.3%(标准差9.2),此时相对原始Prompt输出的BERTScore-F1为0.876

待验证50%
9月15日

仅停用词移除配置可实现token削减29.6%,BERTScore-F1保持在0.913

待验证50%
9月15日

在激进压缩配置下,常识推理任务表现出系统性的失效模式

待验证50%
9月15日

不同任务对Prompt压缩的耐受度不同,事实性问答或结构化任务对压缩的容忍度高于推理密集型任务

待验证50%
9月15日

命名实体保留机制在压缩过程中显式保护人名、地名、专有名词等核心信息成分

待验证50%
9月15日

压缩强度与输出质量之间存在帕累托前沿权衡关系,更高压缩比需接受一定质量下降

待验证50%
9月15日

作者公开了全部代码、Prompt和逐单元格结果以支持复现

待验证50%

全部知识事实 (9)

来源文章