LDST
一种利用大语言模型从求解器日志提取诊断信息、基于参数语义提出稀疏配置修改并验证执行的自动调优方法,用于替代传统黑盒优化
时间轴 (近 90 天)
研究者提出日志驱动的语义调优(LDST),利用大语言模型(LLM)自动化MIP求解器的配置调优过程。
LDST从求解器日志中提取紧凑的诊断信息,基于参数含义和观察到的求解器行为,由LLM提出对当前最优配置的稀疏修改,并在执行前验证每个提议。
LDST引入机制自适应目标:对于已解决的运行使用求解时间,对于未解决的运行则通过日志中的分支定界树增长记录来估计完成时间。
在来自五个基准集的215个实例上,LDST相较于SMAC3、RBFOpt和随机搜索中的最佳表现,将简单实例的几何平均损失降低了43.9%,中等实例降低了16.7%。
在两个难度区间,LDST仅用10次提议就达到了基线方法用50次提议才能达到的更低损失。
在单个实例上调优得到的LDST配置,在迁移到同一家族的其他未见实例时,表现优于基线配置。
LDST目前仍依赖于LLM的推理质量,且日志诊断的提取方式可能影响最终效果。
全部知识事实 (7)
研究者提出日志驱动的语义调优(LDST),利用大语言模型(LLM)自动化MIP求解器的配置调优过程。
50%待验证LDST从求解器日志中提取紧凑的诊断信息,基于参数含义和观察到的求解器行为,由LLM提出对当前最优配置的稀疏修改,并在执行前验证每个提议。
50%待验证LDST引入机制自适应目标:对于已解决的运行使用求解时间,对于未解决的运行则通过日志中的分支定界树增长记录来估计完成时间。
50%待验证在来自五个基准集的215个实例上,LDST相较于SMAC3、RBFOpt和随机搜索中的最佳表现,将简单实例的几何平均损失降低了43.9%,中等实例降低了16.7%。
50%待验证在两个难度区间,LDST仅用10次提议就达到了基线方法用50次提议才能达到的更低损失。
50%待验证在单个实例上调优得到的LDST配置,在迁移到同一家族的其他未见实例时,表现优于基线配置。
50%待验证LDST目前仍依赖于LLM的推理质量,且日志诊断的提取方式可能影响最终效果。
50%