HPO

在PPI网络等图数据任务上，超参数优化（HPO）的计算开销通常比模型训练本身还要惊人，其成本是模型训练本身的数倍甚至数十倍。

图数据的不规则结构导致批处理时需要将多个小图拼接或采样子图，这增加了内存访问的碎片化，降低了GPU利用率，是HPO在PPI网络上耗时更长的重要技术原因。

一位研究者在Reddit上分享了他与合作者发表的论文，该论文系统评估了不同HPO策略在PPI网络上的表现，回答如何在有限算力下平衡训练时间与预测精度。

该论文并非提出某个单一的新算法，而是对多种HPO策略进行系统评估，观察它们在同一类PPI网络任务上如何影响训练时间与预测精度的权衡。

HPO预算本身就是超参数，搜索预算（试验次数、每轮训练epoch数、早停策略）直接决定了总计算成本。

研究者在帖子末尾主动邀请从事HPO流水线或图数据深度学习的人交流，说明这类跨领域对话仍有很大空间。

HPO的常见策略包括网格搜索、随机搜索、贝叶斯优化和基于早停的逐次减半（如Hyperband）。