HotPOT
HotPOT是一种用于PDE预训练的异构混合专家模型，采用神经-数值专家架构，将可学习预测器与固定数值更新结合，以利用数值格式先验减少跨任务干扰。
时间轴 (近 90 天)
HotPOT采用共享编码器加异构专家的整体结构，每个PDE族对应一个神经-数值专家，其中可学习预测器产生数值更新所需的量，固定数值更新依据这些量计算下一时刻状态。
HotPOT在五个PDE族、六种设置下进行了实验，覆盖微调前后共24组同尺度对比，在所有对比中均优于MoE-POT，rollout误差平均降低50.7%。
17M参数的HotPOT模型超过了规模显著更大的MoE-POT模型。
HotPOT在未见物理条件下的零样本预测上表现出性能增益，表明其学到了可迁移的数值-物理表征而非对训练方程族的过拟合。
HotPOT的代码已在GitHub开源，仓库地址为cruiseresearchgroup/HotPOT-code。
HotPOT的适用边界包括：固定数值更新要求每个PDE族有明确的数值格式可用；对于数值格式尚不成熟或方程形式不确定的问题，异构专家的构建成本会上升；跨更多方程类型的泛化能力仍需后续验证。
HotPOT将方程已知的数值结构作为不可训练的固定组件嵌入专家，让可学习部分专注于数值更新无法直接给出的量，这是一条不同于堆参数、堆数据的预训练改进路径。
全部知识事实 (7)
HotPOT在未见物理条件下的零样本预测上表现出性能增益，表明其学到了可迁移的数值-物理表征而非对训练方程族的过拟合。
50%待验证HotPOT在五个PDE族、六种设置下进行了实验，覆盖微调前后共24组同尺度对比，在所有对比中均优于MoE-POT，rollout误差平均降低50.7%。
50%待验证17M参数的HotPOT模型超过了规模显著更大的MoE-POT模型。
50%待验证HotPOT采用共享编码器加异构专家的整体结构，每个PDE族对应一个神经-数值专家，其中可学习预测器产生数值更新所需的量，固定数值更新依据这些量计算下一时刻状态。
50%待验证HotPOT将方程已知的数值结构作为不可训练的固定组件嵌入专家，让可学习部分专注于数值更新无法直接给出的量，这是一条不同于堆参数、堆数据的预训练改进路径。
50%待验证HotPOT的适用边界包括：固定数值更新要求每个PDE族有明确的数值格式可用；对于数值格式尚不成熟或方程形式不确定的问题，异构专家的构建成本会上升；跨更多方程类型的泛化能力仍需后续验证。
50%待验证HotPOT的代码已在GitHub开源，仓库地址为cruiseresearchgroup/HotPOT-code。
50%