泛化
机器学习模型在未见过的数据上做出正确判断的能力，是评估模型性能的核心指标。
核心事实
时间轴 (近 90 天)
在机器学习中，泛化通常指模型对未见数据的预测能力。
深度学习方法将PDE求解流程压缩为定义网络、构造损失、优化训练，但把困难转移到了优化和泛化上，网络结构、激活函数、损失权重、采样策略都需要反复试错，缺乏系统性的设计准则。
监控有效秩可以作为检测模型是否进入泛化阶段的指标，但不能指望通过强制低秩来“催生”顿悟。
人为压低秩并不能加速泛化，反而可能阻碍顿悟。
只记忆而不泛化的网络，有效秩压缩程度要小得多。
逼近不等于泛化：存在一个能拟合训练数据的宽网络，和这个网络能在新数据上表现良好，是两件事。
决定新关系能否泛化的关键不是事实能否被回忆，而是其共享结构在预训练表示中是否容易被线性读出。
反馈分数与留出分数一致率低，本质上是过拟合与泛化差距在agent自我改进场景下的具体体现。
评估模型时通常将数据分为训练集和测试集，用测试集衡量真实的泛化水平。
如果评测样本（包括近似重复样本）出现在训练数据中，分数反映的是记忆能力而非真实技能
还有 3 条时间轴事件
全部知识事实 (14)
当模型训练数据包含评测集题目或高度相似内容时，模型可能通过记忆而非真正理解获得高分
80%已验证评估模型时通常将数据分为训练集和测试集，用测试集衡量真实的泛化水平。
75%已验证训练数据的质量和多样性直接影响模型输出可靠性，包含大量低质量、矛盾或虚假信息的训练数据可能导致模型学习到错误模式
70%已验证如果评测样本（包括近似重复样本）出现在训练数据中，分数反映的是记忆能力而非真实技能
65%待验证在机器学习中，泛化通常指模型对未见数据的预测能力。
50%待验证深度学习方法将PDE求解流程压缩为定义网络、构造损失、优化训练，但把困难转移到了优化和泛化上，网络结构、激活函数、损失权重、采样策略都需要反复试错，缺乏系统性的设计准则。
50%待验证只记忆而不泛化的网络，有效秩压缩程度要小得多。
50%待验证监控有效秩可以作为检测模型是否进入泛化阶段的指标，但不能指望通过强制低秩来“催生”顿悟。
50%待验证人为压低秩并不能加速泛化，反而可能阻碍顿悟。
50%待验证逼近不等于泛化：存在一个能拟合训练数据的宽网络，和这个网络能在新数据上表现良好，是两件事。
50%待验证决定新关系能否泛化的关键不是事实能否被回忆，而是其共享结构在预训练表示中是否容易被线性读出。
50%待验证反馈分数与留出分数一致率低，本质上是过拟合与泛化差距在agent自我改进场景下的具体体现。
50%待验证AI领域对应的核心概念是泛化与分布外推理，模型在训练分布内表现好并不保证能处理训练时未遇到的新型问题
50%待验证过拟合指模型在训练集表现极好但在新数据泛化能力差的现象，在样本量偏小的药学数据集中风险尤为突出
50%