模型MoCo / Momentum Contrast
MoCo
Momentum Contrast，一种基于动量对比的自监督视觉学习方法，通过动量更新的编码器实现稳定的对比学习
时间轴 (近 90 天)
11月1日
自监督学习（SSL）的主流方法可归为两类：生成式/重建式（如MLM、MAE）和对比式（如SimCLR、MoCo）。
待验证50%
10月19日
在对比学习（如MoCo）中，记忆库用于存储大量负样本的特征，以在有限批次下计算更稳定的对比损失；SimOPD将其改造为配对形式，同时存储学生生成的响应序列及其对应的教师内部表示。
待验证50%
10月7日
SimCLR、MoCo、CLIP等主流对比学习框架通常以余弦相似度作为度量，隐式地将表示空间固定为超球面上的均匀欧氏几何
待验证50%
9月5日
对比学习（如SimCLR、BYOL、MoCo）依赖数据增强来构造正负样本对，而JEPA不依赖显式的数据增强策略
待验证50%