#自监督学习

共 5 篇相关文章

WildMAE 在 MAE 解码器端引入结构感知卷积残差与门控交叉注意力，在 Snapshot Serengeti 数据集 75% 掩码下实现 PSNR 27.90 dB、SSIM 0.840、LPIPS 0.160，优于原始 MAE。本文解读其架构、训练策略与实验局限。

S³-PnP 提出自监督即插即用图像恢复框架，直接从 ADMM 观测中间态学习分数先验，无需干净训练标签或外部预训练权重，在高光谱成像和 MRI 去噪任务上取得一致改进。

深入解析经典论文 Context Encoders，讲解如何通过图像修复（Inpainting）实现自监督特征学习，涵盖编码器-解码器架构、通道级全连接层、重建损失与对抗损失的分工，并附 PyTorch + CelebA 从零复现代码。

一项新研究重新审视3D医学自监督学习中的随机子体采样，提出以解剖感知、信息量和多样性为导向的探针库框架，用轻量线索替代随机裁剪，持续提升下游迁移性能。

研究发现，强化多语言自监督语音模型的语言区分能力，可缩小甚至消除其与单语言模型的性能差距，同时保留跨语言共享优势。基于英语/法语HuBERT实验，验证了辅助语言任务等干预手段的有效性。