Concept流形约束超连接 / Manifold Constraint
流形约束
流形约束是一种在机器学习与优化领域中,将模型参数或数据表示限定在特定几何流形(如球面、正交群、黎曼流形)上的正则化技术。其核心思想是利用流形的几何结构对参数空间施加约束,从而减少优化自由度、缓解梯度消失或爆炸问题,提升深层网络的训练稳定性与泛化能力。广泛应用于深度学习、表示学习及优化算法设计中。
Source Articles
DeepSeek V4 Deep Technical Breakdown: Million-Token Context and Extreme Cost EfficiencyJun 2DeepSeek V4 Coding Test: Top-Ranked Kimi Fails, Claude Remains the StrongestMay 23DeepSeek V4 Deep Dive: Three Major Innovations — Hybrid Attention, Manifold-Constrained Hyperconnections, and MOM Optimizer Fully ExplainedMay 23