[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
正交性 / orthogonality
正交约束
一种对神经网络权重矩阵施加行间正交或块正交约束的训练技术,旨在改善优化几何与表示质量,常见于微调场景的研究报告中
来源文章
正交约束对LLM预训练真的有帮助吗?大规模实证研究给出否定答案
11月3日