模型OLMo系列
OLMo
艾伦人工智能研究所发布的开源大型语言模型系列,完整公开模型权重、训练数据集(Dolma)、数据处理流程、训练代码及各阶段检查点,是学术界公认最接近真正开源定义的大语言模型项目
核心事实
时间轴 (近 90 天)
10月21日
作者将实验扩展到更长的训练预算、OLMo风格的骨干网络以及稀疏混合专家(MoE)模型,均观察到一致的收益。
待验证50%
10月18日
艾伦研究所在 OLMo 模型卡中声明,OLMo 或任何 LLM 的许多陈述往往不准确,因此事实应该被核实。
待验证50%
9月7日
OLMo(Open Language Model)是Allen Institute for AI(AI2)主导开发的完全开源大语言模型系列,OLMo-3是其第三代版本,训练数据、代码和权重均完全开源
已验证65%