[控场AI]
模型

nanochat

一个用于研究和教学的小型对话语言模型,常被用作从头训练实验的基线模型

时间轴 (近 90 天)

10月23日

在 nanochat、Llama 和 GPT-2 系列模型上从头训练验证了低比特 n-gram 表的有效性。

待验证50%
8月29日

一位开发者跟随Karpathy的nanochat项目,用约750美元预算从零训练了3个不同版本共9个检查点的LLM,参数量从353M到672M

待验证50%

全部知识事实 (2)

来源文章