模型
nanochat
一个用于研究和教学的小型对话语言模型,常被用作从头训练实验的基线模型
时间轴 (近 90 天)
10月23日
在 nanochat、Llama 和 GPT-2 系列模型上从头训练验证了低比特 n-gram 表的有效性。
待验证50%
8月29日
一位开发者跟随Karpathy的nanochat项目,用约750美元预算从零训练了3个不同版本共9个检查点的LLM,参数量从353M到672M
待验证50%
一个用于研究和教学的小型对话语言模型,常被用作从头训练实验的基线模型
在 nanochat、Llama 和 GPT-2 系列模型上从头训练验证了低比特 n-gram 表的有效性。
一位开发者跟随Karpathy的nanochat项目,用约750美元预算从零训练了3个不同版本共9个检查点的LLM,参数量从353M到672M