待验证50% 置信事实精确时间

GPT-2的355M版本使用16个注意力头，每个头的维度为64

1

来源数

50%

置信度

长期有效

时效性

2026/7/15

首次发现

来源

GPT-2微调实验：355M小模型实现88%函数调用成功率

相关事实

待验证GPT-2的词表规模约5万，GPT-2 small架构为12层、每层12个注意力头78% 相似已验证GPT-2有四个规格：117M、345M、762M和1.5B参数73% 相似已验证GPT-3.5的向量维度为12288维72% 相似待验证GPT-2（355M）在混合精度（FP16）下微调显存占用约2-4GB，单卡T4即可完成全流程71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/518724

API

curl https://kongchang.com/api/v1/knowledge/claims/518724

MCP

get_claim(id=518724)