待验证50% 置信事实精确时间

340M 与 1.3B 是参数量级，4K 上下文指训练/评估序列长度为 4096 token。

1

来源数

50%

置信度

长期有效

时效性

2026/10/30

首次发现

来源

ParaTTT：并行化深度记忆的测试时训练层

涉及实体

模型参数量concept 上下文长度concept

相关事实

待验证在M5 Max上运行17GB模型的实际基准测试结果约为31 tokens/秒。69% 相似待验证完整的 340M 模型训练速度快 4.9 倍。69% 相似待验证根据Chinchilla缩放定律，一个30B模型的最优训练数据量约为600B-1T tokens67% 相似待验证2.4万亿参数模型在BF16精度下考虑KV Cache和激活值后实际约需1.4-1.5TB显存67% 相似待验证GPT-3有175B参数、训练300B token，Gopher有280B参数、训练300B token，均属于过参数化欠训练状态65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1114901

API

curl https://kongchang.com/api/v1/knowledge/claims/1114901

MCP

get_claim(id=1114901)