待验证50% 置信事实精确时间

Universal Transformer于2018年提出，将同一个Transformer块反复应用于输入序列

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

DiffusionBlocks：逐块训练神经网络，内存降低数倍的新方法

rss2026/5/27

相关事实

待验证Transformer于2017年提出后被快速引入时序预测领域76% 相似待验证Switch Transformer于2021年提出，将每次路由的专家数量精简为175% 相似待验证Transformers库的前身名为pytorch-pretrained-bert，于2018年前后发布74% 相似已验证Transformer架构于2017年提出，已在很大程度上取代了RNN在NLP领域的地位71% 相似已验证谷歌2021年发布的Switch Transformer将MoE大规模应用于Transformer语言模型，将模型容量扩展至万亿参数级别69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/42797

API

curl https://kongchang.com/api/v1/knowledge/claims/42797

MCP

get_claim(id=42797)