公司
Zyphra
AI研究公司,专注于大语言模型研究与开发,定位为相对开放的AI实验室
时间轴 (近 90 天)
11月2日
ZHA(Hierarchical Attention)由 Zyphra 提出,使用递归压缩的树状索引器,使总成本随序列长度亚线性增长,从而实现整体亚二次但超线性的注意力复杂度。
待验证50%
10月14日
Zamba2(Zyphra)的设计是 Mamba-2 骨干加每隔 N 层插入的共享权重注意力块。
待验证50%
9月17日
Barron Millich是Zyphra的CTO
待验证50%