[控场AI]
模型

Perceiver Resampler

一种可学习的视觉token重采样模块,通过引入一组可训练query和交叉注意力机制,将任意数量的视觉token压缩成固定数量的输出token,需要额外训练。

时间轴 (近 90 天)

9月10日

视觉嵌入向量与文本嵌入向量的对齐通常通过投影层完成,常见实现包括线性层、MLP、Q-Former(如BLIP-2采用)或Perceiver Resampler(如Flamingo采用)

待验证50%
9月5日

Flamingo由DeepMind于2022年提出,使用Perceiver Resampler和交叉注意力层实现视觉与语言的深度融合

待验证50%

全部知识事实 (2)

来源文章