模型
Perceiver Resampler
一种可学习的视觉token重采样模块,通过引入一组可训练query和交叉注意力机制,将任意数量的视觉token压缩成固定数量的输出token,需要额外训练。
时间轴 (近 90 天)
9月10日
视觉嵌入向量与文本嵌入向量的对齐通常通过投影层完成,常见实现包括线性层、MLP、Q-Former(如BLIP-2采用)或Perceiver Resampler(如Flamingo采用)
待验证50%
9月5日
Flamingo由DeepMind于2022年提出,使用Perceiver Resampler和交叉注意力层实现视觉与语言的深度融合
待验证50%