双向注意力编码器

一种神经网络架构，序列中每个位置在前向计算时可同时看到左右两侧所有上下文，与自回归单向注意力相比信息利用率更高，一次前向计算即可完成，延迟为常数级，适用于分类、匹配等理解型任务