产品
TransformerLens
基于 PyTorch 的 Transformer 可解释性工具库，支持对模型内部激活和注意力进行干预与分析
时间轴 (近 90 天)
8月27日
机制可解释性领域的高质量学习资源包括 TransformerLens 库、ARENA 训练营课程以及大量 arXiv 论文和博客
待验证50%
8月27日
TransformerLens、Baukit等研究工具库大量依赖hook来实现激活缓存、因果干预和激活修补等可解释性分析技术
待验证50%
基于 PyTorch 的 Transformer 可解释性工具库，支持对模型内部激活和注意力进行干预与分析
机制可解释性领域的高质量学习资源包括 TransformerLens 库、ARENA 训练营课程以及大量 arXiv 论文和博客
TransformerLens、Baukit等研究工具库大量依赖hook来实现激活缓存、因果干预和激活修补等可解释性分析技术