概念Ape-X DQN / Distributed Prioritized Experience Replay
Ape-X
DeepMind提出的分布式强化学习架构,使用大量Actor并行采集经验写入共享优先经验回放池,由单一Learner集中更新参数,完全放弃同步梯度,天然避免参数覆盖问题
时间轴 (近 90 天)
10月8日
IMPALA、Ape-X等架构是采样与训练解耦模式的代表性实现,在Atari等任务上相比单机同步训练可实现数十倍吞吐量提升
待验证50%
9月26日
Actor-Learner解耦是分布式强化学习中常见思路,A3C、IMPALA、Ape-X等架构都基于此理念
待验证50%
9月26日
Ape-X完全放弃同步梯度,依赖共享的优先经验回放池来解耦采集与学习
待验证50%