AdaExploreBench：LLM智能体主动探索与环境自适应基准

大型语言模型（LLM）智能体正被越来越多地部署到陌生且动态变化的环境中，它们需要主动探索、理解并适应环境动态。然而，现有基准很少测试智能体能否主动发现环境运作方式，并在环境演化时做出调整。针对这一空白，研究者推出了 AdaExploreBench——一个用于评估 evolving 环境中主动探索与测试时适应能力的基准。

为什么需要新的基准？

当前 LLM 智能体在工具调用、多步推理等任务上表现亮眼，但这些任务往往假设环境规则是静态且已知的。真实场景中，环境可能隐藏着未公开的规则，甚至规则会随时间漂移。AdaExploreBench 将环境动态实例化为隐藏规则，要求智能体主动获取证据并推断规则。在隐式规则漂移下，潜在规则会在不发出通知的情况下发生变化，智能体必须从性能下降中检测到先验知识已过时，并重新探索。

基准设计：隐藏规则与规则漂移

AdaExploreBench 的核心设计围绕两个挑战展开：

• 主动证据获取：智能体不能被动等待信息，而需要设计探索策略来收集足够证据，以推断出隐藏规则。
• 隐式规则漂移检测：当环境规则在无公告的情况下改变时，智能体需要从任务表现的退化中识别出旧知识失效，并触发重新探索。

这种设计更贴近真实部署场景，例如 API 行为变更、用户偏好迁移或系统策略更新。

校准准确率（calibrated accuracy）是评估智能体在不确定性下决策质量的关键指标。它不仅考察智能体最终答案是否正确，还衡量其置信度是否与真实正确概率相匹配——一个总是给出高置信度但经常出错的智能体，校准准确率会很低。在 AdaExploreBench 这类隐藏规则场景中，智能体需要在探索过程中逐步更新对规则的后验信念，校准准确率能有效反映其是否“知道自己知道什么”，从而区分盲目猜测与基于证据的可靠推断。

规则漂移（rule drift）指环境底层决策规则随时间发生非显式变化的现象。与概念漂移类似，它要求学习系统检测分布变化并触发模型更新。在 LLM 智能体语境下，规则漂移的难点在于变化是隐式的：没有通知或显式信号，智能体只能通过任务成功率下降等间接线索推断旧规则已失效。这涉及变化检测（change detection）与遗忘机制——智能体必须主动降低过时知识的权重，重新探索以建立新规则。

八款前沿模型的表现

实验覆盖了八款领先的 LLM。结果显示，主动且自适应的探索仍然具有挑战性：GPT-6 Sol 仅达到 61.9% 的校准准确率。当提供充足证据或移除规则漂移时，平均性能显著提升近 10%。这一对比揭示了一个关键瓶颈：当前 LLM 智能体在获得有效证据后往往能有效推理，但它们难以主动获取正确的证据，也难以识别先前获取的证据何时不再有效。

这一发现与近期关于智能体“被动推理强、主动探索弱”的讨论相互印证。据该基准论文的分析，性能提升主要来自证据可得性的改善，而非模型推理能力的差异，说明瓶颈更多存在于探索策略与元认知层面。

对智能体开发的启示

AdaExploreBench 的结果提示开发者，在构建面向动态环境的智能体时，需要重视以下能力：

1. 探索策略的显式设计：不能假设智能体会自然学会高效探索，可能需要引入内在奖励或信息增益驱动的探索机制。
2. 漂移检测与遗忘机制：智能体需要监控自身表现，并在检测到性能下降时主动丢弃过时知识。
3. 测试时适应的训练信号：如何在部署阶段持续学习而不灾难性遗忘，仍是开放问题。

该基准为评估和诊断这些能力提供了标准化测试床，有望推动更鲁棒的 LLM 智能体研究。

内在奖励（intrinsic reward）是强化学习中驱动探索的经典机制，指不来自环境外部任务奖励、而由智能体内部生成的奖励信号，常见形式包括新奇度奖励、预测误差奖励和信息增益奖励。在 LLM 智能体探索场景中，内在奖励可以鼓励智能体访问信息量大的状态或执行能减少规则不确定性的动作，从而缓解“被动等待证据”的倾向。

灾难性遗忘（catastrophic forgetting）指神经网络在学习新任务或新数据时，迅速丢失先前已学知识的现象。在测试时适应（test-time adaptation）场景下，智能体需要在部署阶段根据新证据持续更新行为，同时保留仍然有效的旧规则。若更新过于激进，可能将依然成立的规则一并覆盖；若过于保守，则无法适应漂移。这一权衡是 AdaExploreBench 所揭示瓶颈的重要成因之一。