Online Bootstrap Inference For Policy Evaluation In Reinforcement Learning
强化学习策略评估的在线自助法推断AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：这里的策略评估属于强化学习在线推断，摘要没有提供经济政策因果识别或其他所列领域细分的直接依据。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
强化学习策略评估的在线自助法推断
- 研究问题
- 强化学习策略评估中的观测具有马尔可夫依赖时，如何为在线更新得到的参数估计提供可靠的统计推断？
- 方法与思路
- 作者研究在线 bootstrap 在 TD 与 GTD 学习中的应用，将这些算法置于带马尔可夫噪声的线性随机逼近框架。
- 材料陈述的贡献
- 摘要称该方法在策略评估推断中具有分布一致性，并通过多个真实强化学习环境中的数值实验展示算法效果。
- 阅读关注点
- 应核对马尔可夫噪声、学习步长和策略评估目标的条件，以及 bootstrap 如何随在线更新运行并逼近估计量分布。
- 阅读边界
- 仅据版本未注明的索引摘要；摘要未说明依赖条件及覆盖率细节，也未建立该方法对一般策略优化或因果政策评估的适用性。
原文摘要
The recent emergence of reinforcement learning (RL) has created a demand for robust statistical inference methods for the parameter estimates computed using these algorithms. Existing methods for inference in online learning are restricted to settings involving independently sampled observations, while inference methods in RL have so far been limited to the batch setting. The bootstrap is a flexible and efficient approach for statistical inference in online learning algorithms, but its efficacy in settings involving Markov noise, such as RL, has yet to be explored. In this article, we study the use of the online bootstrap method for inference in RL policy evaluation. In particular, we focus on the temporal difference (TD) learning and Gradient TD (GTD) learning algorithms, which are themselves special instances of linear stochastic approximation under Markov noise. The method is shown to be distributionally consistent for statistical inference in policy evaluation, and numerical experiments are included to demonstrate the effectiveness of this algorithm across a range of real RL environments. Supplementary materials for this article are available online.