Ultimate limit on learning non-Markovian behavior: Fisher information rate and excess information
学习非马尔可夫行为的极限：费舍尔信息率与超额信息AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要直接研究随机过程时间序列的参数学习、记忆结构和信息率。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
学习非马尔可夫行为的极限：费舍尔信息率与超额信息
- 研究问题
- 从随机过程的时间序列中学习未知参数时，观测长度如何决定最优推断精度，长期记忆又如何影响信息率及其收敛？
- 方法与思路
- 作者从序列概率的费舍尔信息出发，利用观测诱导的信念状态元动力学，推导信息率闭式表达、方差下界及收敛模式。
- 材料陈述的贡献
- 摘要称结果覆盖无限马尔可夫阶过程，并发现短视信息率与短视熵率向各自极限收敛时具有相同的松弛时间尺度。
- 阅读关注点
- 应核对信息率定义、参数模型的正则条件与下界可达性，尤其检查摘要所称方差随长度平方反比缩放的具体含义和推导。
- 阅读边界
- 这是 arXiv 预印本，同行评审与期刊接收未经核实。摘要未交代闭式公式的适用条件，所述缩放关系须以正文定义和证明核对。
原文摘要
We address the fundamental limits of learning unknown parameters of any stochastic process from time-series data, and discover exact closed-form expressions for how optimal inference scales with observation length. Given a parametrized class of candidate models, the Fisher information of observed sequence probabilities lower-bounds the variance in model estimation from finite data. As sequence-length increases, the minimal variance scales as the square inverse of the length -- with constant coefficient given by the information rate. We discover a simple closed-form expression for this information rate, even in the case of infinite Markov order. We furthermore obtain the exact analytic lower bound on model variance from the observation-induced metadynamic among belief states. We discover ephemeral, exponential, and more general modes of convergence to the asymptotic information rate. Surprisingly, this myopic information rate converges to the asymptotic Fisher information rate with exactly the same relaxation timescales that appear in the myopic entropy rate as it converges to the Shannon entropy rate for the process. We illustrate these results with a sequence of examples that highlight qualitatively distinct features of stochastic processes that shape optimal learning.