Closed-form solutions to some generalized variational inference problems
若干广义变分推断问题的闭式解AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要讨论的是变分推断与散度正则化的测度层面优化理论，属于统计与机器学习理论，未涉及所提供领域细分中的因果推断、面板、离散选择、时间序列、资产定价等主题，故不选择任何细分。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
若干广义变分推断问题的闭式解
- 研究问题
- 摘要称，广义变分推断通常把正则项换成其他散度，但所得测度值优化问题多只在参数化变分族内研究；本文研究无限制的测度层面问题，即在给定先验、损失、正则强度与散度下求最小化目标的最优概率测度。
- 方法与思路
- 作者提出在测度层面直接求解该变分问题：对 f 散度惩罚推导标量逆梯度密度公式与一维对偶恒等式，并处理 KL、Cressie–Read、平方 Hellinger 等例子；对反向 f 散度与混合 KL 惩罚用同一可分积分原理；对密度间 Bregman 散度给出带标量质量乘子的密度空间解；对 r>1 的 Rényi 惩罚给出归一化截断幂刻画与全局最优的阈值方程。
- 材料陈述的贡献
- 摘要称，本文给出多类散度惩罚下无限制变分推断问题的闭式解或刻画，包括 f 散度、反向与混合 KL、Bregman 散度及 Rényi 惩罚，并用有限模型权重公式与简单共轭贝叶斯模型示例说明这些闭式解如何实现、以及与传统解的差异。
- 阅读关注点
- 应核对：各闭式解所需的正则性与可测性条件、解的存在唯一性、阈值方程的解是否唯一、有限模型权重公式的推导细节，以及共轭示例中“与传统解不同”的具体含义与适用范围。
- 阅读边界
- 仅依据摘要，无法判断推导的完整性与正确性，也未说明适用条件、反例或数值表现；摘要未说明是否包含模拟或实证比较。该文为 arXiv 预印本，未经同行评审验证，不能据此声称已被期刊接收。
原文摘要
The Donsker--Varadhan formula characterizes the ordinary Bayesian posterior as the solution of an unrestricted $\mathsf{KL}$-regularized variational problem. Generalized variational inference replaces this regularizer by other divergences, but the resulting measure-valued optimization problem is often studied only after restriction to a parametric variational family. This paper studies the unrestricted measure-level problem. Given a measurable space $(\mathcal{Z},\mathfrak{Z})$, a prior probability measure $P$, a measurable loss $\ell:\mathcal{Z}\to(-\infty,\infty]$, a regularization strength $α>0$, and a divergence $\mathsf{D}(Q\Vert P)$, we seek probability measures in \[ \underset{Q\in\mathcal{P}(\mathcal{Z})}{\mathrm{arg\,min}}\left\{\int_{\mathcal{Z}} \ell\,\mathrm{d}Q+α\mathsf{D}(Q\Vert P)\right\}. \] For $f$-divergence penalties we derive a scalar inverse-gradient density formula and a one-dimensional dual identity; the Kullback--Leibler, Cressie--Read, and squared-Hellinger problems are treated as examples. Reverse $f$-divergences and mixed forward/reverse Kullback--Leibler penalties follow from the same separable integral principle. For Bregman divergences between densities we obtain a density-space solution with a scalar mass multiplier, including least-squares, density-power, and Burg/Itakura--Saito examples. For Rényi penalties of order $r>1$ we derive a normalized truncated-power characterization and a threshold equation for every global optimizer. Finite model-weight formulas and simple conjugate Bayesian model illustrations show how these closed forms are realized in practice and differ from the traditional solutions.