Rényi's $α$-divergence variational Bayes for spike-and-slab high-dimensional linear regression
尖峰与厚尾先验高维线性回归的 Rényi α 散度变分贝叶斯方法AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要研究通用稀疏回归和变分算法，没有明确的因果、面板、宏观或金融研究对象。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
尖峰与厚尾先验高维线性回归的 Rényi α 散度变分贝叶斯方法
- 研究问题
- 研究稀疏高维线性回归中的变量选择与系数估计，考察使用 Rényi α 散度替代标准 KL 目标能否适应不同稀疏配置。
- 方法与思路
- 作者使用 spike-and-slab Laplace 先验和均值场近似，以二阶 delta 方法推导坐标上升更新，并基于蒙特卡洛替代下界构造随机变分算法。
- 材料陈述的贡献
- 摘要称，两种方法在模拟中的选择与估计表现可与先进贝叶斯程序相当，不同 α 在不同稀疏配置下各有优势。
- 阅读关注点
- 应核对散度方向、近似更新与替代下界的性质，以及算法收敛和 α 的选择规则；比较模拟中的调参、公平性与计算成本。
- 阅读边界
- 这是 arXiv 预印本，不能据此声称已同行评审或期刊接收；摘要未给出模拟数值或普遍优势保证，近似误差也需核对全文。
原文摘要
Sparse high-dimensional linear regression is a central problem in statistics, where the goal is often variable selection and/or coefficient estimation. We propose a mean-field variational Bayes approximation for sparse regression with spike-and-slab Laplace priors that replaces the standard Kullback-Leibler (KL) divergence objective with the Rényi's $α$ divergence: a one-parameter generalization of KL divergence indexed by $α\in (0, \infty) \setminus \{1\}$ that allows flexibility between zero-forcing and mass-covering behavior. We derive coordinate ascent variational inference (CAVI) updates via a second-order delta method and develop a stochastic variational inference algorithm based on a Monte Carlo surrogate Rényi lower bound. In simulations, our two methods perform comparably to state-of-the-art Bayesian variable selection procedures across a range of sparsity configurations and $α$ values for both variable selection and estimation, and our numerical results illustrate how different choices of $α$ can be advantageous in different sparsity configurations.