Heuristics of instability and stabilization in model selection
模型选择中不稳定性与稳定化的启发式分析AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要讨论通用回归模型选择，未明确涉及时间序列预测、即时预测或金融收益预测。
反馈分类问题正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
模型选择中不稳定性与稳定化的启发式分析
- 研究问题
- 训练数据的微小变化若造成候选预测序列大幅变化，会怎样增加实际模型选择相对理想最优选择的预测损失？
- 方法与思路
- 作者在简单情形中作解析分析，并模拟比较四种线性回归方法；通过反复扰动数据、重新拟合并平均预测序列进行稳定化。
- 材料陈述的贡献
- 摘要称，不稳定程序在所分析情形中产生较大预测损失，而对扰动后得到的多组预测序列进行平均可以实现稳定化。
- 阅读关注点
- 应核对不稳定性和预测损失的定义、复杂度参数与选择规则，以及扰动方式、平均步骤和四种回归方法的比较设置。
- 阅读边界
- 仅依据所给OpenAlex摘要；分析和模拟不能支持所有模型的普遍结论，摘要未给出稳定化幅度、计算代价或适用条件。
原文摘要
In model selection, usually a "best" predictor is chosen from a collection ${\hat{\mu}(\cdot, s)}$ of predictors where $\hat{\mu}(\cdot, s)$ is the minimum least-squares predictor in a collection $\mathsf{U}_s$ of predictors. Here s is a complexity parameter; that is, the smaller s, the lower dimensional/smoother the models in $\mathsf{U}_s$. If $\mathsf{L}$ is the data used to derive the sequence ${\hat{\mu}(\cdot, s)}$, the procedure is called unstable if a small change in $\mathsf{L}$ can cause large changes in ${\hat{\mu}(\cdot, s)}$. With a crystal ball, one could pick the predictor in ${\hat{\mu}(\cdot, s)}$ having minimum prediction error. Without prescience, one uses test sets, cross-validation and so forth. The difference in prediction error between the crystal ball selection and the statistician's choice we call predictive loss. For an unstable procedure the predictive loss is large. This is shown by some analytics in a simple case and by simulation results in a more complex comparison of four different linear regression methods. Unstable procedures can be stabilized by perturbing the data, getting a new predictor sequence ${\hat{\mu'}(\cdot, s)}$ and then averaging over many such predictor sequences.