When does more regularization imply fewer degrees of freedom? Sufficient conditions and counterexamples
更强正则化何时意味着更少自由度？充分条件与反例AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要讨论通用正则化与自由度理论，未限定为所列经济计量领域的具体模型或应用。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
更强正则化何时意味着更少自由度？充分条件与反例
- 研究问题
- 正则化增强是否必然减少有效自由度，哪些常见模型会出现反例，又在哪些设定及比较基准下能够保证自由度下降？
- 方法与思路
- 作者构造涉及 lasso 与岭回归的反例，并讨论对称线性平滑器及凸约束线性回归中自由度减少的保证条件。
- 材料陈述的贡献
- 摘要称正则化可能同时增加训练误差与自由度；同时指出两类可保证下降的情形，其中凸约束模型以无约束线性回归为基准。
- 阅读关注点
- 应核对自由度的定义、正则化路径与无约束基准比较的区别，以及反例成立的设定和充分条件覆盖的具体范围。
- 阅读边界
- 仅据 OpenAlex 索引摘要，稿件版本未注明；摘要未展示反例构造，不能据此断言正则化通常无益，或把相对无约束模型的结论用于路径单调性。
原文摘要
Regularization aims to improve prediction performance by trading an increase in training error for better agreement between training and prediction errors, which is often captured through decreased degrees of freedom. In this paper we give examples which show that regularization can increase the degrees of freedom in common models, including the lasso and ridge regression. In such situations, both training error and degrees of freedom increase, making the regularization inherently without merit. Two important scenarios are described where the expected reduction in degrees of freedom is guaranteed: all symmetric linear smoothers and convex constrained linear regression models like ridge regression and the lasso, when compared to unconstrained linear regression.