Transfer Learning for Benign Overfitting in High-Dimensional Linear Regression
高维线性回归中良性过拟合的迁移学习AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要聚焦高维线性回归的迁移学习与良性过拟合理论，属于机器学习与高维统计交叉方向，未涉及所给微观、宏观或金融计量细分领域的文本依据。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
高维线性回归中良性过拟合的迁移学习
- 研究问题
- 研究问题：在高维线性回归中，迁移学习与最小ℓ2范数插值器（MNI）所体现的良性过拟合如何结合；在何种条件下利用异质源数据能改善目标任务的超额风险。
- 方法与思路
- 方法思路：作者提出两步式 Transfer MNI 方法，刻画其非渐近超额风险，并给出其优于仅用目标数据 MNI 的条件；进一步提出数据驱动的信息源识别程序与多源集成方法。
- 材料陈述的贡献
- 摘要所述贡献：刻画 Transfer MNI 的非渐近超额风险与权衡，识别出可免费获益的协变量漂移情形，并提出检测信息源的数据驱动流程与集成方法，有限样本实验称其对模型与数据异质性稳健。
- 阅读关注点
- 阅读时应核对：两步法的具体构造与正则化设定、超额风险界所依赖的假设、优于目标-only MNI 的条件是否可检验、信息源检测与集成的算法细节及实验设计。
- 阅读边界
- 摘要信息的边界：仅凭摘要无法判断定理假设的合理性、界的紧致性、检测程序的错误率保证与实验可比性；该文为 arXiv 预印本，未经同行评审验证。
原文摘要
Transfer learning is a key component of modern machine learning, enhancing the performance of target tasks by leveraging diverse data sources. Simultaneously, overparameterized models such as the minimum-$\ell_2$-norm interpolator (MNI) in high-dimensional linear regression have garnered significant attention for their remarkable generalization capabilities, a property known as benign overfitting. Despite their individual importance, the intersection of transfer learning and MNI remains largely unexplored. Our research bridges this gap by proposing a novel two-step Transfer MNI approach and analyzing its trade-offs. We characterize its non-asymptotic excess risk and identify conditions under which it outperforms the target-only MNI. Our analysis reveals free-lunch covariate shift regimes, where leveraging heterogeneous data yields the benefit of knowledge transfer at limited cost. To operationalize our findings, we develop a data-driven procedure to detect informative sources and introduce an ensemble method incorporating multiple informative Transfer MNIs. Finite-sample experiments demonstrate the robustness of our methods to model and data heterogeneity, confirming their advantage.