Source-Optimal Training is Transfer-Suboptimal
源任务最优训练在迁移上并非最优AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要内容属于迁移学习与正则化理论，涉及岭回归与实验，未涉及所提供领域细分中的因果推断、面板、时间序列、资产定价等方向，故不选择任何细分。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
源任务最优训练在迁移上并非最优
- 研究问题
- 摘要研究的是：当目标为下游迁移时，把源模型按其自身任务训练到最优是否仍是最优选择；作者在 L2-SP 岭回归框架下考察源侧优化问题。
- 方法与思路
- 作者提出在 L2-SP 岭回归中刻画迁移最优的源正则化强度，将其表示为任务对齐程度的函数，并在各向同性设定下分析迁移是否有益的决定因素；摘要称用合成岭回归实验验证线性预测，并在 MNIST、CIFAR-10 与 20 Newsgroups 上给出实验证据。
- 材料陈述的贡献
- 摘要称证明源任务最优与迁移最优的源正则化一般不一致（除零测集外两者不等），并刻画迁移最优惩罚随任务对齐的变化，指出对齐不完美时迁移受益于更弱的正则化；各向同性情形下迁移是否有益仅取决于任务对齐与源特征，与目标样本量和噪声无关。
- 阅读关注点
- 应核对 L2-SP 岭回归的具体设定与识别假设、τ₀* 与 τ_S* 的推导条件、对齐程度的定义与取值范围、各向同性结论的适用前提，以及非线性实验是否真正支持线性理论预测。
- 阅读边界
- 摘要未说明实验细节、超参数选择与统计不确定性，也未给出完整定理条件；这是 arXiv 预印本，不能据此声称已经同行评审或期刊接收。
原文摘要
We prove that training a source model optimally for its own task is generically suboptimal when the objective is downstream transfer. We study the source-side optimization problem in L2-SP ridge regression and show a fundamental mismatch between the source-optimal and transfer-optimal source regularization: outside of a measure-zero set, $τ_0^* \neq τ_S^*$. We characterize the transfer-optimal source penalty $τ_0^*$ as a function of task alignment and identify an alignment-dependent reversal: with imperfect alignment ($0 1$), transfer benefits from weaker regularization. Additionally, in isotropic settings, the decision of whether transfer helps is independent of the target sample size and noise, depending only on task alignment and source characteristics. We verify the linear predictions in a synthetic ridge regression experiment, and we present experiments on MNIST, CIFAR-10, and 20 Newsgroups as evidence that the source-optimal versus transfer-optimal mismatch persists in standard nonlinear transfer learning pipelines.