跳到正文
← 返回论文列表与筛选
阅读说明

本页整理公开书目信息,不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成,未完成全文核验,可能有误;具体假设、证明与结论请核对原文。摘要保留来源文本,未经模型改写。

DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要;缺少可靠材料时保留待补状态。

引用量采用 OpenAlex 单条关联记录,不合计多个记录;关联记录可能包含正式发表版本,不等于此版本单独引用。缺失不视为零,引用指标不代表论文质量。

关注作者按书目中的完整姓名匹配,同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列,再参考通用方法与发表日期。

分类依据与纠错

AI 根据所提供的论文材料归类:摘要涉及通用机器学习的核回归泛化,没有金融收益预测或宏观预测的直接应用证据。

反馈分类问题

正在核对关联版本…

代码、数据与补充材料

正在核对对应版本的资源…

关注这篇论文的作者
Tengyuan Liang
Alexander Rakhlin

直接插值:无岭惩罚核回归也能泛化

研究问题
非线性核回归没有显式正则化且完全拟合训练数据时,为何仍可能在测试数据上表现良好,哪些数据特征支持这一现象?
方法与思路
作者研究最小范数插值解,将隐式正则化联系到输入高维性、核函数曲率及数据几何性质,并推导数据依赖误差上界。
材料陈述的贡献
摘要称识别了上述因素共同产生的隐式正则化现象,给出样本外误差上界,并提供 MNIST 数据上的实验支持。
阅读关注点
应核对误差上界的概率保证、维度与样本量关系、谱衰减条件,以及实验如何区分插值能力与样本外表现。
阅读边界
索引摘要未注明稿件版本;具体核函数、数据条件和界的紧致性未说明,不能据此认为无岭惩罚普遍具有良好泛化。

原文摘要

In the absence of explicit regularization, Kernel “Ridgeless” Regression with nonlinear kernels has the potential to fit the training data perfectly. It has been observed empirically, however, that such interpolated solutions can still generalize well on test data. We isolate a phenomenon of implicit regularization for minimum-norm interpolated solutions which is due to a combination of high dimensionality of the input data, curvature of the kernel function and favorable geometric properties of the data such as an eigenvalue decay of the empirical covariance and kernel matrices. In addition to deriving a data-dependent upper bound on the out-of-sample error, we present experimental evidence suggesting that the phenomenon occurs in the MNIST dataset.

笔记与分组
相关领域论文