Optimally tackling covariate shift in RKHS-based nonparametric regression
最优应对 RKHS 非参数回归中的协变量偏移AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要研究一般非参数回归的协变量偏移与学习率，没有明确的因果、经济预测或其他给定细分背景。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
最优应对 RKHS 非参数回归中的协变量偏移
- 研究问题
- 当训练来源与目标总体的协变量分布不同，如何在再生核希尔伯特空间回归中实现接近极小极大最优的估计速度？
- 方法与思路
- 作者按来源与目标分布的似然比条件区分问题：有界时调节核岭回归，无界但二阶矩有限时使用截断比率重加权。
- 材料陈述的贡献
- 摘要称两类方法在相应条件下达到相差对数因子的极小极大最优率，并指出朴素经验风险最小化可能严格次优。
- 阅读关注点
- 应核对核特征值条件、正则化与截断水平的选择、似然比信息需求，以及上下界使用的目标风险和函数类。
- 阅读边界
- 版本未注明的索引摘要没有完整条件与实现细节；理论最优率不保证有限样本优势，也不能推广至任意分布偏移。
原文摘要
We study the covariate shift problem in the context of nonparametric regression over a reproducing kernel Hilbert space (RKHS). We focus on two natural families of covariate shift problems defined using the likelihood ratios between the source and target distributions. When the likelihood ratios are uniformly bounded, we prove that the kernel ridge regression (KRR) estimator with a carefully chosen regularization parameter is minimax rate-optimal (up to a log factor) for a large family of RKHSs with regular kernel eigenvalues. Interestingly, KRR does not require full knowledge of the likelihood ratio apart from an upper bound on it. In striking contrast to the standard statistical setting without covariate shift, we also demonstrate that a naïve estimator, which minimizes the empirical risk over the function class, is strictly suboptimal under covariate shift as compared to KRR. We then address the larger class of covariate shift problems where likelihood ratio is possibly unbounded yet has a finite second moment. Here, we propose a reweighted KRR estimator that weights samples based on a careful truncation of the likelihood ratios. Again, we are able to show that this estimator is minimax optimal, up to logarithmic factors.