Contaminated Multi-task Learning with Heterogeneity: Fundamental Limits and Optimal Algorithms
异质性下的受污染多任务学习：基本极限与最优算法AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要讨论多任务与联邦学习中的稳健估计与 minimax 率，属于统计学习与高维估计理论，未涉及所给因果推断、面板、时间序列、资产定价等细分领域的文本依据。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
异质性下的受污染多任务学习：基本极限与最优算法
- 研究问题
- 摘要称，研究在 K 个任务中有一部分任务被任意污染、其余任务存在异质性的情形下，如何同时估计平均风险的全局最小化点与干净任务的个体最小化点，以兼顾稳健性与个性化。
- 方法与思路
- 作者提出受污染多任务经验风险最小化框架，在 Gaussian 均值模型中分析自适应与稳健正则化、全局矩阵正则化、分解式正则化、基于 score 的异常任务检测等范式，并给出一般异质 ERM 的 minimax 下界，进而提出基于过滤的稳健多任务梯度下降算法。
- 材料陈述的贡献
- 摘要称，常见正则化与异常检测方法存在阶为 ε√(d/n) 的最坏污染误差，高于下界 ε/√n，揭示维度相关障碍；所提过滤式梯度下降在局部强凸、光滑与次高斯梯度假设下达到匹配 minimax 率（至对数因子），去除额外 √d 依赖并实现强异质性下的个性化。
- 阅读关注点
- 阅读全文时应核对：污染与异质性的具体模型设定、Gaussian 均值模型与一般 ERM 下界的假设条件、过滤步骤如何识别被污染任务、上界成立的具体参数区间与对数因子、以及模拟与真实数据分析的构造和对比基准。
- 阅读边界
- 仅依据摘要，无法判断定理证明细节、常数与对数因子、算法调参、模拟设计及真实数据结论的稳健性；摘要未说明污染比例 ε 是否已知、任务数 K 与样本量 n 的具体关系，也未给出可复现代码或完整数值结果。该文为 arXiv 预印本，未经同行评审或期刊接收验证。
原文摘要
Integrating information across related tasks can improve estimation and prediction in transfer, multi-task, and federated learning, but contamination and heterogeneity make robust borrowing challenging. We study a contaminated multi-task empirical risk minimization (ERM) framework in which an $ε$ fraction of $K$ tasks, each with sample size $n$, may be arbitrarily contaminated while the remaining tasks are heterogeneous. Our goal is to estimate both the global minimizer of the average risk and the clean task-specific minimizers, thereby combining robustness and personalization. In the Gaussian mean model, we show that several common paradigms, including adaptive and robust regularization around a shared center, global matrix regularization, decomposition-based regularization, and score-based outlier-task detection, all suffer from a worst-case contamination error of order $ε\sqrt{d/n}$, which is suboptimal compared to the lower bound $ε/\sqrt{n}$. This identifies a dimension-dependent barrier for these approaches. We then establish minimax lower bounds for a general heterogeneous ERM setting and propose a computationally efficient filtering-based robust multi-task gradient descent method. Under local strong convexity, smoothness, and sub-Gaussian gradient assumptions, the proposed method attains high-probability upper bounds matching the minimax rates up to logarithmic factors over a broad regime. In particular, it removes the extra $\sqrt{d}$ contamination dependence of many regularization-based methods and score-based outlier detection, while achieving personalization to local tasks under strong heterogeneity. Simulations and a real-data analysis demonstrate strong robustness and personalization relative to a broad range of benchmark methods.