A Selective Overview of Deep Learning
深度学习的选择性综述AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
本页为预印本版本；arXiv 收录、作者填写的期刊信息以及作者既有发表经历，都不单独证明本篇已接收。作者发表记录按 OpenAlex 身份与完整姓名、本站覆盖期刊 ISSN 及正式卷期核对，只展示已核实例，档案仍可能误合并。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要属于通用深度学习与统计理论综述，未明确对应所列计量领域细分。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
深度学习的选择性综述
- 研究问题
- 深度学习如何利用多层非线性函数刻画输入与标签的复杂关系，其深度、过参数化与理论基础相较经典方法有哪些特点？
- 方法与思路
- 作者从统计视角介绍卷积网络、循环网络和生成对抗网络，以及随机梯度下降、随机失活和批归一化等训练技术。
- 材料陈述的贡献
- 摘要称综述梳理了深度与过参数化的实践和理论益处，并选介近期理论成果，旨在为进一步的统计研究提供问题与视角。
- 阅读关注点
- 阅读时应区分不同网络和训练技术对应的理论结论，核对深度、过参数化益处的适用条件，以及哪些结果仍仅具启发性。
- 阅读边界
- 所据为 arXiv 预印本，不能据此认定同行评审或期刊接收；摘要也承认理论理解尚不完整，未提供各项结论的条件与证明。
原文摘要
Deep learning has arguably achieved tremendous success in recent years. In simple words, deep learning uses the composition of many nonlinear functions to model the complex dependency between input features and labels. While neural networks have a long history, recent advances have greatly improved their performance in computer vision, natural language processing, etc. From the statistical and scientific perspective, it is natural to ask: What is deep learning? What are the new characteristics of deep learning, compared with classical methods? What are the theoretical foundations of deep learning? To answer these questions, we introduce common neural network models (e.g., convolutional neural nets, recurrent neural nets, generative adversarial nets) and training techniques (e.g., stochastic gradient descent, dropout, batch normalization) from a statistical point of view. Along the way, we highlight new characteristics of deep learning (including depth and over-parametrization) and explain their practical and theoretical benefits. We also sample recent results on theories of deep learning, many of which are only suggestive. While a complete understanding of deep learning remains elusive, we hope that our perspectives and discussions serve as a stimulus for new statistical research.