Spectral asymptotics of neural network Jacobians: Convergency, universality, and phase transition
神经网络雅可比矩阵的谱渐近：收敛、普适性与相变AI 解读 ↓
← 返回论文列表与筛选
阅读说明
本页整理公开书目信息，不生成学术质量评分。AI 解读根据题名及所注明的摘要或原文片段生成，未完成全文核验，可能有误；具体假设、证明与结论请核对原文。摘要保留来源文本，未经模型改写。
DOI 首次登记不等于接收或发表日期。部分更正、评论等条目没有独立摘要；缺少可靠材料时保留待补状态。
引用量采用 OpenAlex 单条关联记录，不合计多个记录；关联记录可能包含正式发表版本，不等于此版本单独引用。缺失不视为零，引用指标不代表论文质量。
关注作者按书目中的完整姓名匹配，同名和姓名变体需人工辨别。相关论文先按共享细分方向和具体方法排列，再参考通用方法与发表日期。
分类依据与纠错
AI 根据所提供的论文材料归类：摘要研究神经网络与随机矩阵谱理论，缺少对应所列经济计量细分领域的直接证据。
反馈分类问题
正在核对关联版本…
代码、数据与补充材料
正在核对对应版本的资源…
关注这篇论文的作者
神经网络雅可比矩阵的谱渐近：收敛、普适性与相变
- 研究问题
- 神经网络雅可比矩阵的极限谱与二阶波动如何受权重初始化、层宽、激活函数和网络深度影响？
- 方法与思路
- 作者使用随机矩阵理论先分析非线性协方差矩阵族，再刻画雅可比矩阵的极限谱分布、谱波动及相关普适性。
- 材料陈述的贡献
- 摘要称研究揭示权重分布相关的普适性与激活函数驱动的谱相变，并为有限宽度稳定性诊断提供分布校准。
- 阅读关注点
- 应核对网络结构与渐近尺度、权重和激活函数条件、二阶波动的归一化，以及相变和有限宽度校准的具体含义。
- 阅读边界
- 仅据所给 Crossref 摘要；具体定理条件、相变边界和校准精度未说明，不能将谱结论直接推广为训练性能保证。
原文摘要
We study the spectral properties of the Jacobian matrix in artificial neural networks and establish both its limiting spectral distribution and the second-order fluctuations of its spectrum. Our analysis uncovers fundamental phenomena, including universality properties with respect to the weight distribution and a phase transition in spectral behavior driven by the choice of activation function. Leveraging tools from random matrix theory, we first analyze a class of nonlinear covariance ensembles, which may be of independent interest in high-dimensional statistics, and subsequently characterize the spectral fluctuations of the Jacobian matrix, highlighting their dependence on weight initialization, layer widths, activation functions and network depth. These findings provide finite-width distributional calibration for Jacobian-based stability diagnostics and quantify initialization-induced uncertainty in signal propagation, gradient stability and local sensitivity of high-dimensional neural networks.