现在学习深度学习感觉遇到了瓶颈，怎么做梯度下降，什么是回归，什么是偏导数，这些基本概念都不清楚，连深度学习中的参数都没法调试。
下面参考网易云课堂中的 《人工智能数学基础》微专业，列举所需的数学知识如下：
1. 【网易云】 AI数学基础石头
第1章 高等数学
- 1.1 导数和偏导数
- 1.2 梯度向量
- 1.3 极值定理
- 1.4 Jacobbi矩阵
- 1.5 Hessian矩阵
- 1.6 泰勒展开公式
- 1.7 拉格朗日乘数法
第2章 线性代数
- 2.1 向量及其运算
- 2.2 范数
- 2.3 矩阵及其运算
- 2.4 逆矩阵
- 2.5 二次型
- 2.6 矩阵的正定性
- 2.7 矩阵的特征值与特征向量
- 2.8 矩阵的奇异值分解
第3章 概率论
- 3.1 概率、随机事件和随机变量
- 3.2 条件概率与贝叶斯公式
- 3.3 常用的概率分布
- 3.4 随机变量的均值和方差、协方差
- 3.5 最大似然估计
第4章 最优化
- 4.1 凸集、凸函数
- 4.2 凸优化问题的标准形式
- 4.3 线性规划问题
2. 【网易云】 优化论初步
第一章 优化迭代法统一论
- 1.0 本微专业概述
- 1.1 线性回归建模
- 1.2 无约束优化梯度分析法（上）
- 1.3 无约束优化梯度分析法（下）
- 1.4 无约束迭代法
- 1.5 线性回归求解
- 1.6 案例分析
第二章 深度学习反向传播
- 2.1 回归与分类、神经网络
- 2.2 BP算法（上）
- 2.3 BP算法（下）
- 2.4 计算图
3. 【网易云】 优化论进阶
第一章 凸优化基础
- 1.1 一般优化问题
- 1.2 凸集和凸函数基础（上）
- 1.3 凸集和凸函数基础（下）
- 1.4 凸优化问题
- 1.5 案例分析
第二章 凸优化进阶之对偶理论
- 2.1 凸优化问题
- 2.2 对偶（上）
- 2.3 对偶（下）
- 2.4 问题案例
第三章 SVM
- 3.1 问题案例
- 3.2 SVM 建模
- 3.3 SVM 求解
- 3.4 SVM 扩展，附案例
4. 【网易云】 数据降维的艺术
第一章 矩阵分析上篇
- 1.1 矩阵与张量
- 1.2 可逆矩阵
- 1.3 线性相关
- 1.4 子空间
- 1.5 范数
- 1.6 特殊矩阵和特征分解
- 案例：PCA 数据降维
第二章 矩阵分析下篇
- 2.1 SVD
- 2.2 SVD 与特征分解关系
- 2.3 图像压缩
- 2.4 伪逆
- 2.5 迹与行列式
- 案例：SVD 对图像进行压缩
5. 【网易云】 统计推断的魅力
第一章 概率统计上篇
- 1.1 事件
- 1.2 随机变量
- 1.3 概率与条件概率
- 1.4 贝叶斯定理
- 1.5 朴素贝叶斯
- 1.6 期望、方差、协方差
- 1.7 最大似然、最大后验
- 案例：垃圾邮件过滤
第二章 概率统计中篇
- 2.1 常见分布总结
- 2.2 最大似然与贝叶斯的关系
- 2.3 熵与互信息
- 案例：最大似然估计
第三章 概率统计下篇
- 3.1 以 GMM 为例的统计建模
- 3.2 EM 算法
- 案例：GMM 实践