回归算法的学习路径

在学习回归算法过程中,一路遇到不少问题,数学和算法方面的基础薄弱,因此采用的策略是深度优先的学习方法,从头到脚看算法,遇到不懂的概念就跳转如相关概念或算法的学习。

1.线性回归基本算法思想

2.正态分布:其中的随机误差符合正态分布

3.极限,导数,方向导数,梯度,梯度下降法求残差最小值;

4.全微分,偏微分,最小二乘法求残差最小值;

5.回归效果的显著性检查F检验:考察各直线对各个变量的拟合程度好坏,是否真正体现了一种线性关系;

6.t统计量和z统计量

6.置信区间,置信度的计算;

7.逻辑回归基本算法思想;

8.logistic 变换函数

9.极大似然估计,对数似然函数

总体下来一个简单的回归算法对初学者也并不轻松,用这样的学习方式开头比较慢,随着基础渐渐稳固,以后的学习效率将会不断提高