最小二乘法：使平方误差最小。有两种方法：线性和非线性。
线性最小二乘的解存在解析的形式，是closed-form，比较直观，就是等下要推导的……
非线性最小二乘的解没有closed-form，是要通过迭代来求得，比如梯度下降法……
本文主要讨论线性回归模型中最小二乘法线性解法的推导。
参考：Andrew Ng《机器学习》第二集
附：求解过程中用到的一些代数知识（tr表示矩阵的迹，即一个方阵对角线元素之和）
转载请注明原文地址: https://ju.6miu.com/read-195361.html
