第二讲 Sklearn+numpy实现线性回归预测

第二讲 Sklearn+numpy实现线性回归预测 Sklearn+numpy实现线性回归预测 一 本节课程介绍 1.1 知识点

1、线性回归基本介绍；
2、numpy实现线性回归计算；
3、sklearn实现线性回归拟合；

二 课程内容 2.1 线性回归基本介绍

线性回归是指利用线性方程y=ax+b实现对自变量和因变量之间的关系回归预测，其变量之间是相互独立的，且要求其变量符合正态分布，常用在数据预测上。
举个例子，比如你的智力为10,体力为8，思考灵活度为6，此时考试可以得分85分。那么多个这种数据输入模型，可以使用线性回归预测智力为9，思考灵活度为9，体力为9时的考试得分 。
线性回归又分为一元线性回归和多元线性回归。一元线性回归其方程式为y=wx+b；多元线性回归为y=w1x1+w2x2+w3x3……，其按照矩阵形式可以统一写为y=WTX。其中y和X为变量，即我们需要求解的参数即为W。

2.1.1 最小二乘法求解线性回归

最小二乘法是一种数据拟合方法，其本质是利用最小误差平方来求解数据最佳匹配参数。假设其线性表达式为y=w*x+b，设置其预测值与真实值差值的平方和作为损失值Q，为了使得损失值最小，需要分别对参数W和B求其偏导，最终求得其需求解的公式。
np.linalg.inv(x.T.dot(x)).dot(x.T).dot(y)