如何评价回归模型

对于回归而言，模型性能的好坏主要体现在拟合的曲线与真实曲线的误差。主要的评价指标包括：拟合优度/R-Squared，校正决定系数(Adjusted R-square)，均方误差（MSE），均方根误差（RMSE），误差平方和(SSE)，平均绝对误差（MAE），平均绝对百分比误差(MAPE)。

1. 均方误差

（Mean Squared Error，MSE）：观测值与真值偏差的平方和与观测次数的比值：

要点：

MSE相当于模型中的损失函数，线性回归过程中尽量让该损失函数最小。

模型之间的对比也可以用它来比较。

MSE可以评价模型的预测精度，MSE的值越小，说明预测模型对于目标的拟合程度越精确。

2. 均方根误差（标准误差）

（Root Mean Squard Error，RMSE）：均方误差的算术平方根。

要点：

均方根误差是用来衡量观测值同真值之间的偏差。

它的意义在于开个根号后，误差的结果就与数据是一个级别的，可以更好地来描述数据。

标准误差对一组测量中的特大或特小误差反映非常敏感（易受异常值的影响），

所以，标准误差能够很好地反映出测量的精密度。这正是标准误差在工程测量中广泛被采用的原因。

3. 平均绝对误差

（Mean Absolute Error，MAE）：平均绝对误差是绝对误差的平均值

4、平均绝对百分比误差(MAPE)

平均绝对百分比误差（Mean Absolute Percentage Error），与RMSE相比，更加鲁棒，因为MAPE对每个点的误差进行了归一化。

5. 拟合优度/R-squared

分子就是我们训练出的模型预测的误差和。

分母就是瞎猜的误差和。（通常取观测值的平均值）

如果结果是0，就说明我们的模型跟瞎猜差不多。

如果结果是1。就说明我们模型无错误。

R 2 介于0~1之间，越接近1，回归拟合效果越好，一般认为超过0.8的模型拟合优度比较高。

化简上面的公式

分子分母同时除以m，那么分子就变成了我们的均方误差MSE，下面分母就变成了方差。

6. 校正决定系数(Adjusted R-square)

其中，n为样本数量，p为特征数量。

取值范围还是负无穷到1，大多是 0~1，且越大越好。