散点图是一种用于表示成对数据的图形。解释变量沿水平轴绘制，响应变量沿垂直轴绘制。使用这种类型的图形的一个原因是寻找变量之间的关系。​​

在一组成对数据中寻找的最基本模式是直线模式。通过任意两点，我们可以画一条直线。如果我们的散点图中有两个以上的点，大多数时候我们将无法再画一条穿过每个点的线。相反，我们将绘制一条穿过点中间的线，并显示数据的总体线性趋势。

当我们看图表中的点并希望通过这些点画一条线时，一个问题出现了。我们应该划哪条线？可以画出无数条线。通过单独使用我们的眼睛，很明显，每个人在看散点图时都会产生一条稍有不同的线。这种模棱两可是一个问题。我们希望有一个明确的方式让每个人都能获得相同的线路。目标是在数学上精确地描述应该画哪条线。通过我们的数据点，最小二乘回归线就是这样一条线。

最小二乘法

最小二乘线的名称解释了它的作用。我们从坐标为（xi，yi）的点集合开始。任何一条直线都会在这些点之间通过，并且会在每个点的上方或下方。我们可以通过选择一个x值，然后从直线的y坐标中减去与该x相对应的观测y坐标，来计算从这些点到直线的距离。

通过同一组点的不同直线将给出不同的距离。我们希望这些距离尽可能小。但有一个问题。因为我们的距离可以是正的，也可以是负的，所有这些距离的总和将相互抵消。距离之和总是等于零。

这个问题的解决方案是通过平方点和线之间的距离来消除所有负数。这给出了一个非负数的集合。我们的目标是找到一条最佳拟合线，这与使这些平方距离之和尽可能小是一样的。微积分在这里起到了解救作用。微积分中的微分过程可以使距离给定直线的平方距离之和最小化。这就解释了我们名字中的“最小二乘法”一词。

最佳拟合线

因为最小二乘线最小化了直线和点之间的平方距离，我们可以认为这条线最适合我们的数据。这就是为什么最小二乘线也称为最佳拟合线。在所有可能绘制的线中，最小二乘线最接近整个数据集。这可能意味着我们的线将错过数据集中的任何点。

最小二乘线的特征

每一条最小二乘线都有一些特征。第一个有趣的项目是关于我们线路的坡度。斜率与我们数据的相关系数有关。事实上，直线的斜率等于r（sy/sx）。这里sx表示数据的x坐标的标准偏差，sy表示数据的y坐标的标准偏差。相关系数的符号与最小二乘线斜率的符号直接相关。

最小二乘线的另一个特征是它所经过的点。虽然从统计学的角度来看，最小二乘线的y截距可能不有趣，但有一点很有趣。每一条最小二乘线都经过数据的中点。该中点的x坐标是x值的平均值，y坐标是y值的平均值。