非线性回归是回归分析的一种形式，其中数据被拟合到一个模型中，然后表示为一个数学函数。简单线性回归将两个变量（X和Y）与一条直线（Y=mx+b）相关联，而非线性回归将两个变量以非线性（曲线）关系相关联。

该模型的目标是使平方和尽可能小。平方和是一种度量，它跟踪Y观测值与用于预测Y的非线性（曲线）函数之间的变化程度。

它的计算方法是首先找出拟合的非线性函数与数据集中每个Y点之间的差值。然后，每一个差异都是平方的。最后，所有的平方数字相加。这些平方数字之和越小，函数就越适合集合中的数据点。非线性回归使用对数函数、三角函数、指数函数、幂函数、洛伦兹曲线、高斯函数和其他拟合方法。

关键要点

• 线性回归和非线性回归都可以预测X变量的Y响应。
• 非线性回归是X变量（或多个变量）的曲线函数，用于预测Y变量
• 非线性回归可以预测人口随时间的增长。

非线性回归建模类似于线性回归建模，两者都试图从一组变量图形化地跟踪特定的响应。非线性模型比线性模型要复杂得多，因为函数是通过一系列的近似（迭代）建立的，这些近似（迭代）可能来自于反复试验。数学家使用了几种已建立的方法，如高斯-牛顿法和列文伯格-马夸特法。

通常，初次出现非线性的回归模型实际上是线性的。曲线估计过程可以用来识别数据中函数关系的性质，因此您可以选择正确的回归模型，无论是线性还是非线性。线性回归模型虽然通常形成直线，但也可以根据线性回归方程的形式形成曲线。同样，也可以用代数来变换非线性方程，以便模拟线性方程，这样的非线性方程被称为“本质线性”

线性回归 用一条直线把两个变量联系起来；非线性回归用曲线把变量联系起来。

非线性回归实例

非线性回归的一个例子是预测人口随时间增长。随着时间的推移，人口数据的散射图表明，时间与人口增长之间似乎存在着某种关系，但它是一个非线性关系，需要使用非线性回归模型。logistic人口增长模型可以提供未测量时期的人口估计，以及对未来人口增长的预测。

非线性回归中的自变量和因变量应该是定量的。分类变量，如居住地区或宗教，应编码为二进制变量或其他类型的定量变量。

为了从非线性回归模型中获得准确的结果，您应该确保指定的函数准确地描述自变量和因变量之间的关系。良好的起始值也是必要的。较差的起始值可能会导致模型无法收敛，或者即使为模型指定了正确的函数形式，解决方案也只能是局部最优的，而不是全局最优的。