线性和多项式回归

在这一简单的模型中,单变量线性回归的任务是建立起单个输入的独立变量与因变量之间的线性关系;而多变量回归则意味着要建立多个独立输入变量与输出变量之间的关系。除此之外,非线性的多项式回归则将输入变量进行一系列非线性组合以建立与输出之间的关系,但这需要拥有输入输出之间关系的一定知识。训练回归算法模型一般使用随机梯度下降法(SGD)。
优点:
建模迅速,对于小数据量、简单的关系很有效;
线性回归模型十分容易理解,有利于决策分析。
缺点:
对于非线性数据或者数据特征间具有相关性多项式回归难以建模;
难以很好地表达高度复杂的数据。
回归树和回归森林

让我们