回归算法常用于股票预测、房价预测等线性增长的问题场景。
梯度提升回归树
| Wiki 标记 |
|---|
{html}<div style="border-bottom: 0.5px solid #dfe1e5;color:#2D5C8C;padding-bottom: 0.5px;font-size: 24px; height: 5px;"> </div>{html} |
概述
梯度提升回归树是梯度提升树算法，原理是训练多棵回归树，每棵树建立是基于前一课树的残差，基函数为CART树，损失函数为平方损失函数的回归算法。
...
参数名称 | 值 | 说明 |
|---|---|---|
归一化 | 正则化 | 详情请参考 归一化 介绍说明。 |
标准化 | ||
最小最大值归一化 | ||
最大绝对值归一化 | ||
分裂特征的数量 | 取值范围：>=2的整数； 默认值：32。 | 对连续类型特征进行离散时的分箱数； 该值越大，模型会计算更多连续型特征分裂点且会找到更好的分裂点，但同时也会增加模型的计算量； |
树的深度 | 取值范围：[1,30]的整数；默认值为4。 | 当模型达到该深度时停止分裂； 树的深度越大，模型训练的准确度更高，但同时也会增加模型的计算量且会导致过拟合； |
计算信息增益的方式 | gini | 裂分标准，Entropy表示熵值，Gini表示基尼指数； |
entropy |
线性回归
| Wiki 标记 |
|---|
{html}<div style="border-bottom: 0.5px solid #dfe1e5;color:#2D5C8C;padding-bottom: 0.5px;font-size: 24px; height: 5px;"> </div>{html} |
概述
一种常用的回归方法，它是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计方法，通过凸优化的方法进行求解，以达到预测评估的效果。
...
