2019年9月


撰写于    浏览:900 次  分类: 决策树
提升树模型采用加法模型(基函数的线性组合)与前向分步算法,同时基函数采用决策树算法(对待分类问题采用二叉分类树,对于回归问题采用二叉回归树)。提升树模型可以看作是决策树的加法模型: 其中T()表示决策树,M为树的个数, Θ表示决策树的参数。提升树算法采用前向分部算法,首先确定f0(x) = 0,第m步的模型是:对决策树的参数Θ的确定采用经验风险最小[...]

撰写于    浏览:367 次  分类: 决策树
掌握决策树,我们需要学会如何划分一个决策树, 也有明白修枝的策略,这也是构建决策树很重要的部分。一、决策树为什么要修枝修枝主要解决决策树学习算法中的过拟合问题。比如说,我们要给身高180cm,体重75kg的小明做一件裤子。一般情况下,只要根据小明的身高, 体重, 腰围这三个参数, 就可以做出来一件适合小明穿的裤子,这种裤子和小明同体型的人都可以匹配[...]