苏州专门网站/线下推广有哪几种渠道
《老饼讲解机器学习》
http://ml.bbbdata.com/teach#100
目录
一.决策树数据提取代码
二. 例子解说
1.提取树结构
2.提取节点信息
用sklearn建好决策树后，可以打印出树的结构：
但往往我们提取图中的数据（例如用于将决策树转化成规则代码），那图中的数据究竟在哪呢？
本文讲述如何在sklearn训练好决策树后，提取决策树中的数据。
一.决策树数据提取代码
决策树的结构主要由如下代码提取：
左节点编号 : clf.tree_.children_left
右节点编号 : clf.tree_.children_right
分割的变量 : clf.tree_.feature
分割的阈值 : clf.tree_.threshold
不纯度(gini) : clf.tree_.impurity
样本个数 : clf.tree_.n_node_samples
样本分布 : clf.tree_.value
二. 例子解说
直接用例子说明
代码：
# -*- coding: utf-8 -*-
from sklearn.datasets import load_iris
from sklearn import tree
import graphviz
#----------------数据准备----------------------------
iris = load_iris() # 加载数据
#---------------模型训练---------------------------------
clf = tree.DecisionTreeClassifier(random_state=0,max_depth=3)
clf = clf.fit(iris.data, iris.target)
#---------------树结构可视化-----------------------------
dot_data = tree.export_graphviz(clf)
graph = graphviz.Source(dot_data)
graph # 需要独立运行
#---------------提取模型结构数据--------------------------
children_left = clf.tree_.children_left # 左节点编号
children_right = clf.tree_.children_right # 右节点编号
feature = clf.tree_.feature # 分割的变量
threshold = clf.tree_.threshold # 分割阈值
impurity = clf.tree_.impurity # 不纯度(gini)
n_node_samples = clf.tree_.n_node_samples # 样本个数
value = clf.tree_.value # 样本分布#-------------打印------------------------------
print("children_left:",children_left)
print("children_right:",children_right)
print("feature:",feature)
print("threshold:",threshold)
print("impurity:",impurity)
print("n_node_samples:",n_node_samples)
print("value:",value)运行结果：
children_left : [ 1 -1 3 4 -1 -1 7 -1 -1]
children_right: [ 2 -1 6 5 -1 -1 8 -1 -1]
feature : [ 3 -2 3 2 -2 -2 2 -2 -2]
threshold : [ 0.80000001 -2. 1.75 4.95000005 -2. -2. 4.85000014 -2. -2.]
impurity : [0.66666667 0. 0.5 0.16803841 0.04079861 0.44444444 0.04253308 0.44444444 0. ]
n_node_samples: [150 50 100 54 48 6 46 3 43]
value : [[[50. 50. 50.]][[50. 0. 0.]] [[ 0. 50. 50.]] [[ 0. 49. 5.]] [[ 0. 47. 1.]] [[ 0. 2. 4.]] [[ 0. 1. 45.]] [[ 0. 1. 2.]] [[ 0. 0. 43.]]]1.提取树结构
树结构主要靠children_left和children_right ，它们记录了左右节点编号
children_left[0] 代表 第0(根节点)个节点的左节点编号为1，同理，右节点编号为 children_right[0] = 2，
左节点1和节点2的子节点去哪找呢，直接代入 children_left和 children_right即可：
左节点1的子节点编号： 左子节点 children_left[1] = -1，右子节点children_right[1] =-1, -1代表没有子节点(即叶子节点)。
右节点2的子节点编号： 左子节点 children_left[2] = 3，右子节点children_right[2] = 6 。
....
如此类推，即知树结构。
备注： 借助图与输出值对比，比较容易理解
2.提取节点信息
第0个节点的信息：
分割变量 ：feature[0] = 3
分割阈值 ：threshold[0] =0.8
不纯度(gini系数) ：impurity[0] = 0.66666667
样本个数 ：n_node_samples[0] = 150
样本分布 ：value[0] = [50 50 50]第1个节点的信息：
分割变量 ：feature[1]= -2 (叶子节点,该值没意义)
分割阈值 ：threshold[1] = -2 (叶子节点,该值没意义)
不纯度(gini系数) ：impurity[1]= 0
样本个数 ：n_node_samples[1] = 50
样本分布 ：value[1]= [50 0 0]
......
......
如此类推即可。
备注：sklearn并没有直接存决策树的类别(概率)预测值，我们需要借助 样本分布value：样本最多的一类即预测类，样本占比即预测概率。
相关文章
《深入浅出:决策树入门简介》
《一个简单的决策树分类例子》
《sklearn决策树结果可视化》
《sklearn决策树参数详解》