python机器学习之决策树分类详解

下面是详细讲解“Python机器学习之决策树分类详解”的完整攻略。

1. 什么是决策树分类

决策树分类是一种基于树形结构的分类方法，它通过数据集进行划分，构建一棵决策树来进行分类。决策树分类具有可解释性、易于理解和实现等优点，因此在实际应用中得到了广泛的应用。

2. 决策树分类原理

决策树分类的原理是通过对数据集进行划分，构建一棵决策树来进行分类。具体实现过程如下：

选择最优特征作为根节点。
根据该特征将数据集划分为多个子集。
对每个子集递归地执行步骤1和步骤2，直到所有子集都属于同一类别或无法再划分为止。

3. 实现决策树分类

以下是用Python实现决策树分类的步骤。

3.1 导入库

from sklearn.datasets import load_iris
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

3.2 加载数据集

iris = load_iris()
X = iris.data
y = iris.target

3.3 划分数据集

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

3.4 构建决策树模型

clf = DecisionTreeClassifier()
clf.fit(X_train, y_train)

3.5 预测并评估模型

y_pred = clf.predict(X_test)
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)

4. 示例说明

以下是两个示例说明，分别是使用决策树分类对鸢尾花数据集进行分类和使用决策树分类对手写数字数据集进行分类。

4.1 使用决策树分类对鸢尾花数据集进行分类

以下是一个使用决策树分类对鸢尾花数据集进行分类的示例。

from sklearn.datasets import load_iris
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

iris = load_iris()
X = iris.data
y = iris.target

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

clf = DecisionTreeClassifier()
clf.fit(X_train, y_train)

y_pred = clf.predict(X_test)
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)

输出结果为：

Accuracy: 0.9777777777777777

4.2 使用决策树分类对手写数字数据集进行分类

以下是一个使用决策树分类对手写数字数据集进行分类的示例。

from sklearn.datasets import load_digits
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

digits = load_digits()
X = digits.data
y = digits.target

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

clf = DecisionTreeClassifier()
clf.fit(X_train, y_train)

y_pred = clf.predict(X_test)
accuracy = accuracy_score(y_test, y_pred)
print('Accuracy:', accuracy)