果一个人必须去选择在很大范围的情形下性能都好的、同时不需要应用开发者付出很多的努力并且易于被终端用户理解的分类技术的话，那么Brieman, Friedman, Olshen和Stone（1984）提出的分类树方法是一个强有力的竞争者。我们将首先讨论这个分类的过程，然后在后续的节中我们将展示这个过程是如何被用来预测连续的因变量。Brieman等人用来实现这些过程的程序被称为分类和回归树（CART, Classification and Regression Trees）方法。
分类树
在分类树下面有两个关键的思想。第一个是关于递归地划分自变量空间的想法；第二个想法是用验证数据进行剪枝。
递归划分
让我们用变量y表示因变量（分类变量），用x1, x2, x3,...,xp表示自变量。通过递归的方式把关于变量x的p维空间划分为不重叠的矩形。这个划分是以递归方式完成的。首先，一个自变量被选择，比如xi和xi的一个值si，比方说选择si把p维空间为两部分：一部分是p维的超矩形，其中包含的点都满足xi<=si，另一个p维超矩形包含所有的点满足xi>si。接着，这两部分中的一个部分通过选择一个变量和该变量的划分值以相似的方式被划分。这导致了三个矩形区域（从这里往后我们把超矩形都说成矩形）。随着这个过程的持续，我们得到的矩形越来越小。这个想法是把整个x空间划分为矩形，其中的每个小矩形都尽可能是同构的或“纯”的。“纯”的意思是（矩形）所包含的点都属于同一类。我们认为包含的点都只属于一个类（当然，这不总是可能的，因为经常存在一些属于不同类的点，但这些点的自变量有完全相同的值）。
更多内容参阅：
http://www.core.org.cn/NR/rdonlyres/Sloan-School-of-Management/15-062Data-MiningSpring2003/338F02AD-0DD8-4199-8727-35FCF5A15B57/0/L3ClassTrees.pdf
http://www.cqvip.com/onlineread/onlineread.asp?ID=28180864
相关推荐
10. **CART（分类与回归树）**：CART构建分类和回归树，与C4.5类似，但可以处理连续和分类目标变量，适用于构建可解释性强的模型。 这些算法在数据分析、推荐系统、搜索引擎优化、广告定向、社交网络分析等领域有着...
在数据挖掘领域，CART（Classification and Regression Trees，分类与回归树）是一种广泛应用的算法，它能够处理分类和连续数值预测问题。本压缩包包含的是CART算法的Python源代码实现，对于理解和运用CART算法具有...
CART 算法是分类与回归树的简称。在分类树下面有两个关键的思想：第一个是关于递归地划分自变量空间的想法；第二个想法是用验证数据进行剪枝。 这些经典算法在数据挖掘领域中扮演着非常重要的角色，它们广泛应用于...
大车分类和回归树（CART）C ++实现目录介绍资料格式介绍CART是分类树和回归树的C ++实现，这是DM（数据挖掘）的著名算法。 这是此实现的源代码。资料格式培训和测试数据文件的格式为： ：：...。 。 。 每行包含一个...
CART（Classification and Regression Trees，分类与回归树）是一种决策树学习方法，它能够从数据中构建出用于分类（离散变量）和回归（连续变量）的树状模型。该算法最初在1984年由Leo Breiman、Jerome Friedman、...
数据挖掘十大经典算法之决策树算法 决策树算法是机器学习中的一种常用的分类算法，它可以将复杂的数据关系映射到树形结构中，使得分类变得更加简单和直观。决策树算法的主要思想是将训练数据集分割成不同的子集，每...
CART，Classification and Regression Trees，是一种用于分类和回归的决策树算法。它不仅用于分类任务，还可用于连续数值预测。CART 通过 Gini 指数或基尼不纯度选择最优分裂属性。 这些算法各有特点，适应不同的...
在数据挖掘中，十大经典算法包括关联规则挖掘、决策树、随机森林、K-均值聚类、支持向量机、K-近邻、神经网络、 Gradient Boosting、Naive Bayes、k- Means 等。这些算法可以用于解决不同的数据挖掘问题，如分类、...
5. CART（分类与回归树）：CART是一种同时适用于分类和回归任务的树模型，通过基尼指数或平均平方误差来选择最优分割属性，并生成二叉树结构。 6. Naive Bayes算法：朴素贝叶斯算法基于贝叶斯定理，假设各特征之间...
CART算法，全称为Classification and Regression Tree（分类与回归树），是一种广泛应用的数据挖掘工具，尤其在机器学习领域。MATLAB作为一种强大的编程环境，提供了实现各种算法的便利，包括CART算法。下面将详细...
- **CART算法**：分类与回归树（Classification and Regression Trees），既可以用于分类也可以用于回归任务，使用基尼指数作为特征选择的依据。 ##### 2. 关联规则分类 - **关联规则**：一种用于发现物品集之间...
8. **CART（分类与回归树）**：与C4.5类似，CART可以用于分类和回归任务，但它允许生成分支节点的连续值。 9. **K-Means**：聚类算法，通过迭代寻找使得样本点与所属簇中心距离平方和最小的聚类。K值的设定对结果至...
6. CART（分类与回归树）：CART算法结合了分类和回归，通过递归二分的方式构建树状模型。同时，它还引入了剪枝策略，防止过拟合。 7. KNN（K-最近邻）：KNN是一种懒惰学习方法，它在分类时才计算最近邻，理论成熟，...
ID3、C4.5和CART（分类与回归树）是常见的决策树算法，它们在处理离散和连续型数据时表现出色。 2. **随机森林（Random Forest）**：随机森林是由多个决策树组成的集成学习模型，每个树都基于不同的子集数据生成，...
分类与回归树（CART）是另一种决策树算法，它在构建树的时候使用基尼指数或均方误差等标准，来选择最佳的分割属性，构建出二叉树结构。 数据挖掘是一个不断发展的领域，它与许多其他的技术和领域紧密相关，并且随着...
首先，我们来逐一了解这十大数据挖掘算法： 1. **ID3（Iterative Dichotomiser 3）**：ID3算法是一种决策树构建方法，由Ross Quinlan开发。它通过信息增益度量选择最佳属性进行分类，适用于离散型特征较多的数据集...