Weka开发［7］- ID3源码介绍

这次介绍一下Id3源码，这次用Weka的源码介绍一下。首先Id3是继承于Classifier的：

       public class Id3 extends Classifier

Id3[]成员变量是递归保存树的变量，数据中每一个元素都是当前结点的子结点。

       /** The node's successors. */

    private Id3[] m_Successors;

Attribute是属性类，m_Attribute是分裂属性

    /** Attribute used for splitting. */

    private Attribute m_Attribute;

如果当前结果是叶子结点，m_ClassValue是类别

    /** Class value if node is leaf. */

    private double m_ClassValue;

Distribution表示的是这个结点属于某个类别的概率，如m_Distribution[0] == 0.1表示当前结点属于类别0的概率为0.1

    /** Class distribution if node is leaf. */

    private double[] m_Distribution;

数据集的类别，以前也讲过了

    /** Class attribute of dataset. */

    private Attribute m_ClassAttribute;

 

以前也讲过，继承自Classifier类的类都要实现buildClassifier函数。

public void buildClassifier(Instances data) throws Exception {

 

    // can classifier handle the data?

    getCapabilities().testWithFail(data);

 

    // remove instances with missing class

    data = new Instances(data);

    data.deleteWithMissingClass();

 

    makeTree(data);

}

getCapabilities().testWithFail(data)是判断是否ID3能处理选择的数据集，比如什么连续属性，类别索引没有设置等等。

而data.deleteWithMissingClass则是删除有缺失样本的函数，具体代码如下：

for (int i = 0; i < numInstances(); i++) {

    if (!instance(i).isMissing(attIndex)) {

       newInstances.addElement(instance(i));

    }

}

    m_Instances = newInstances;

简单一点，不用为上面的东西分心，关注makeTree(data)就行了：

// Compute attribute with maximum information gain.

double[] infoGains = new double[data.numAttributes()];

Enumeration attEnum = data.enumerateAttributes();

while (attEnum.hasMoreElements()) {

    Attribute att = (Attribute) attEnum.nextElement();

    infoGains[att.index()] = computeInfoGain(data, att);

}

    m_Attribute = data.attribute(Utils.maxIndex(infoGains));

infoGains保存每个属性的信息增益（IG），枚举每个属性，用computeInfoGain函数计算信息增益值。Util.maxIndex返回信息增益最大的下标，这个属性作为分裂属性保存在m_Attribute成员变量中。

// Make leaf if information gain is zero.

if (Utils.eq(infoGains[m_Attribute.index()], 0)) {

    m_Attribute = null;

    m_Distribution = new double[data.numClasses()];

    Enumeration instEnum = data.enumerateInstances();

    while (instEnum.hasMoreElements()) {

       Instance inst = (Instance) instEnum.nextElement();

       m_Distribution[(int) inst.classValue()]++;

    }

       Utils.normalize(m_Distribution);

       m_ClassValue = Utils.maxIndex(m_Distribution);

       m_ClassAttribute = data.classAttribute();

}

当信息增益等于0时为叶子结点（这为什么再讲，就没完了）。

m_Attribute = null，已经不用再分裂了，所以为null。刚才也说过m_Distribution保存的是当前结点属于类别的概率，所以数组大小于data.numClasses()。枚举当前结点中的每一个样本，inst.classValue()就是inst样本的类别值，请注意不要以为类别都是”good”,”bad”之类的值，而是第一个类别就是0，第二个类别就是1的double型。

m_Distribution[(int) inst.classValue()]++;也就是将每个样本的相应的下标加1，比如当前叶子结点有10个样本，9个属于第一个类别，1个属于第五个类别，则m_Distribution[0]=9,m_Distribution[4]=1。

Utils.normalize(m_Distribution);简单地理解为归一化吧，刚在例子也就是m_Distribution[0]=0.9,m_Distribution[4]=0.1。

       m_ClassValue = Utils.maxIndex(m_Distribution);属于哪个类别的概率最高，那当然就是哪个类别

       m_ClassAtrribute也就是类别属性。

// Otherwise create successors.

else {

    Instances[] splitData = splitData(data, m_Attribute);

    m_Successors = new Id3[m_Attribute.numValues()];

    for (int j = 0; j < m_Attribute.numValues(); j++) {

       m_Successors[j] = new Id3();

       m_Successors[j].makeTree(splitData[j]);

    }

}

如果信息增益不是0那么分裂当前结点，在splitData(data, m_Attribute)函数中，data被分裂成m_Attribute离散值个子结点，比如m_Attribute有三种取值”green”，”red”，”blue”，则splitData将data分成3部分到splitData中。

在例子中当前结点有3个子结点，则m_Attribute.numValues()==3，递归地makeTree。（再讲清楚点，也就是每一个子树都是一个决策树，所以new Id3()）

这里有一个问题，如果在例中，当前结点的green子结点没有样本，那么：

// Check if no instances have reached this node.

if (data.numInstances() == 0) {

    m_Attribute = null;

    m_ClassValue = Instance.missingValue();

    m_Distribution = new double[data.numClasses()];

    return;

}

这就没什么好解释的了。

对于分类一个样本：

if (m_Attribute == null) {

    return m_ClassValue;

} else {

    return m_Successors[(int) instance.value(m_Attribute)]

       .classifyInstance(instance);

}

当然也是递归了，如果已经到达叶子结点了，那直接返回类别值。不是叶子结点，那么根据样本属性值到相应的子结点，再调用classifyInstance(instance)。

 

还有distributionForInstance也差不多，不作解释了：

if (m_Attribute == null) {

    return m_Distribution;

} else {

    return m_Successors[(int) instance.value(m_Attribute)]

           .distributionForInstance(instance);

}

computeInfoGain和computeEntropy两个函数也不解释了，不过还是应该看一下，有时候还能用的着（最重要的其实是，这都不懂，也过份了点吧）。

分裂结点的函数：

private Instances[] splitData(Instances data, Attribute att) {

    Instances[] splitData = new Instances[att.numValues()];

    for (int j = 0; j < att.numValues(); j++) {

       splitData[j] = new Instances(data, data.numInstances());

    }

    Enumeration instEnum = data.enumerateInstances();

    while (instEnum.hasMoreElements()) {

       Instance inst = (Instance) instEnum.nextElement();

       splitData[(int) inst.value(att)].add(inst);

    }

    for (int i = 0; i < splitData.length; i++) {

       splitData[i].compactify();

    }

    return splitData;

}

将data分裂成att.numValues()个子结点，inst.value(att)就是根据inst样本att属性值将inst样本分成相应的子结点中。（确切点，也不是子结点，一个Instances数组元素）