6

Weka 中使用的多数投票算法是什么。我试图弄清楚它的代码，但无法理解。

4

1 回答 1

14

在 Weka 中，您可以选择多个分类器用于Weka.classifiers.meta.vote. 如果您选择Majority Votingas combinationRule（仅适用于nominal类），则这些分类器中的每一个都将预测测试样本的名义类标签。然后将选择预测最多的标签作为vote分类器的输出。

例如。您选择要使用的以下分类器：trees.J48和bayes.NaiveBayes预测functions.LibSVM天气，可以标记为bad，normal或good。给定一个新的测试样本，这些是他们的预测：

J48        - bad
NaiveBayes - good
LibSVM     - good

每个可能的标签的投票结果如下：

bad    - 1
normal - 0
good   - 2

所以 Weka 的vote分类器将选择good作为测试样本的标签，因为它在所有三个分类器中拥有最多的选票。

- 编辑 -

Weka类distributionForInstanceMajorityVoting的源码中的函数Vote向你展示了多数投票是如何实现的。我添加了下面的功能。以下是它的作用的描述：

代码的工作原理与我上面解释的差不多。测试实例的所有名义类都加载到votes. 每个分类器对实例进行分类，概率最高的标签获得投票。如果多个标签具有相同的概率，则所有这些标签都会获得投票。一旦所有分类器都投了票，投票最多的标签将被选为测试实例的标签。如果多个标签的票数相同，则将随机选择其中一个标签。

protected double[] distributionForInstanceMajorityVoting(Instance instance) throws Exception {

  double[] probs = new double[instance.classAttribute().numValues()];
  double[] votes = new double[probs.length];

  for (int i = 0; i < m_Classifiers.length; i++) {
    probs = getClassifier(i).distributionForInstance(instance);
    int maxIndex = 0;
    for(int j = 0; j<probs.length; j++) {
      if(probs[j] > probs[maxIndex])
        maxIndex = j;
    }

    // Consider the cases when multiple classes happen to have the same probability
    for (int j=0; j<probs.length; j++) {
      if (probs[j] == probs[maxIndex])
        votes[j]++;
    }
  }

  for (int i = 0; i < m_preBuiltClassifiers.size(); i++) {
    probs = m_preBuiltClassifiers.get(i).distributionForInstance(instance);
    int maxIndex = 0;

    for(int j = 0; j<probs.length; j++) {
      if(probs[j] > probs[maxIndex])
        maxIndex = j;
    }

    // Consider the cases when multiple classes happen to have the same probability
    for (int j=0; j<probs.length; j++) {
      if (probs[j] == probs[maxIndex])
        votes[j]++;
    }
  }

  int tmpMajorityIndex = 0;
  for (int k = 1; k < votes.length; k++) {
    if (votes[k] > votes[tmpMajorityIndex])
      tmpMajorityIndex = k;
  }

  // Consider the cases when multiple classes receive the same amount of votes
  Vector<Integer> majorityIndexes = new Vector<Integer>();
  for (int k = 0; k < votes.length; k++) {
    if (votes[k] == votes[tmpMajorityIndex])
      majorityIndexes.add(k);
   }

  // Resolve the ties according to a uniform random distribution
  int majorityIndex = majorityIndexes.get(m_Random.nextInt(majorityIndexes.size()));

  //set probs to 0
  probs = new double[probs.length];

  probs[majorityIndex] = 1; //the class that have been voted the most receives 1

  return probs;
}
于 2012-07-24T09:25:50.260 回答