0

我有一个多类文本分类/分类问题。我有一组具有K不同互斥类的地面实况数据。这是一个两方面的不平衡问题。首先,有些课程比其他课程更频繁。其次,我们对某些类别比其他类别更感兴趣(这些类别通常与其相对频率呈正相关,尽管有些类别相当罕见)。

我的目标是开发单个分类器或它们的集合,以便能够以k << K高精度(至少 80%)对感兴趣的类别进行分类,同时保持合理的召回率(什么是“合理的”有点模糊)。

我使用的特征大多是典型的基于 unigram-/bigram 的特征加上一些来自正在分类的传入文档的元数据的二进制特征(例如,它们是通过电子邮件还是通过网络表单提交的)。

由于数据不平衡,我倾向于为每个重要类开发二元分类器,而不是像多类 SVM 这样的单一分类器。

实现了哪些 ML 学习算法(二进制或非二进制)scikit-learn允许将训练调整到精度(例如召回或 F1),我需要为此设置哪些选项?

哪些数据分析工具scikit-learn可用于特征选择,以缩小可能与特定类别的面向精度的分类最相关的特征?

这并不是一个真正的“大数据”问题:K大约是大约100,可供我用于训练和测试的样本总数大约是。k15100,000

谢谢

4

1 回答 1

0

鉴于 k 很小,我会手动执行此操作。对于每个所需的类,训练您的个人(一个与其他)分类器,查看精确召回曲线,然后选择提供所需精度的阈值。

于 2015-10-29T15:53:20.130 回答