我有一个多类文本分类/分类问题。我有一组具有K
不同互斥类的地面实况数据。这是一个两方面的不平衡问题。首先,有些课程比其他课程更频繁。其次,我们对某些类别比其他类别更感兴趣(这些类别通常与其相对频率呈正相关,尽管有些类别相当罕见)。
我的目标是开发单个分类器或它们的集合,以便能够以k << K
高精度(至少 80%)对感兴趣的类别进行分类,同时保持合理的召回率(什么是“合理的”有点模糊)。
我使用的特征大多是典型的基于 unigram-/bigram 的特征加上一些来自正在分类的传入文档的元数据的二进制特征(例如,它们是通过电子邮件还是通过网络表单提交的)。
由于数据不平衡,我倾向于为每个重要类开发二元分类器,而不是像多类 SVM 这样的单一分类器。
实现了哪些 ML 学习算法(二进制或非二进制)scikit-learn
允许将训练调整到精度(例如召回或 F1),我需要为此设置哪些选项?
哪些数据分析工具scikit-learn
可用于特征选择,以缩小可能与特定类别的面向精度的分类最相关的特征?
这并不是一个真正的“大数据”问题:K
大约是大约100
,可供我用于训练和测试的样本总数大约是。k
15
100,000
谢谢