所以我正处于下一步做什么的十字路口,我开始学习并在一个复杂的数据集上应用一些机器学习算法,现在我已经做到了。我从一开始的计划就是将两个可能的分类器结合起来,试图建立一个多分类系统。
但这是我卡住的地方。我选择了一个聚类算法(模糊 C 均值)(在学习了一些 K 均值样本之后)和朴素贝叶斯作为 MCS(多分类器系统)的两个候选者。
我可以独立使用两者来对数据进行分类,但我正在努力以一种有意义的方式将两者结合起来。
例如,模糊聚类捕获了几乎所有的“蓝精灵”攻击,除了通常一个,我不知道为什么它没有捕获这个奇怪的球,但我只知道它没有。其中一个集群将受到蓝精灵攻击的支配,通常我会在其他集群中找到一个蓝精灵。这就是我遇到问题场景的地方,如果我在所有不同的攻击类型(Smurf、正常、海王星......等)上训练贝叶斯分类器并将其应用于其余集群以试图找到最后一个剩下的smurf就会有很高的误报率。
我不知道如何进行,我不想将其他攻击从训练集中剔除,但我只想训练贝叶斯分类器来发现“蓝精灵”攻击。目前它被训练去尝试发现一切,在这个过程中,我认为(不确定)准确性下降了。
所以这是我在使用朴素贝叶斯分类器时的问题,你如何让它只寻找蓝精灵并将其他一切归类为“其他”。
rows = 1000;
columns = 6;
indX = randperm( size(fulldata,1) );
indX = indX(1:rows)';
data = fulldata(indX, indY)
indX1 = randperm( size(fulldata,1) );
indX1 = indX1(1:rows)';
%% apply normalization method to every cell
%data = zscore(data);
training_data = data;
target_class = labels(indX,:)
class = classify(test_data,training_data, target_class, 'diaglinear')
confusionmat(target_class,class)
我在想的是手动将target_class
所有正常的流量和攻击都从 smurf 更改为other。然后,正如我已经知道 FCM 正确分类了除一次 smurf 攻击之外的所有攻击一样,我只需要在剩余的集群上使用朴素贝叶斯分类器。
例如:
集群 1 = 500 次 smurf 攻击(重复此步骤可能会将 smurf 攻击的“大多数”从 1000 个样本转移到不同的集群中,因此我必须检查或迭代集群以获得最大的大小,一旦发现我可以将其从朴素贝叶斯分类器阶段)
然后我在每个剩余的集群上测试分类器(不确定如何在 matlab 中执行循环等),所以目前我必须在处理过程中手动选择它们。
clusters = 4;
CM = colormap(jet(clusters));
options(1) = 12.0;
options(2) = 1000;
options(3) = 1e-10;
options(4) = 0;
[~,y] = max(U);
[centers, U, objFun] = fcm(data, clusters, options); % cluster 1000 sample data rows
training_data = newTrainingData(indX1,indY); % this is the numeric data
test_data = fulldata(indX(y==2),:); % this is cluster 2 from the FCM phase which will be classified.
test_class = labels(indX(y==2),:); % thanks to amro this helps the confusion matrix give an unbiased error detection rate in the confusion matrix.
target_class = labels(indX,:) % this is labels for the training_data, it only contains the smurf attacks while everything else is classed as other
class = classify(test_data,training_data, target_class, 'diaglinear')
confusionmat(test_class,class)
然后,我对剩余的每个集群重复贝叶斯分类器,寻找那个 smurf 攻击。
我的问题是,如果它将“其他”攻击错误分类为 smurf 或找不到剩余的 smurf,会发生什么情况。
我有点迷失在更好的方法上。我正在尝试选择 smurf 攻击与“其他”攻击的良好比例,因为我不想过度拟合,这在前面的问题中已经解释过。
但这将花费我一些时间,因为我还不知道如何在 matlab 中将现有标签从 neptune、back、ipsweep、wareclient 攻击更改/替换为“其他”,所以我还不能测试这个理论(将到达那里) .
所以我的问题是:
1) 有没有更好的方法来发现一个难以捉摸的蓝精灵攻击。
2)我怎样才能grep target_class(标签)用“其他”替换所有不是蓝精灵的东西