1

我正在研究拇指识别系统。我需要实现 KNN 算法来对我的图像进行分类。据此，它只有 2 个测量值，通过它计算找到最近邻居的距离，但在我的情况下，我有 400 个 25 X 42 的图像，其中 200 个用于训练，200 个用于测试。我正在寻找几个小时，但我没有找到找到点之间距离的方法。

编辑：我已将第 200 张图像重新整形为 1 X 1050，并将它们存储在trainingData200 X 1050 的矩阵中。类似地我做了testingData.

4

3 回答 3

7

下面是 k-最近邻分类的说明代码（使用的一些函数需要统计工具箱）：

%# image size
sz = [25,42];

%# training images
numTrain = 200;
trainData = zeros(numTrain,prod(sz));
for i=1:numTrain
    img = imread( sprintf('train/image_%03d.jpg',i) );
    trainData(i,:) = img(:);
end

%# testing images
numTest = 200;
testData = zeros(numTest,prod(sz));
for i=1:numTest
    img = imread( sprintf('test/image_%03d.jpg',i) );
    testData(i,:) = img(:);
end

%# target class (I'm just using random values. Load your actual values instead)
trainClass = randi([1 5], [numTrain 1]);
testClass = randi([1 5], [numTest 1]);

%# compute pairwise distances between each test instance vs. all training data
D = pdist2(testData, trainData, 'euclidean');
[D,idx] = sort(D, 2, 'ascend');

%# K nearest neighbors
K = 5;
D = D(:,1:K);
idx = idx(:,1:K);

%# majority vote
prediction = mode(trainClass(idx),2);

%# performance (confusion matrix and classification error)
C = confusionmat(testClass, prediction);
err = sum(C(:)) - sum(diag(C))
于 2012-06-02T20:50:41.240 回答
2

如果要计算向量和之间的欧几里得距离，只需使用Pythagoras。在 Matlab 中：ab

dist = sqrt(sum((a-b).^2));

但是，您可能希望pdist一次为矩阵中的所有向量组合计算它。

dist = squareform(pdist(myVectors, 'euclidean'));

我将列解释为要分类的实例，将行解释为潜在的邻居。不过这是任意的，您可以切换它们。

如果有一个单独的测试集，您可以计算到训练集中实例的距离pdist2：

dist = pdist2(trainingSet, testSet, 'euclidean')

您可以使用此距离矩阵对向量进行 knn 分类，如下所示。我将生成一些随机数据作为示例，这将导致低（大约机会级别）准确性。但是当然你应该插入你的实际数据，结果可能会更好。

m = rand(nrOfVectors,nrOfFeatures); % random example data
classes = randi(nrOfClasses, 1, nrOfVectors); % random true classes
k = 3;  % number of neighbors to consider, 3 is a common value

d = squareform(pdist(m, 'euclidean')); % distance matrix
[neighborvals, neighborindex] = sort(d,1); % get sorted distances

查看neighborvals和neighborindex矩阵，看看它们是否对您有意义。第一个是先前d矩阵的排序版本，后者给出了相应的实例编号。请注意，自距离（在 中的对角线上d）已浮动到顶部。我们对此不感兴趣（始终为零），因此我们将在下一步中跳过第一行。

assignedClasses = mode(neighborclasses(2:1+k,:),1);

所以我们在 k 个最近邻中分配最常见的类！

您可以将分配的类与实际类进行比较以获得准确度分数：

accuracy = 100 *  sum(classes == assignedClasses)/length(classes);
fprintf('KNN Classifier Accuracy: %.2f%%\n', 100*accuracy)

或者做一个混淆矩阵来查看分类的分布：

confusionmat(classes, assignedClasses)
于 2012-06-01T19:50:17.610 回答
1

是的，knn 有一个功能：knnclassify

玩弄你想要保留的邻居数量以获得最佳结果（使用混淆矩阵）。当然，此功能会处理距离。

于 2012-06-02T04:21:36.997 回答