10

如何表示余弦相似度（http://en.wikipedia.org/wiki/Cosine_similarity）

当其中一个向量全为零时？

v1 = [1, 1, 1, 1, 1]

v2 = [0, 0, 0, 0, 0]

当我们根据经典公式计算时，我们得到除以零：

Let d1 = 0 0 0 0 0 0
Let d2 = 1 1 1 1 1 1
Cosine Similarity (d1, d2) =  dot(d1, d2) / ||d1|| ||d2||dot(d1, d2) = (0)*(1) + (0)*(1) + (0)*(1) + (0)*(1) + (0)*(1) + (0)*(1) = 0

||d1|| = sqrt((0)^2 + (0)^2 + (0)^2 + (0)^2 + (0)^2 + (0)^2) = 0

||d2|| = sqrt((1)^2 + (1)^2 + (1)^2 + (1)^2 + (1)^2 + (1)^2) = 2.44948974278

Cosine Similarity (d1, d2) = 0 / (0) * (2.44948974278)
                           = 0 / 0

我想在集群应用程序中使用这种相似性度量。我经常需要比较这些向量。还有 [0, 0, 0, 0, 0] 与 [0, 0, 0, 0, 0]

你有什么经验吗？由于这是一个相似性（不是距离）度量，我应该使用特殊情况

d( [1, 1, 1, 1, 1]; [0, 0, 0, 0, 0] ) = 0

d([0, 0, 0, 0, 0]; [0, 0, 0, 0, 0] ) = 1

关于什么

d([1, 1, 1, 0, 0]; [0, 0, 0, 0, 0] ) = ? 等等

4

2 回答 2

17

如果您有 0 个向量，则余弦对于您的应用程序来说是错误的相似度函数。

余弦距离本质上等同于 L_2 归一化数据上的平方欧几里得距离。即您将每个向量标准化为单位长度 1，然后计算平方欧几里得距离。

余弦的另一个好处是性能 - 在非常稀疏的高维数据上计算它比欧几里得距离更快。它受益于稀疏到正方形，而不仅仅是线性。

虽然您显然可以尝试在恰好 1 为零时将相似度设为 0，而在它们相同时将相似度设为最大值，但这并不能真正解决根本问题。

不要通过您可以轻松计算的距离来选择距离。

相反，请选择距离，以使结果对您的数据有意义。如果该值未定义，则您没有意义...

有时，无论如何将常量 0 数据丢弃为无意义的数据可能会起作用（例如，分析 Twitter 噪音，并看到一条全是数字、没有文字的推文）。有时它不会。

于 2014-11-02T19:34:12.850 回答
3

它是未定义的。

认为你有一个不为零的向量 C 代替你的零向量。将它乘以 epsilon > 0 并让 epsilon 运行为零。结果将取决于 C，因此当向量之一为零时，函数不连续。

于 2014-11-02T13:27:52.807 回答