c++ - 标准化非常小的双数列表（可能性）

Question

我正在编写一个算法，在给定模型的情况下，我计算数据集列表的可能性，然后需要对每个可能性进行归一化（概率）。所以像 [0.00043, 0.00004, 0.00321] 这样的东西可能会被转换成 [0.2, 0.03, 0.77]。我的问题是，我正在使用的对数可能性非常小（例如，在对数空间中，这些值类似于 -269647.432、-231444.981 等）。在我的 C++ 代码中，当我尝试添加其中两个（通过取它们的指数）时，我得到“Inf”的答案。我试图将它们添加到 log-space (Summation/Subtraction of log)中，但再次偶然发现了同样的问题。

任何人都可以分享他/她的专家意见吗？

谢谢

Answer 1

假设已经正确计算了可能性，您可以将它们中的每一个除以最大可能性。这可以通过从每个对数似然中减去最大对数似然来以对数形式完成。

然后，您可以转换出对数空间。最大的将是 1.0，因为它的归一化对数是 0。较小的将分别在 0 和 1.0 之间，并表示为最大对数的一小部分。

Answer 2

这是标准程序。数值稳定的 Matlab 代码：

LL = [ . . . ];  % vector of log-likelihoods
M = max(LL);
LL = LL - M;
L = exp(LL);
L = L ./ sum(L);