我正在检查sklearn对高斯过程 (GP) 的对数边际似然的实现。该实现基于Rasmussen 的机器学习高斯过程中的算法 2.1 ,为方便起见,我还附上了它的快照:
然而,我经常遇到一些用这个公式计算的对数似然为正的情况。一个具体示例是以下示例代码:
import numpy as np
from scipy.linalg import cholesky, cho_solve, solve_triangular
from sklearn.gaussian_process.kernels import Matern
kernel=Matern(nu=2.5)
x = np.array([1, 2, 3]).reshape(-1,1)
y = np.array([0.1, 0.2, 0.3])
noise=0
amp2=0.05
K = kernel(x)
cov = amp2 * (K + 0*np.eye(x.shape[0]))
cov[np.diag_indices_from(cov)] += noise
L = cholesky(cov, lower=True)
alpha = cho_solve((L, True), y)
logprob = -0.5 * np.dot(y, alpha) - np.log(np.diag(L)).sum() - \
x.shape[0] / 2. * np.log(2 * np.pi)
print(logprob) # Result: 1.1359631938135135
我相信 GP 的对数边际可能性log Pr(y|x, M)
应该始终为非正数。为什么上面的代码会产生正的对数边际可能性?
谢谢!