4

我正在检查sklearn对高斯过程 (GP) 的对数边际似然的实现。该实现基于Rasmussen 的机器学习高斯过程中的算法 2.1 ,为方便起见,我还附上了它的快照:

在此处输入图像描述

然而,我经常遇到一些用这个公式计算的对数似然为正的情况。一个具体示例是以下示例代码:

import numpy as np 
from scipy.linalg import cholesky, cho_solve, solve_triangular
from sklearn.gaussian_process.kernels import Matern

kernel=Matern(nu=2.5)
x = np.array([1, 2, 3]).reshape(-1,1)
y = np.array([0.1, 0.2, 0.3])
noise=0
amp2=0.05 

K = kernel(x)

cov = amp2 * (K + 0*np.eye(x.shape[0])) 
cov[np.diag_indices_from(cov)] += noise
L = cholesky(cov, lower=True)
alpha = cho_solve((L, True), y)
logprob = -0.5 * np.dot(y, alpha) - np.log(np.diag(L)).sum() - \
      x.shape[0] / 2. * np.log(2 * np.pi)
print(logprob) # Result: 1.1359631938135135

我相信 GP 的对数边际可能性log Pr(y|x, M)应该始终为非正数。为什么上面的代码会产生的对数边际可能性?

谢谢!

4

0 回答 0