1

我想知道泊松似然的变分期望 \int q(f)logp(y|f) df 的分析形式来自哪里(使用对数链接时)。

在文档中只提到可以近似难以处理的可能性,但是我对该主题不够熟悉,无法知道到底使用了什么。

    let g(.) be the inverse-link function, then this likelihood represents

    p(y_i | f_i) = Poisson(y_i | g(f_i) * binsize)

    Note:binsize
    For use in a Log Gaussian Cox process (doubly stochastic model) where the
    rate function of an inhomogeneous Poisson process is given by a GP.  The
    intractable likelihood can be approximated by gridding the space (into bins
    of size 'binsize') and using this Poisson likelihood.

你能指出我的近似方法吗?

谢谢。

4

1 回答 1

3

Variational_expectations 是在 GPflow 进行近似(变分)推理时使用的 Likelihood 类的方法。可能性本身并没有被近似,但变分方法正在近似后验,并且这样做计算ELBO,其中一部分是variational_expectations。

它计算

E_{q(f_n)} [日志 p(y_n | f_n)]

其中 q(f_n) 是具有均值/方差 Fmu/Fvar 的高斯分布。对于带有 log/exp 链接的泊松似然,我们有(忽略 binsize):

日志 p(y_n | f_n) = 泊松(y_n, exp(f_n))

这等于

y_n * tf.log(tf.exp(f_n)) - exp(f_n) - tf.lgamma(y_n + 1.)

为了计算期望值,我们需要知道 f_n 的期望值(因为 log(exp(f_n)) = f_n)和 exp(f_n) 的期望值。这些是 mu 和 exp(mu + var / 2)。插入它会给

E_{q(f_n)} [ log p(y_n | f_n) ] = y_n * mu_n - exp(mu_n + var_n/2) - tf.lgamma(y_n + 1.)

这是 Poisson 类的变分期望方法中实现的。

于 2019-06-03T09:37:01.627 回答