34

我开始学习斯坦。

谁能解释何时以及如何使用诸如...之类的语法?

target +=

而不仅仅是:

y ~ normal(mu, sigma)

例如,在 Stan 手册中,您可以找到以下示例。

model {
real ps[K]; // temp for log component densities
sigma ~ cauchy(0, 2.5);
mu ~ normal(0, 10);
for (n in 1:N) {
for (k in 1:K) {
ps[k] = log(theta[k])
+ normal_lpdf(y[n] | mu[k], sigma[k]);
}
target += log_sum_exp(ps);
}
}

我认为目标线增加了目标值,我认为它是后验密度的对数。
但是什么参数的后验密度?

什么时候更新和初始化?

在 Stan 完成(并收敛)之后,您如何访问它的值以及我如何使用它?

其他示例:

data {
  int<lower=0> J;          // number of schools 
  real y[J];               // estimated treatment effects
  real<lower=0> sigma[J];  // s.e. of effect estimates 
}
parameters {
  real mu; 
  real<lower=0> tau;
  vector[J] eta;
}
transformed parameters {
  vector[J] theta;
  theta = mu + tau * eta;
}
model {
  target += normal_lpdf(eta | 0, 1);
  target += normal_lpdf(y | theta, sigma);
}

上面的示例使用 target 两次而不是一次。

另一个例子。

data {
int<lower=0> N;
vector[N] y;
}
parameters {
real mu;
real<lower=0> sigma_sq;
vector<lower=-0.5, upper=0.5>[N] y_err;
}
transformed parameters {
real<lower=0> sigma;
vector[N] z;
sigma = sqrt(sigma_sq);
z = y + y_err;
}
model {
target += -2 * log(sigma);
z ~ normal(mu, sigma);
}

最后一个例子甚至混合了这两种方法。

要做到这一点更加困难,我已经读过

y ~ normal(0,1);

具有相同的效果

increment_log_prob(normal_log(y,0,1));

谁能解释一下为什么?

谁能提供一个以两种不同方式编写的简单示例,请使用“target +=”和常规更简单的“y ~”方式?

问候

4

2 回答 2

45

语法

target += u;

将 u 添加到目标对数密度。

目标密度是采样器采样的密度,它需要等于给定数据的所有参数的联合密度,直到一个常数(这通常通过贝叶斯规则通过编码为参数的联合密度并建模数据到一个常数)。您在后验中以 lp__ 的形式访问它,但要小心,因为它还包含由约束产生的雅可比行列式并在采样语句中丢弃常量——您不想将其用于模型比较。

从抽样的角度来看,写作

target += normal_lpdf(y | mu, sigma);

具有相同的效果

y ~ normal(mu, sigma);

_lpdf 表示它是法线的对数概率密度函数,它隐含在采样符号中。采样符号只是目标 += 语法的简写,此外,在对数密度中删除了常数项。

它在语言参考的语句部分(手册的第二部分)中进行了解释,并通过程序员指南(手册的第一部分)在多个示例中使用。

于 2016-10-27T17:20:08.090 回答
2

我刚开始学习 Stan 和贝叶斯统计,主要依赖 John Kruschke 的书《做贝叶斯数据分析》。在这里,在第 14.3.3 章中,他解释说:

因此,Stan 中计算的本质是处理后验概率密度及其梯度的对数;分布中的参数没有直接随机抽样。

结果(仍然改写为 Kruschke),一个

模型 [...] 像y ∼ normal(mu,sigma)[实际上] 意味着将当前后验概率乘以基准值 y 处的正态分布的密度。

按照对数计算规则,这个乘法等于将给定数据的对数概率密度y与当前对数概率相加。( log(a*b) = log(a) + log(b),因此乘法和求和相等)。

我承认我并没有完全理解它的全部含义,但我认为它指向了正确的方向,从数学上讲,它是做什么的targer +=

于 2020-06-23T13:29:42.167 回答