TL;DR:如果您直接预测成功的概率,该模型将是具有参数 theta(成功概率)的伯努利似然,其值可能介于 0 和 1 之间。在这种情况下,您可以使用 Beta 先验作为 theta。但是使用逻辑回归模型,您实际上是在对成功的对数几率进行建模,它可以采用从 -Inf 到 Inf 的任何值,因此具有正态分布的先验(或其他可以采用任何实际值的先验)一些由现有的先验信息确定的范围)会更合适。
对于唯一参数是截距的模型,先验是对数成功几率的概率分布。在数学上,模型是:
log(p/(1-p)) = a
p
成功概率在哪里a
,而您正在估计的参数是截距,它可以是任何实数。如果成功的几率是 1:1(即 p = 0.5),那么a = 0
. 如果赔率大于 1:1,a
则为正。如果赔率小于 1:1,a
则为负数。
由于我们需要 的先验a
,我们需要一个可以取任何实际值的概率分布。如果我们对成功的几率一无所知,我们可能会使用信息量非常微弱的先验,例如正态分布,例如 mean=0 和 sd=10(这是rstanarm
默认值),这意味着一个标准差将包含成功的几率从大约 22000:1 到 1:22000 不等!所以这个先验基本上是平的。
如果我们采用您的前两项研究来构建先验,我们可以使用基于这些研究的概率密度,然后将其转换为对数赔率标度:
# Possible outcomes (that is, the possible number of successes)
s = 0:(70+84)
# Probability density over all possible outcomes
dens = dbinom(s, 70+84, (27+31)/(70+84))
假设我们将使用先验的正态分布,我们想要最可能的成功概率(这将是先验的均值)和均值的标准差。
# Prior parameters
pp = s[which.max(dens)]/(70+84) # most likely probability
psd = sum(dens * (s/max(s) - pp)^2)^0.5 # standard deviation
# Convert prior to log odds scale
pp_logodds = log(pp/(1-pp))
psd_logodds = log(pp/(1-pp)) - log((pp-psd)/(1 - (pp-psd)))
c(pp_logodds, psd_logodds)
[1] -0.5039052 0.1702006
stan_glm
您可以通过使用默认(平坦)先验在前两个研究上运行来生成基本相同的先验:
prior = stan_glm(cbind(y, n-y) ~ 1,
data = data[1:2,],
family = binomial(link = 'logit'))
c(coef(prior), se(prior))
[1] -0.5090579 0.1664091
现在让我们使用来自研究 3 的数据使用默认先验和我们刚刚生成的先验来拟合模型。我已经切换到标准数据框,因为stan_glm
当数据框只有一行时(如 中data = data[3, ]
)似乎失败了。
# Default weakly informative prior
mod1 <- stan_glm(y ~ 1,
data = data.frame(y=rep(0:1, c(45,55))),
family = binomial(link = 'logit'))
# Prior based on studies 1 & 2
mod2 <- stan_glm(y ~ 1,
data = data.frame(y=rep(0:1, c(45,55))),
prior_intercept = normal(location=pp_logodds, scale=psd_logodds),
family = binomial(link = 'logit'))
为了比较,我们还生成一个包含所有三个研究和默认平坦先验的模型。我们希望这个模型给出几乎相同的结果mod2
:
mod3 <- stan_glm(cbind(y, n - y) ~ 1,
data = data,
family = binomial(link = 'logit'))
现在让我们比较三个模型:
library(tidyverse)
list(`Study 3, Flat Prior`=mod1,
`Study 3, Prior from Studies 1 & 2`=mod2,
`All Studies, Flat Prior`=mod3) %>%
map_df(~data.frame(log_odds=coef(.x),
p_success=predict(.x, type="response")[1]),
.id="Model")
Model log_odds p_success
1 Study 3, Flat Prior 0.2008133 0.5500353
2 Study 3, Prior from Studies 1 & 2 -0.2115362 0.4473123
3 All Studies, Flat Prior -0.2206890 0.4450506
对于具有平坦先验(第 1 行)的研究 3,如预期的那样,预测的成功概率为 0.55,因为这就是数据所说的,并且先验没有提供额外的信息。
对于基于研究 1 和 2 的先验研究 3,成功概率为 0.45。成功概率较低是由于在研究 1 和 2 中添加额外信息的成功概率较低。事实上,成功的概率mod2
正是你直接从数据中计算出来的:with(data, sum(y)/sum(n))
. mod3
将所有信息放入可能性中,而不是将其拆分为先验和可能性,但在其他方面与 基本相同mod2
。
回答(现已删除)评论:如果您只知道试验和成功的次数,并且您认为二项式概率是数据生成方式的合理模型,那么您如何将数据拆分为“先验”和“可能性”,或者您是否打乱数据的顺序。生成的模型拟合将是相同的。