0

我混合了 3 个高斯，但无论我如何调整先验，我都无法获得后验平均值来从它们的先验值移动..

k = 3

n1 = 1000
n2 = 1000
n3 = 1000

n = n1+n2+n3

mean1 = 17.3
mean2 = 42.0
mean3 = 31.0

precision = 0.1

sigma = np.sqrt(1 / precision)

print "Standard deviation: %s" % sigma

data1 = np.random.normal(mean1,sigma,n1)
data2 = np.random.normal(mean2,sigma,n2)
data3 = np.random.normal(mean3,sigma,n3)

data = np.concatenate([data1 , data2, data3])

hist(data, bins=200,  color="k", histtype="stepfilled", alpha=0.8)
plt.title("Histogram of the dataset")
plt.ylim([0, None])

with pm.Model() as model:
    dd = pm.Dirichlet('dd', a=np.array([float(n/k) for i in range(k)]), shape=k)
    sd = pm.Uniform('precs', lower=1, upper=5, shape=k)
    means = pm.Normal('means', [25, 30, 35], 0.01, shape=k)
    category = pm.Categorical('category', p=dd, shape=n)

    points = pm.Normal('obs',
                     means[category],
                     sd=sd[category],
                     observed=data)
    tr = pm.sample(100000, step=pm.Metropolis())
    pm.traceplot(tr, vars=['means', 'precs', 'dd'])

输出：

Standard deviation: 3.16227766017
 [-----------------100%-----------------] 100000 of 100000 complete in 157.2 sec

如您所见，没有收敛，并且均值不会偏离其初始值 数据直方图 跟踪图不收敛

4

1 回答 1

4

不幸的是，这是一个已知问题：我们正在处理的https://github.com/pymc-devs/pymc/issues/452和https://github.com/pymc-devs/pymc/issues/443 。

请注意，您可以将其他步骤方法用于分类，如问题中的示例模型中所示。但即使这样也不会导致收敛。

于 2014-01-21T16:03:56.720 回答