问题标签 [log-likelihood]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
166 浏览

python - 使用来自 StatsModels 的 GenericLikelihoodModel 使用固定参数进行最大似然估计

我有一个具有三个参数的模型,即:beta > 0、gamma > 0 和 phi > 0。给定数据 T,我能够评估 3 个参数的 MLE。

但是,我还要验证 (i) gamma = 1; 的情况,这一点非常重要。(ii) beta = 1 和 (iii) gamma = 1,beta = 1。

因此,我希望能够在情况 (i)、(ii) 和 (iii) 下评估 MLE。

我确信有一种方法可以轻松评估它,而无需在 StatsModels 中为 GenericLikelihoodModel 编写 4 个不同的类,但我就是想不通。

我用于具有 3 个参数的通用模型的代码如下,它运行良好,因为我正在使用本文中的数据来验证实现。

提前致谢!干杯,亚历山大

0 投票
1 回答
170 浏览

r - 在 Rcpp 中快速评估二项似然

我需要非常快速地评估大量二项式似然。因此,我正在考虑在 Rcpp 中实现这一点。一种方法如下:

它返回与 R 中等效的对数似然dbinom()

总的来说,这是一个不错的结果。但是,矢量化 R 解决方案平均比我的幼稚 Rcpp 解决方案略快:

有人对更快地评估二项式对数似然有一些指导吗?可能是更快的代码或概率论中的一些技巧。谢谢!

0 投票
1 回答
2973 浏览

r - 在 R 中绘制对数似然函数

嗨,我的代码中收到 x 和 y 长度不同的错误。datasim 是大小为 1000 的模拟样本。请帮助我。

0 投票
0 回答
34 浏览

python - 生成对抗网络的“反向”NLLLoss 中的实际不确定性

我一直在尝试实现我自己的 GAN,但取得了一些有限的成功。我在教程中对他们如何训练它进行了一些调整,并想知道这种更剧烈的变化是否可行。我所做的第一个更改是让鉴​​别器对 n+1 个类别进行分类,其中 n 可能是,例如 MNIST 中的 10,第 n+1 个类别是假类别。鉴别器是我从头开始为一个非常好的分类器制作的导入架构。那么我的 GAN 就会有传统 NLLLoss 的“对立面”。

这是棘手的非传统计算部分。所以因为我在鉴别器的最后一层有一个 softmax,所以鉴别器的输出总是从 0 到 1。所以我可以为生成器创建一个自定义损失函数,使其成为 NLLLoss 的水平翻转,它试图使确保鉴别器不会将赝品分类为第 n+1 类。这个想法是,只要它们不是第 n + 1 类,我不在乎假货属于哪一类。这种错误分类的行为是我想要为生成器最大化的行为。这是我在desmos上绘制的函数以提供一些可视化:

https://www.desmos.com/calculator/6gdqs28ihk

我的生成器损失函数的实际代码是下面的代码,而我的鉴别器损失函数是传统的 NLLLoss

请让我知道这是完全错误的还是有更简单的方法。

0 投票
1 回答
79 浏览

stata - 在Stata中复制最佳对数伪似然

我在 Stata 中运行多项逻辑回归,并发现建模过程似乎在完全复制对数伪似然之前完成:

我对 Stata 的理解是它会不断迭代,直到复制出最佳的 LL 值?在其他程序中,我会强制进行更多迭代以确保它不会收敛于本地解决方案,但对于 Stata,我只能找到有关如何设置最大迭代次数而不是最小值的建议。

对此的任何想法(我应该多关心,或者我能做的任何检查)都将受到欢迎。

0 投票
0 回答
1151 浏览

r - R中任意维度的多元正态分布的最大似然估计 - 终极指南?

我注意到通过 stackoverflow 搜索类似的问题,这些问题已经被问过好几次了,但实际上并没有得到正确的回答。也许在其他用户的帮助下,这篇文章可以成为编程多元正态分布参数的数值估计的有用指南。

我知道我知道!封闭形式的解决方案可用且易于实施。就我而言,我有兴趣为特定目的修改似然函数,并且我不希望有一个精确的分析解决方案,所以这是一个检查程序的测试用例。

所以这是我的尝试。请评论。特别是如果我错过了优化的机会。请注意,我不是统计学家,所以我会很感激任何指针。

rmvnorm()使用包“mvtnorm”中的函数生成的模拟数据集。使用附加函数生成的随机正定协方差矩阵Posdef()(取自此处:https ://stat.ethz.ch/pipermail/r-help/2008-February/153708 )

这目前在我的笔记本电脑上运行

并给出这个图形输出: 估计均值和方差

特别是关于限制设置或算法选择的任何建议将不胜感激。

谢谢

0 投票
1 回答
192 浏览

r - 使用阶跃函数的最大似然估计

我想为一些数据拟合一个阶跃函数(两个参数)。下面的代码没有完成这项工作。我想知道round()争论是否有问题。但是,我也尝试对参数进行划分,使参数发生小的(例如 0.001)变化,从而引起显着的变化。但这并没有改变合身。知道如何将此函数正确拟合到数据中吗?

0 投票
1 回答
339 浏览

r - 优化函数中的起始值问题

我正在使用 optim 函数解决优化问题。最大化的函数是似然函数。我正在尝试一个很长的要评估的数据集列表,在某些情况下它会变得混乱,因为 lik.function 由于起始值而不会收敛。我提供的示例是函数找不到解决方案的示例。所以,我想知道一种方法来制作最佳函数以从它们的网格中选择起始值,以找到解决方案,否则继续前进。这是我的代码,我尽量让它最短。对不起,我使用了很多 trycatch。

0 投票
0 回答
47 浏览

r - 用固定斜率或截距估计 R 中的线性模型

我想估计具有固定截距(模型 a)斜率(模型 b)的模型,并估计无约束模型(c),其中每个参数都允许变化,以及空模型(d) ,没有人可以。然后,我想使用 BIC/AIC 值的对数似然比检验来比较它们(我不知道哪个更好)。

这是我的代码,但我不知道它是否合适。另请注意,我在这里只考虑 1 个主题,但是如何将这个模型比较整合到几个主题?


我有几个条件的反应时间,我将这些条件转换为分位数,然后我使用遗嘱认证和倒数比例“标准化”它们。

我有我的 4 个模型:

0 投票
0 回答
35 浏览

optimization - PyTorch - 通过滥用损失函数(负对数似然)获得卓越的模型性能?

我误读了 PyTorch NLLLoss(),不小心将模型的概率传递给了损失函数,而不是模型的对数概率,这是函数所期望的。但是,当我在这种误用的损失函数下训练模型时,模型 (a) 学得更快,(b) 学习更稳定,(b) 损失更低,(d) 在分类任务中表现更好。

我没有一个最小的工作示例,但我很好奇是否有其他人经历过这个或知道这是为什么?有什么可能的假设吗?

我的一个假设是,关于误用损失函数的梯度更稳定,因为导数没有按 1/模型输出概率缩放。