问题标签 [log-likelihood]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
98 浏览

audio - 为什么使用 MFCC 和 Delta 系数时对数似然奇怪

我正在做一个需要从音频流中提取 MFCC 特征的项目。该项目主要包括分类,尽管为了扩展我们的数据集,我正在研究一种检测算法来隔离我们有兴趣分类的声音部分。

我正在测试不同的表示,并且由于数据的性质(我希望我可以提供更多细节,但我正在与之合作的教授更愿意将其保密,我相当确定),我会想象 delta 系数在顶部MFCC 系数会有所帮助。

我正在提取 40 个 MFCC 系数和 40 个 Delta 系数,并将其用于检测。我有一组训练数据,其中包含一个 40 毫秒的窗口,该窗口以我感兴趣的音频流部分为中心。然后我正在使用该数据训练 GMM。

为了测试(及其实际用例),我将较长的音频流(2 秒左右)拆分为一系列 MFCC 帧。我提取每一帧的对数似然,并根据对数似然分数内的百分位数对检测进行阈值化,当使用 delta 系数时,我得到了奇怪的结果。

特征表示中不使用 Delta 系数

特征表示中使用的 Delta 系数

您可以忽略底部的 4 个数字,它们只是用于可视化我的阈值方案。

我想知道的是,为什么与不使用 delta 时相比,使用 delta 系数时对数似然的行为如此奇怪?

提前谢谢您,如果您需要澄清,请询问。

0 投票
1 回答
1415 浏览

r - R二元正态中的MLE

我遇到了问题,可能是由于我的编码错误。我想通过算法对双变量正态样本执行 MLE:

我像上面一样设置样本。我将负对数似然定义如下;

当我运行以下 MLE 代码时,它会返回错误;

optim(start, f, method = method, hessian = TRUE, ...) 中的错误:(列表)对象不能被强制输入“double”

NLM 函数有效(尽管仅适用于平均估计,不适用于协方差矩阵)。NLM 返回:

如何获得所有参数的估计值?我应该怎么做才能使用 MLE 功能?

编辑: neg_ll 函数出现类型错误,mean=mean替换为mean = mean_vec. 尽管如此,问题仍然存在,nlm估计了平均向量的输出。

0 投票
0 回答
128 浏览

r - nlminb 函数中参数和的附加约束

我有一个函数 f_2 并且需要通过 nlminb 最小化它的参数以估计对数似然(这是 nlminb 输出中的目标)。我想添加一个约束(u1+u2+u3+u4+u5+u6+u7+u8+u9)==1或参数总和等于 1。我的代码如下:

我的输出是

. 如您所见,参数总和为 1 的约束被忽略了。设置此约束以便能够比较不同模型的 par 非常重要。我知道我可以手动执行此操作,但想找出在编码中实现它的方法。请您帮我解决这个问题并施加约束吗?谢谢!

0 投票
1 回答
944 浏览

machine-learning - 优化逻辑回归中的权重(对数似然)

在逻辑回归中:

假设函数,

其中,w - 要拟合或优化的权重/参数


成本函数(-ve 对数似然函数)如下:

对于单次培训,例如。(x,y):

目标是在所有训练示例上最大化 l(w),从而估计 w。


问题 :

考虑这样一种情况,其中正面 (y=1) 训练示例比负面 (y=0) 训练示例多得多。

为简单起见:

如果我们只考虑正面 (y=1) 示例: 算法运行:

换句话说,优化算法会尝试增加 (wx) 以便更好地拟合数据并增加似然度。


但是,算法似乎有可能以一种意想不到的方式增加(wx)但无论如何都不能改善解决方案(决策边界):

我们可以在不改变我们的解决方案的情况下增加 (k*wx)。

1) 为什么这不是问题?或者这是一个问题?

2)有人可能会争辩说,在一个正面示例多于负面示例的数据集中,该算法将尝试不断增加||w||。

0 投票
1 回答
44 浏览

r - Make likelihood return a vector insted of number, R

I want to make my likelihood function return more than one value. I have the following likelihood

I want the likelihood to generate a vector when I plug in the vector of mu, but instead it returns just one number. How can I make the likelihood return the -logl for every mu in a vector?

0 投票
1 回答
1424 浏览

r - 在 R 中编写适当的正态对数似然

我对以下型号有疑问,

在此处输入图像描述

我想对 μ 和 tau 进行推断,u 是已知向量,x 是数据向量。对数似然是

在此处输入图像描述

我在 R 中编写对数似然时遇到问题。

我希望能够插入 mu 的向量并将其绘制在 mu 上以获得固定的 tau 值,例如 2。我还想使用 optim 函数找出 tau 和 mu 的 MLE。我试过了:

但它不起作用..关于我如何写可能性的任何建议?

0 投票
1 回答
133 浏览

matlab - Matlab:在绘制心理测量函数时使用 gammaln 时出错...

我正在使用工具箱psignifit从数据集中绘制心理测量函数。我的代码基本上如下所示:

我的数据与工具箱中给出的示例数据具有基本相同的形式,

当我运行演示时,plotPsych 函数按预期返回一个图形,但是当我执行我的脚本时,我得到了以下一系列错误。我的问题是为什么我会收到有关使用 gammaln 的错误,什么可能是正确的解决方法?

我过去成功地在我的数据上运行了工具箱,所以我首先尝试重新启动 Matlab,但无济于事。然后我尝试删除 psignifit-master 并将其添加回路径,但这似乎也没有解决问题。

提前致谢。

0 投票
2 回答
9817 浏览

math - 如何在sklearn中获得逻辑回归模型的对数似然?

我在 sklearn 中使用逻辑回归模型,我有兴趣检索此类模型的对数似然性,因此按照此处的建议执行普通似然比测试。

该模型使用对数损失作为评分规则。在文档中,对数损失被定义为“给定概率分类器预测的真实标签的负对数似然”。但是,该值始终为正,而对数似然应该为负。举个例子:

我在模型的文档中没有看到任何方法,还有其他我目前不知道的可能性吗?

0 投票
1 回答
41 浏览

r - 在训练集矩阵上扫描对数规范以找到对数似然

作为机器学习课程作业的一部分,我在不使用任何外部库的情况下实现了一个 NaiveBayes 分类器。

我的训练数据集 X 有 8 个特征和 800 行的一个二进制标签;我已经按类计算了每个特征的均值和标准差的 1:8 向量,以及两个类的先验。

为了评估训练数据集上分类器的准确性,我想生成一个具有相同维度(i=800,j=8)的矩阵 Y,其中每个元素 y_ij 给出为

我试过sweep、apply和lapply都没有成功。我被困住了,不幸的是,这是一个熟悉 R 而不是理解算法的问题。非常感谢您的帮助。

0 投票
2 回答
49 浏览

r - 自动化函数以返回具有数学常数和未知数的表达式

我正在尝试从面板数据观察中构建一个转换矩阵,以获得加权转换矩阵的 ML 估计量。一个关键步骤是获得个体的个体似然函数。假设您有以下数据框:

这个想法是为每个代理返回其路径的对数似然。例如,对于代理 120421006,这归结为(忽略初始期限)

LL = log(exp(Yab)/1 + exp(Yab)) + log(exp(Yba) /(1 + exp(Yba))) + log(exp(Yab)/1 + exp(Yab))

IE,

日志(exp(Y_transition)/(1 + exp(Y_transition)))

其中 Y_transition = xFeature1 + yFeature2 表示该转换,x 和 y 是未知数。

例如,对于个人 120421006,这将归结为具有三个元素的表达式,因为他转换了三次,并且函数将返回

LL = log(exp(10000x + 1y)/ 1 + exp(10000x + 1y)) +

日志(exp(12000x + 0y)/ 1 + exp(12000x + 0y))+

对数(exp(10000x + 1y)/ 1 + exp(10000x + 1y))

这里有一个问题:我需要 x 和 y 作为未知数返回,因为目标是获得所有个体可能性的总和,以便将其传递给 ML 估计器。您将如何自动化为所有 ID 返回此输出的函数?

提前谢谢了