问题标签 [regularized]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
1004 浏览

tensorflow - 如何向 TensorFlow 的 Adam 优化器添加正则化(L1/L2)?

我目前正在学习谷歌的机器学习速成课程,并且正在尝试使用 DNNClassifier 估计器来解决二进制分类问题。我正在尝试向 Adam 优化器添加正则化(L1/L2),因为它尚未被定义为函数中的参数。任何想法如何实现它?下面是我的代码:

0 投票
1 回答
656 浏览

r - 使用因子和数字预测器执行套索正则化?

我有一个数据集,我想在其中执行套索来消除特征。由于我是 R 新手,因此我目前正在遵循 R 中的在线指南。数据存储在数据框中。目标已从数据框中删除,并存储在其自己的单列数据框中。这是一个回归问题,目标是数字。这是我试图运行的代码:

以下是有关数据集的信息:

尝试运行该lasso_model行时,这是我得到的错误:

本质上,我希望能够确定要删除哪些变量。任何帮助都会很棒!

0 投票
2 回答
3393 浏览

python - Python 中的正则化逻辑回归(Andrew ng 课程)

我正在开始 ML 之旅,但我在这个编码练习中遇到了麻烦,这是我的代码

所以,当 时learningRate = 1,准确度应该在附近,83,05%但我得到了80.5%,当 时learningRate = 0,准确度应该在,91.52%但我得到了87.28%

所以问题是我做错了什么?为什么我的准确性低于问题的默认答案?

希望有人可以指导我正确的方向。谢谢!

PD:这是数据集,也许它可以提供帮助

https://raw.githubusercontent.com/TheGirlWhiteWithBandages/Machine-Learning-Algorithms/master/Logistic%20Regression/ex2data2.txt

0 投票
1 回答
157 浏览

machine-learning - L1-regularization:在哪里使用惩罚成本函数?

L1 正则化在成本函数中添加了一个惩罚项以限制权重的大小。我是否正确理解这个惩罚成本函数仅用于优化步骤而不用于计算模型的损失?例如,要计算验证集中模型的损失,要使用未惩罚的损失函数吗?

0 投票
1 回答
1480 浏览

python - 为什么在对回归进行正则化时会跳过 theta0?

在 Andrew Ng 的 ML 课程的帮助下,我目前正在 Coursera 上学习 ML。我在 python 中执行作业,因为我更习惯它而不是 Matlab。我最近遇到了一个关于我对正则化主题的理解的问题。我的理解是,通过进行正则化,可以添加在预测中足够重要的不太重要的特征。但是在实现它时,我不明白为什么在计算成本时会跳过 theta(parameters) 的第一个元素,即 theta[0]。我已经提到了其他解决方案,但他们也做了同样的跳过没有解释。

这是代码:

`

`

这是公式:

正则化成本函数

这里 J(theta) 是成本函数 h(x) 是 sigmoid 函数或假设。lamnda 是正则化参数。

0 投票
2 回答
801 浏览

matlab - (Theta1(:,2:end).^2,2) 在这段代码中是什么意思?

是什么(Theta2(:, 2:end).^2, 2)意思?

0 投票
1 回答
268 浏览

python - h2o glm 正则化路径值

[Python 3.5.2、h2o 3.22.1.1、JRE 1.8.0_201]

我正在运行一个glm lambda_search并使用正则化路径来选择一个 lambda。

中的值regpath_pd如下所示:

我期待随着 lambda 惩罚的减少,ncoef 和 auc 会增加(非减少)。大多数情况下都是如此,但有一个例外。参见索引 23 - auc 增加了一点,然后又减少了。对此有解释吗?我需要设置一些公差参数还是...?在此运行中nlambdas = 100(默认)。当我将其设置为 50 时,lambda、ncoef 和 auc 值是单调的。

仅供参考 - 出于本文的目的,我将 lambda 和 auc 值截断到小数点后 3 位。在实际运行中,这些值都不会被截断。

在此处输入图像描述

更新

按照此处的代码,我重新编写了循环,以便为每个 lambda 重新训练模型。这可以正常工作并保持单调性。显然,这需要更长的时间才能运行。这是我最终采用的方法:识别有问题的索引并仅为该索引训练完整模型。FWIW 这是代码的那一部分

生成的图表如下所示(以不同的比例)。看起来问题出在getGLMRegularizationPath.

在此处输入图像描述

0 投票
2 回答
1621 浏览

keras - 如何在单个正则化函数中正则化层的内核权重偏差权重?

Keras文档为权重正则化和偏差正则化引入了单独的类。这些可以是添加自定义正则化器的子类。Keras 文档中的一个示例:

其中 x 可以是内核权重或偏差权重。但是,我想使用包含层权重和层偏差的函数来规范我的层。有没有办法将这两者合并到一个函数中?

例如,我想作为正则化器:

谢谢,

0 投票
1 回答
1371 浏览

python - 没有 python 库的 LASSO 回归实现

我是一个 python 新手,正在认真寻找 LASSO 的 python 实现而不使用 python 库(例如 sklearn 等)

我对此特别感兴趣,以帮助我了解底层数学如何转换为 python 代码。为此,我将更喜欢 LASSO 的裸 python 实现,没有使用任何示例数据集的 python 库。

谢谢!!!

0 投票
1 回答
384 浏览

r - 尝试使用 LASSO 执行 LDA

PenalizedLDA( x = train_x, y =train_y)返回

sort.int(x, na.last = na.last, 递减 = 递减, ...) 中的错误:'x' 必须是原子的

我正在尝试对来自UCI的 sampbase 数据集使用带套索的线性判别分析。(我已将标题添加到列中,并在适当的情况下将列返回到区间 [0,1]。

我第一次运行代码时出现错误

PenalizedLDA(x = train_x, y = train_y) 中的错误:y 必须是数值向量,其值如下:1、2、...。

我通过传递 train_y 解决了这个问题

当我再次运行它时,我得到了错误

sort.int(x, na.last = na.last, 递减 = 递减, ...) 中的错误:'x' 必须是原子的

我在这里卡住了。