问题标签 [convergence]

我正在为 xgboost 使用 sklearn 包装器。我想为每次迭代的训练和测试样本生成 AUC 图，如下图所示。

在 sklearn 中，您可以使用warm_start一次迭代一个，以便您可以轻松停止以评估性能。有没有办法使用 xgboost sklearn 包装器来做同样的事情？

编写一个 MATLAB 代码来计算和确定 的收敛速度：

(exp(h)-(1+h+1/2*h^2))/h ‍‍‍‍‍‍ ‍‍‍‍‍‍ with h=1/2, 1/2^2,..., 1/2^10

我的代码是：

我收到的答案没有任何意义。请帮忙。

谁能解释一下Hugo Larochelle在本讲座的第 8 分钟提出的收敛测试？

我正在尝试编写一种算法来估计和跟踪直线：y[k]=b1*x[k]+b2[k]。在我使用的真实物理系统中，我只能测量 y[k]，为了控制它，输入是 x[k]（我输入 x[k] 并期望得到一个特定的 y[k]）。

问题是 y[k] 和 x[k] 的关系不是恒定的：每次迭代 k 的斜率 b1 都是恒定的，但常数 b2[k] 不是。我假设的另一件事是：deltab2[k]=b2[k]-b2[k-1]，并且每次迭代都是恒定的。

我尝试使用卡尔曼滤波器，状态向量 = (x[k], b2[k], Delatb2[k])，测量 = y[k]。它没有用 - 卡尔曼增益实际上变成了零，并且误差协方差矩阵没有收敛。我知道收敛问题与系统的可观察性有关。但是我在使我的模型可观察时遇到了一些麻烦。我怎样才能使我的算法工作？

我正在尝试自动化通常在 python 的 statsmodels 中的 Eviews 中执行的回归。不幸的是，在这种情况下无法给出可重现的示例，但该模型是一个带有 ARMA 错误的多元回归模型。观察的数量是一万个，我使用了大约 50 个自变量（实际上是 5 个有 10 个滞后的变量。模型本身很好，所以把它放在一边。）。

在 Eviews（时间序列的商业计量经济学包）中，模型将在大约 20 秒后收敛，并使用 BFGS 作为优化方法进行了 17 次迭代。然而，使用 statsmodels，即使观察次数少得多，收敛也需要很长时间，并且检索 beta 标准误差需要更长的时间。我尝试过提供起始值、不同的优化方法和容差级别，但相比之下 python 仍然非常慢。

我期待性能会相似，因为 statsmodels 似乎能够使用 Eviews 使用的相同优化方法 (BFGS)。Eviews 的快速收敛似乎取决于在优化中选择“Marquardt”作为“步进法”。如果改为选择“线搜索”，模型需要很长时间才能收敛。难道 statsmodels 使用的是后者？

我的问题确实是这样：我是否应该简单地放弃 scipy（我相信 statsmodels 依赖）优化器，因为不能期望它具有与商业计量经济学软件几乎相同的性能？或者期望类似的性能是否合理，因此我应该尝试其他“优化优化”的方法？

顺便说一句，我已经开始查看这个 pyeviews，但它的文档很少。有经验的人吗？

我浪费了很多时间试图让这个东西工作，所以任何指导都将非常感激。

更新：使用我的 Eviews 和 python 版本，pyeviews 每当尝试将超过 500 行或其他内容推送到 Eviews 时都会引发错误。似乎是一个错误。我已经在 Github 上发布了。

比约恩

deploy_to_tomcat请在我的食谱末尾考虑这段代码：

它发布一条消息进行聊天：Deployed my-web-app 2016-11-03 12:31

但是，我注意到时间戳Time.new有点过时 - 它似乎是编译配方时的时间戳，而不是几分钟后资源覆盖和运行时的时间戳。

所以我尝试了这个，但它没有用（timeNow 仍然是undefined消息发布到聊天时）

有没有更简单的方法让我的时间戳反映实际时间（而不是食谱开始时）？

我目前正在 Openbugs 中开发一个分层贝叶斯模型，该模型涉及很多（大约 6000 个站点）的二项式过程。它描述了连续移除电动钓鱼事件/通行证，一般结构如下：

其中 n_sites 是我正在查看的网站总数。n_pass[i] 是在站点 i 进行的钓鱼通道数。N[i,j] 是当鱼通过 j 时站点 i 中鱼的数量。N_tot[i] 是在任何鱼通过之前站点 i 中的鱼的总数，它是站点 d[i] 的密度乘以站点 S[i] 的表面（表面已知）的乘积。C[i,j] 是在鱼通过 j 期间在站点 i 捕获的鱼的数量。p[i,j] 是鱼道 j 在站点 i 捕获的概率。

每个站点平均有 3 个钓鱼通道，这是很多连续的二项式过程，通常需要大量时间来计算/收敛。我无法近似二项式过程，因为捕获量通常很小。

所以我有点卡住了，我正在寻找解决这个问题的建议/替代方案。

提前致谢

编辑历史：15-11-2016：在@M_Fidino 澄清请求之后添加了 d 和 p 的先前定义

我不确定这是否是一般情况 （逻辑回归总能找到全局最优）

特别是 （当优化收敛时，逻辑回归是否总是找到全局最优值）

谢谢

我收到以下错误：“FastICA 没有收敛。考虑增加容差或最大迭代次数”。

因此，考虑这里的文档：http: //scikit-learn.org/stable/modules/generated/sklearn.decomposition.FastICA.html，我可以插入max_iter参数的最大迭代次数是多少？

我在使用当前正在开发的 javascript 应用程序时遇到问题。这是一个用于计算游艇船体流体静力学数据的船舶设计。我遇到的麻烦是我有两个相互关联的功能，都需要达到特定的结果。

为了澄清，用户输入设计位移，船体向上或向下移动，直到浸没体积等于设计位移。

用户还输入重心的纵向位置，船体倾斜直到浮心（浸没体积的质心）的纵向位置与重心对齐。

但是，俯仰船体会改变位移，向上或向下移动船体会改变浮力中心的位置。

我目前在做什么（伪代码）

我有最大数量的递归。然而，当一个或另一个中的一个非常小的移动导致位移量或浮力中心位置的大变化时，即使对这两个参数进行大量递归，这有时也无法收敛。

伪代码中未显示的是我收敛值的方式，请指出它是否与我的问题相关，我将添加它。

有没有更好的方法可以让我确保两个参数同时达到所需的值？