问题标签 [momentum]

在神经网络的训练中有几个优化器。但是 Momentum 和 SGD 似乎总是比自适应方法好。

现在我正在用 tensorflow 编写一个程序来重现其他人的结果。他们利用动力来训练pylearn2。但是有几个参数：动量因子、权重尺度、偏差尺度。他们将权重标度分配为 dropout 层的权重。

当我训练我的网络时，我使用 Momentum。但是，结果似乎太难训练了，而且损失总是很高。我用adam训练的结果似乎还不错，但结果比他的差0.00X。

我想知道如何调整 Momentum 优化器。而且我也想知道我的程序运行不好的原因。

我正在研究与两个移动物体的二维碰撞。它非常简单。我有两个具有不同几何形状和质量的球体。它们以 45° 角相撞。我需要计算碰撞后两个球体的速度矢量。我找到了我在维基百科和这个问题中使用的公式：2D Elastic Ball Collision Physics

问题是产生的动量与开始的动量不同。起始一个是 35kg m/s，结束一个是 33.75kg m/s。我查看了公式的证明，它使用了总动量的守恒，这可能意味着总动量的变化应该等于0。我的不是。

谁能解释什么问题或我做错了什么？

谢谢您的回答。

我在不同的情况下尝试了很多次，但最终结果总是有点偏离。

我的代码：

我预计碰撞前的总动量与碰撞后的总动量相同。

我正在使用另一个人的代码来尝试在物理学中演示这个问题：

大质量 M 与较小质量 m 碰撞，然后移动移动以从墙壁反弹回来与较大质量 M 碰撞。此过程重复，直到较大质量转动并且其速度符号翻转。如果较大块的质量是第一个块的 16*100^n（其中 n 是整数）倍，则大块和小块之间的碰撞次数计算 pi 的 (n+1) 位。例如：当块大 1600 倍时，有 31 次碰撞。如果块是 16000000，则有 3141 次冲突。

我在 vPython 中编写了我的代码，它可以工作，但只到一定数量。当原始代码时，我能够得到 31415 冲突。当我使 N=5 时，模拟完全失败并且屏幕变黑。显然这是因为时间步长不够小。所以我试着让它更小，看看它是否可以计算更多的数字，它确实可以。通过将时间步长更改为 0.00001，我能够计算出 314159 次碰撞。但随后我输入 N=6 并再次崩溃。因此，我尝试将时间步长增加到 0.000001，它可以工作，但只给了我 3.14159e+6 的数字，而没有额外的 pi 数字。

在此处输入图像描述

有人可以告诉这是为什么。为什么我没有得到下一个数字。是不是我的电脑不够强。我不需要真正解决这个问题，这不是重点，我只需要了解我的模拟和计算机的局限性以及为什么它无法计算下一个数字。

之前已经提出过这个问题的变体（例如这里和这里），但还没有确凿的答案。

有没有办法在为 IOS 构建的 Cordova 应用程序的滚动的动量/惯性/减速部分期间触发滚动事件（并使用这些侦听器更新 DOM）？

这篇5.5 年前的文章概述了这个问题，但那是5.5 年前的事了。当然必须有解决方法吗？正确的？？

这就是我对滞后变量数据进行排序的方式

我不知道其余的

在查看了pytorch的文档后，我找不到带有动量的GroupNorm模块，只有一个不使用它的实现（这对我来说没用，因为我想使用AdaBN或AdaGN我应该说） .

因此，我的想法是采用BatchNorm类并使用num_groups对其进行扩展，并通过首先将输入重新整形并将通道分组在一起来覆盖实际计算均值和方差的方法，从而模拟 GroupNorm 行为。

为了做到这一点，我查看了源代码，直到在torch.nn.functional.batch_norm中发现了死胡同。该函数在内部调用另一个函数torch.batch_norm(...)，但我找不到它的源代码。

你知道去哪里找那个零件吗？还是您认为有更好的方法来实现这一点？我尝试在网上寻找其他人的作品，但我只找到了未完成的作品。

我经常在桌面上看到这种动量风格的滚动transform: translate，我真的很喜欢这种效果的平滑度。我已经尝试使用 requestAnimationFrame 和 css 过渡来实现缓动效果。在 webkit 浏览器中，效果如丝般顺滑，效果很好。问题在于 Firefox 和边缘。它有点跳动，不像黄油那么光滑。

我的问题是有更好的方法来解决这个问题，还是我错过了我应该做的事情。我无法确定 Firefox 的问题。我不知道 css 转换是否是问题所在。这是我要达到的目标的粗略示例：

这是一个codepen Codepen

这是一个片段：

任何指导将不胜感激。我真的可以使用某人来引导我朝着正确的方向前进，或者给我看一个例子，这样我就不会再浪费时间了。有没有人对这种类型的滚动效果有任何经验？

当我打开我的网站时，我注意到 css 没有正确加载。我试图重新加载缓存，但没有任何改变。当我禁用动量 chrome 插件时，我的网站加载正确。

看看我的代码在这里。我从后端获取数据，所以我无法进一步操作它们。我让 Chart.js 作为散点图工作，但提供的日期被解析错误 2020 变成 1996 等等。

知道如何正确格式化 x 轴吗？

请忽略数据中的“日期”值。这只是来自后端。

谢谢！

我正在训练一个火炬模型，我想在其中冻结（然后解冻）某些参数。我的印象是，简单的设置 param.requires_grad = False 就可以做到这一点。对于有动力的优化器来说，情况似乎并非如此。我知道我可以实例化一个新的优化器或更改现有优化器的参数，但两者都不允许我（轻松地）解冻参数并且不保留对优化器最初更改的所有参数的额外引用。

我认为可以通过将优化器状态下的momentum_buffer设置为零来实现预期的结果，但我不知道如何做到这一点，因为它不容易访问。

下面的代码可用于重现效果，两个已知的“解决方案”都被注释掉了。