问题标签 [minima]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
artificial-intelligence - 激活函数和初始权重的选择对神经网络是否陷入局部最小值有任何影响吗?
我昨天发布了这个问题,询问我的神经网络(我正在使用随机梯度下降通过反向传播进行训练)是否陷入局部最小值。以下论文讨论了 XOR 神经网络中的局部最小值问题。第一篇说不存在局部最小值问题,而下一篇论文(一年后写)说在 2-3-1 XOR 神经网络中存在局部最小值问题(作为另外,我使用的是 3-3-1,即输入层和隐藏层的偏差)。这两个都是摘要(我无法访问完整的论文,所以我无法阅读它):
- XOR 没有局部最小值:神经网络误差面分析的案例研究。 由哈米 LG。澳大利亚悉尼麦考瑞大学计算机系
- 2-3-1 XOR 网络的本地最小值。 作者:Sprinkhuizen-Kuyper IG,Boers EW。
还有另一篇论文 [PDF]说最简单的 XOR 网络没有局部最小值,但它似乎不是在谈论 2-3-1 网络。
现在回到我的实际问题:我找不到任何讨论激活函数的选择、初始权重以及这对神经网络是否会陷入局部最小值的影响。我问这个问题的原因是,在我的代码中,我尝试使用标准的 sigmoid 激活函数和双曲正切激活函数。我注意到在前者中,我只有大约 20% 的时间会被卡住,而在后者中,我往往会更频繁地被卡住。每当我第一次初始化网络时,我也会随机化我的权重,所以我想知道一组随机权重是否更倾向于让我的神经网络“卡住”。
就激活函数而言,由于误差最终与激活函数产生的输出有关,我认为是有影响的(即误差表面发生变化)。然而,这只是基于直觉,我更喜欢一个具体的答案(对于这两点:初始权重和激活函数的选择)。
python - Python中曲线的最大值和最小值
我从位移传感器捕获了数据,一次迭代的增量值如下所示。0, 1, 2, 4, 7, 9, 14, 24, 14, 10, 9, 7, 3 2, 1, 0, 0, 0, 0, -1, -3, -5, -7, - 9、-14、-24、-14、-9、-8、-6、-4、-3、-1、0、0、0。(其他迭代也有相同的模式。)
我对曲线的最大值和最小值感兴趣。我从一个初始位置开始,然后回到这个位置进行线循环(我已经取值的部分总和来获得总位移或线)。部分和看起来像这样 [0, 1, 3, 7, 14, 23, 37, 61, 75, 85, 94, 101, 104, 106, 107, 107, 107, 107, 107, 106, 103, 98 , 91, 82, 68, 44, 30, 21, 13, 7, 3, 0, -1, -1, -1, -1]。我对 107 和 -1 感兴趣(下一个曲线最小值)
但我不知道说不的代码。曲线(迭代)。你能帮我解决这个问题吗?
matlab - Matlab中如何获取特定点(即转折点)的坐标
我有一组(X,Y)坐标,绘制时会产生如下图所示的图形。我想要做的是找到用红色圈起来的区域(角点)的坐标。
我一直在努力寻找实现这一目标的方法,因为那些实际的转折点代表了我感兴趣的领域。请注意,我没有这些坐标的实际方程式。
如果有人能给我建议,或者通过使用 Matlab 或什至使用一些 C++ 工具的其他想法,给我一些关于如何去做的指导,我将不胜感激。
matlab - 在数组中查找 n 个最小值
我正在使用 Matlab 2012a。
我有一组 k 个单元格(比如 1000 个)。我需要找到这个数组的 5 个最低值,并且需要对 X 和 Y 中的这些值进行平均。
任何人都知道如何做到这一点?
python - Python 或 R,有效地将时间序列划分为之字形
如果我有清单
我希望获得三个之字形,一个之字形定义为局部最大值(可以是高原)和最小值(可以是山谷),如下图,有3个之字形,A,B,C而A和B在高原重叠,B和C在山谷重叠
python - 在python中查找数组的转折点
例如,如果我有一个数组:
可以看出有4个转折点。(在 A[4]、A[6]、A[13]、A[17])
如何使用python返回转折点的数量?
目前,这个系统是有缺陷的,当然不是很优雅。有任何想法吗?
matlab - 数字图像处理中的局部最小值和最大值是什么意思?
有人可以在数字图像处理方面解释局部最小值和最大值的概念吗...
matlab - 在matlab中检查交替最大值最小值
我编写了一个算法,可以找到信号中的局部最大值和最小值。
我现在想检查一下:是否尊重最大值和最小值的交替
假设:
我想要 2 个向量来missing_max
missing_min
指示丢失的最大值和最小值的位置。
当两个连续的最小值(最大值)之间没有最大值(最小值)时,就会出现缺失最大值(id_min (id_max)
最小值)。
在此示例中,id_max 的第 7 个位置缺少最大值,因为在 id_min 中有两个连续的值 (16 19),两者之间没有最大值。
然后我们有
自从
id_min = [2 4 6 8 X 16 19];
(用 XI 标记缺失值)
如果交替正确,则向量应该为空。你能建议一种没有 for 循环的有效方法吗?
提前致谢
python - Python中正定函数的数值根查找
我有一个非常复杂的单个变量的正定线性连续函数,k
我试图找到给定范围内的所有根k
;说-4 < k < 4
。
到目前为止,我首先通过搜索 和 的点来估计函数的k_j
最小值。然后使用这些点中的每一个作为起点,我应用优化函数。在某种程度上,这种方法奏效了。然而,随着我的函数变得越来越复杂,搜索最小值变得越来越耗时并且可能不准确。$k_{j+1}>k_j$
$k_{j-1}>k_j$
scipy.optimize.newton
是否有任何内置函数numpy
或在函数scipy
的给定域(例如-4 < k < 4
)中搜索并找到所有根。我愿意牺牲一些计算效率,这样我就不必指定精确的点来搜索附近。
谢谢
matlab - 二维矩阵区域中的最小值及其索引
我有一组 18 个 MATLAB 向量(当前值的原始读数)数据,这些数据随许多最小值和最大值而变化,放入一个 2d 矩阵中B
,其大小为 18 x 16348。
我找到了每个行向量的全局最大值的索引和值。存储在另一个向量中,即M
( 具有 的每个行向量的最大值B
) 和 l (具有 的每个行向量的最大值的索引B
)。使用下面的代码。
现在我想找到在这个全局最大值之前出现的每个行向量的最小值。
我写了一个循环向后看,从全局最大值开始检查最小值及其索引。最小值的条件可以想象为 b[i,l] < b[i,l-1] & b[i,l] < b[i,l+1]
这放入一个循环如下。
由于某种原因,while
循环只执行一次然后停止。这就是我面临的问题。
下图显示了绘制的 18 个值中的 4 个,并标记了向量的最大值和最小值。