问题标签 [lstm-stateful]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
221 浏览

python - 将 Adam 优化器用于 LSTM 网络与 LBGFS

我修改了关于 LSTM 的pytorch 教程(正弦波预测:给定 [0:N] 正弦值 -> [N:2N] 值)以使用 Adam 优化器而不是 LBFGS 优化器。但是,该模型训练不好,无法正确预测正弦波。由于在大多数情况下我们使用 Adam 优化器进行 RNN 训练,我想知道如何解决这个问题。我还想知道关于序列入序列出的代码段(通过循环完成:for input_t in input.split(1, dim=1))是否可以由 pytorch 模块或函数完成。

0 投票
1 回答
55 浏览

python - 关于LSTM中样本数量的问题

ts_x.shape 是 (228,12,1) ts_y.shape 是 (228,1,1) 正如我们在这里看到的,我现在有 228 个样本,但是当我运行它时: ValueError: In a stateful network, you should only pass inputs with a number of samples that can be divided by the batch size. Found: 183 samples. 我想知道为什么它创建了 183 个样本228 个样本?

0 投票
1 回答
34 浏览

tensorflow - 时间序列数据的特征提取

我有一个依赖于 k 的时间序列数据,我想提取数据的特征以找到输入和输出之间的关系。对于模型的某些参数,输出仅移动到 y 轴,就像我添加的图一样。我想使用一个功能来捕获这些参数。
你能帮我为这样的模型提取特征吗?任何来源或示例将不胜感激

[1]:https://i.stack.imgur.com/N4XZD.png

0 投票
2 回答
89 浏览

python - 制作有状态 LSTM 时出现 InvalidArgumentError

我正在研究一个有状态的 LSTM 来预测股票价格。

这些是我的输入数据的形状:(更新)

这是我的模型初始化:

但是当我适合这个时,我得到了错误:

据我所知,我已经正确定义了 batch_input_shape 并且看不到我做错了什么。

编辑:

一些人建议我尝试让我的样本大小可以被我的批量大小整除。我试过了,得到了同样的错误。

(如上所示,我更新了我的训练和测试大小)

我的新批量大小为 63,数据大小为 10269。10269/63 = 163。这是错误:

0 投票
0 回答
49 浏览

tensorflow - Tensorflow 将初始状态输入 RNN 或 LSTM

我想将一些变量作为初始状态输入 RNN 或 LSTM 层,并将另一个变量作为输入输入神经网络。My Xtrain (20000,6) 是一个时序电子电路瞬态分析输入阵列,它有 20k 个样本和六个变量,Vin,Vc1,Vc2,Vc3,il1,il2。Vin 用于输入,其余五个我想作为初始状态输入,并且每次都成功进入神经网络。Ytrain(20000,1) 是电子电路的输出 Vout。下图可以做一些说明。 在此处输入图像描述

但是我不知道这个的语法,我已经挣扎了很多天。我的垃圾代码是,第三行有错误:

错误是这样的:

谢谢!

0 投票
1 回答
28 浏览

python - Keras 有状态 LSTM 错误:从形状为 [32,1] 的张量中指定了一个形状为 [4,1] 的列表

使用此代码,当我尝试使用 X_test 运行预测时出现错误。错误发生在拟合之后,whiley_pred = model.predict(X_test)被执行。

错误:

在我看来,错误可能与所选的批量大小有关。在我的研究中,我读到样本数量必须能被有状态 LSTM 的批大小整除。于是我搜索了X_train和X_test的样本数的最大公约数,所以GCD(124,784) = 4 = batchsize。但是,现在发生了这个错误,我已经尝试了不同的batchsize,但是又出现了其他错误。有人对此有想法/解决办法吗?