问题标签 [tensorflow2.0]

I would like to apply layer normalization to a recurrent neural network using tf.keras. In TensorFlow 2.0, there is a LayerNormalization class in tf.layers.experimental, but it's unclear how to use it within a recurrent layer like LSTM, at each time step (as it was designed to be used). Should I create a custom cell, or is there a simpler way?

For example, applying dropout at each time step is as easy as setting the recurrent_dropout argument when creating an LSTM layer, but there is no recurrent_layer_normalization argument.

我正在尝试使用 TensorFlow 2.0 创建一个数据集，该数据集将返回时间序列中的随机窗口，以及作为目标的下一个值。

我正在使用Dataset.window()，看起来很有希望：

输出：

但是，我想使用最后一个值作为目标。如果每个窗口都是张量，我会使用：

但是，如果我尝试这个，我会得到一个例外：

我想简单地定义一个模型并在 TensorBoard 中可视化它的图形以进行初始架构检查。因此，我不想为此计算任何东西。

在 TensorFlow 1.X 中，很容易在一个tf.Session()我可以简单地flush()编写摘要文件的地方实现。

在 TensorFlow 2.0 中，没有tf.Session()，因此问题是我如何实现它？

下面是一个示例代码。为了在 TensorBoard 中编写图形结构，我需要添加哪些内容？

我以前有 cuda9.0_0 和 cudnn7.1.4，我想在 gpu 中运行 tf-alpha，从这个 tf 指南：https : //www.tensorflow.org/install/gpu 我发现我需要 cuDNN SDK (>= 7.4. 1）和cuda10.so我从控制面板卸载了以前的版本并安装了Cuda编译工具，发布10.1，V10.1.105。所以，我应该成功导入tf，但没有，我得到了错误。如果我有

我有

虽然我安装了 cuda 10 并且 cudnn 通过运行成功验证

我安装了 anaconda 并且有以前的 cuda，我以前使用过 tf 1.12.0 gpu，我的 gpu 是 nvidia 1050ti

我预计它会导入 tensorflow 2.0 alpha gpu 版本

我得到的错误：

我的 python 版本是 3.6.6

我正在尝试制作一个简单的 GAN 来从 MNIST 数据集中生成数字。然而，当我开始训练（这是习惯的）时，我收到了这个恼人的警告，我怀疑这是我没有像以前那样训练的原因。

请记住，这一切都在 tensorflow 2.0 中使用它的默认急切执行。

获取数据（不是那么重要）

生成器模型（这是批量标准化所在的位置）

鉴别器模型（可能不那么重要）

实例化模型（可能不那么重要）

定义损失（也许生成器损失很重要，因为那是梯度的来源）

制作优化器（可能不重要）

发电机的随机噪声（可能不重要）

一个单一的火车步骤（这是我得到错误的地方

完整的火车（不重要，除了它调用train_step）

开始培训

我得到的错误如下，

我从生成器中得到一张图像，如下所示：

如果没有标准化，这有点像我所期望的。一切都会聚集到一个角落，因为存在极端值。

对于我的强化学习应用程序，我需要能够应用自定义渐变/最小化不断变化的损失函数。根据文档，应该可以使用 Optimizer.minimize() 函数。但是，我的 pip 安装版本似乎根本没有此功能。

我的代码：

输出：

我正在尝试将我的 seq2seq 模型迁移到 TensorFlow 2.0。但是，我在特征列输入层中有一个问题。

在 TensorFlow 2.0 中，它们为序列数据提供了一个输入层keras.experimental.SequenceFeatures，但我必须放置一个 SpareTensor。

实际上，所有序列数据都不是 SparseTensor。他们为什么设计放置 SpareTensor？

在 TensorFlow 2.0 文档页面上，保存和加载模型的语法不包含model name参数。

我刚刚在本地机器上保存了一个训练有素的模型，但我无法更改它的name. 它被自动保存为saved_model.pb.

如何控制模型的名称？

我想用比我的内存大的数据在 Tensorflow 2.0 的 tf.keras 中训练一个模型，但教程只显示了带有预定义数据集的示例。

我遵循了本教程：

使用 tf.data 加载图像，我无法对 numpy 数组或 tfrecords 上的数据进行此操作。

这是一个将数组转换为 tensorflow 数据集的示例。我想要的是使这项工作适用于多个 numpy 数组文件或多个 tfrecords 文件。

我在 Windows 10 中安装了 tensorflow-gpu 2.0alpha0、cudatoolkit 10.0.130 和 cudnn 7.5。

TensorFlow 2.0 在 CPU 上运行良好，但在使用 GPU 运行时遇到错误。

错误信息如下：

我认为主要问题是“Could not dlopen library 'nvcuda.dll'”。

但是，我已经安装了最新的 NVIDIA 驱动程序（版本 419.67），并且可以在 C:\Windows\System32\nvcuda.dll 中找到“nvcuda.dll”。