问题标签 [tpu]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
610 浏览

tensorflow - TF1.14][TPU]无法在使用 TPU 的 Colab 上使用自定义 TFrecord 数据集

我创建了一个包含元素及其相应标签的 TFRecord 数据集文件。我想用它在 Colab 上使用免费的 TPU 训练模型。我可以加载 TFRecord 文件,甚至可以运行迭代器来查看内容,但是,在纪元开始之前,它会抛出以下错误-

据我了解,它需要 TPU 存储桶上的 TFRecord 文件,我不知道如何在 Colab 上执行此操作。如何直接在 Colab TPU 上使用 TFRecord 文件?

0 投票
1 回答
366 浏览

python - BERT 在 colab 上使用 TPU 上的 Estimator 进行微调 TypeError: *=: 'NoneType' 和 'int' 的不支持的操作数类型

我在 google 的 colab 上写了一个 jupyter-notebook 来微调(用于文本分类)一个我已经在阿拉伯语上预训练过的 BERT 版本。当训练开始时,我无法绕过这个错误。

我在github上按照google给出的notebook

模型构建代码:

错误代码:

参数和其余代码都在这个 colab 笔记本的共享副本中:colab_link

0 投票
0 回答
104 浏览

python-3.x - TensorFlow TPU 培训。InvalidArgumentError:未声明的 TPU 计算输出

我创建了一个带有视觉注意层的 ResNet,试图在 TPU 设备中对其进行训练。我成功编译它,但是当我调用 model.fit 时,返回

模型的代码如下,没有中间 ResBlocks

我使用 Tensorflow 1.14,但同样的错误也会在 TF-nightly 中返回。我能够使用 GPU 成功训练。

0 投票
1 回答
1634 浏览

python - 将 Keras 模型转换为可在 Edge TPU 上使用的量化 Tensorflow Lite 模型

我有一个想要在 Coral Edge TPU 设备上运行的 Keras 模型。为此,它需要是具有全整数量化的 Tensorflow Lite 模型。我能够将模型转换为 TFLite 模型:

但是当我运行时edgetpu_compiler converted_model.tflite,我得到了这个错误:

这是因为我需要量化模型,但我不知道该怎么做。我发现这个页面告诉我如何做到这一点,但它希望我制作一个输入数据生成器。这是它提供的示例:

如何调整此代码以处理我的输入数据?从哪里来num_calibration_steps?有一个更好的方法吗?(我看到了参考,tf.contrib.tpu.keras_to_tpu_model但它已被弃用)

0 投票
1 回答
323 浏览

python - 关于使用 talib 与 gpu 或 tpu 使计算 EMA 和其他更快

所以我正在用 ta-lib for python 做一个项目,我需要计算 EMA 和其他目标。数据是 10 年的历史数据,及时的库存数据总计为 1703,当我需要计算 EMA 仅针对 200 只股票时,它需要花费大约 19S~30S 来减慢,因为及时库存更新了 5s e,我希望它计算 10s更快,我想如果我可以使用 gpu 或 tpu 它会很快然后只使用 cpu 所以我的问题是 ta-lib 可以使用 gpu 还是 tpu ??? 以及如何使用它?如果无论如何不能让它快点?1703个股票?谢谢解答!!!

0 投票
2 回答
991 浏览

google-colaboratory - RuntimeError:混合不同的 tf.distribute.Strategy 对象

您好!我在使用TPU编译模型时遇到了一些问题。部分代码如下:

我得到了 RuntimeError: enter image description here

你能帮助我吗?

0 投票
1 回答
154 浏览

tpu - 模拟/模拟 Google TPU 进行开发和调试

是否有一个模拟器来调试 TPU 的代码,而不是在一切准备就绪之前在真正的 TPU 上花费金钱进行调试?

任何其他具有类似效果的技术也将被视为答案。

0 投票
1 回答
300 浏览

tensorflow - 是否可以在 tensorflow 中打印 TPU 云变量的值?

禁用 Eager Execution 后,我可以连接到我的云 TPU 并运行我的自定义训练循环。计算损失后,我想打印该变量。

鉴于损失是 Cloud TPU 的张量,到目前为止我还没有找到任何打印它的方法。tf.print返回 a PrintOperation,所以我被卡住了。我想像将损失张量移回我的 cpu 之类的东西会起作用,但我还没有找到任何 hacky 方法来做到这一点。

我知道有可能得到这个结果,因为当我keras使用 TPU 分布策略封装我的模型并使用model.fit而不是我的自定义训练循环时,我可以打印损失指标。

所以必须有一种方法,非常感谢任何帮助找到它:)

0 投票
5 回答
3374 浏览

python - 如何在 Tensorflow 2.0 中使用 Google Colab 的 TPU?

我正在尝试利用Google Colab使用张量处理单元 (TPU) 来训练神经网络。Tensorflow 刚刚发布了一个主要版本 2.0,所以我试图在 Tensorflow 2.0 中实现这一点。我尝试了以下三个指南,但所有指南都是为 Tensorflow 1.14 编写的,并且在 Tensorflow 2.0 中失败:

1)按照Colab 中的 TPU指南,我收到错误消息:

(来自参考:使用 tf.Session(tpu_address) 作为会话:)

2)按照指南Simple Classification Model using Keras on Colab TPU,我得到了同样的错误

3)按照指南cloud_tpu_custom_training,我得到错误:

(来自参考:resolver = tf.contrib.cluster_resolver.TPUClusterResolver(tpu=TPU_WORKER)

有没有人有使用 TPU 在 Tensorflow 2.0 中训练神经网络的示例?

编辑:这个问题似乎也出现在 github 上:InvalidArgumentError: Unable to find a context_id matching the specified one #1

0 投票
1 回答
401 浏览

google-colaboratory - 如何将本地 Coral USB TPU 与 Google Colab(而不是 Cloud TPU)一起使用

我有一个 USB TPU,想在 Google Colab 中将其用作 LOCAL RUNTIME。我无法找到有关此主题的任何资源。您可以使用本地运行时(本地 Jupyter),并在此处进行说明: https ://research.google.com/colaboratory/local-runtimes.html

我是否需要在本地 Jupyter 中安装所有 TPU 库,然后连接到本地 Jupyter 作为本地运行时才能开始在 Colab 中使用我的 USB TPU?