问题标签 [resnet]

我正在寻找使用 mxnet gluon api 的 resnet 实现的模型文件定义。模型动物园只提供预训练模型： https ://mxnet.incubator.apache.org/api/python/gluon/model_zoo.html

我正在寻找实现重新发送模型的代码。

我正在寻找有关 skip-connections 的科学工作。

每个人都在谈论改善通过网络的梯度流，这感觉是有道理的。但我很想理解和阅读这意味着什么，涉及到数学和代码，以及如何在 tensorflow 中深入实现它。

除了resnet 论文之外，我还没有找到任何关于那些神奇的跳过连接的深入信息。

我很喜欢所有的提示、论文和方程式。

我正在训练一个 ResNet（CIFAR-10 数据集），训练准确率大部分（在 95% 的时期内）都在增加，但有时它会下降 5-10%，然后又开始增加。

这是一个例子：

在此之后我退出了执行，但这是我的第二次运行，第一次发生了同样的事情，一段时间后它又回到了 99%。

批次是 128，所以我想这不是问题。我没有改变学习率或任何其他 Adam 参数，但我想这也不是问题，因为大多数时候准确性都在增加。

那么，为什么会发生这些突然下降呢？

我已经用我自己的类别（现在只是花卉类型）从头开始训练了 Mathworks 提供的 Resnet50，并想对其进行测试。

尽管在 trainingOptions 中将 MiniBatchSize 更改为 5 而不是 10 后，训练没有问题，但分类不会开始，因为它说没有足够的可用内存。我在 imageDataset 中使用测试图像，就像在训练期间一样。

有什么方法可以强制 CPU 分类或调整某些选项使其能够运行？也欢迎任何其他想法！

Tensorflow 在github上有 resnet 的官方实现。它使用固定填充而不是普通的 tf.layers.conv2d。

像这样的东西：

这样做的目的是什么？如果我们输入一个大小为 32x32 的图像并使用 tf.layer.conv2d 将填充方法设置为 SAME，步长 2，我们可以获得一个 16x16 的特征图。但在上面的代码中，它将在图像的两侧填充零，然后使用填充方法有效。

我正在使用 ResNet50 利用迁移学习构建 keras CNN 模型。出于某种原因，我的准确性和损失对于每个时代都是完全相同的。奇怪的是，我看到使用类似代码但使用 VGG19 的相同行为。这让我相信问题不在于实际的模型代码，而在于预处理的某个地方。我试过调整学习率、改变优化器、图像分辨率、冻结层等，但分数没有改变。我进入我的图像目录以检查我的两个不同的类是否混合，而它们不是。问题是什么？我只想提前说声谢谢。

PS我正在训练〜2000张图像并有两个课程。

这是keras给出的输出：

模型训练后，我有几个项目：

我使用官方的 freeze_graph.py 将模型冻结到freeze_model.pb

我已将 output_node_names 设置为 InceptionResnetV2/Logits/Predictions 并将输入设置为 -prefix/batch:0。

所以，我使用这个脚本加载冻结图：

结果总是得到索引 0 - 这意味着 - 正常，而实际上并非如此。

我做错了什么？当我使用预训练的 inception-resnet-v2 训练和评估数据集时，准确率为 70%

许多现有的 Tensorflow 和 Keras CNN 代码示例使用相同的尺寸来训练图像，通常是 299*299、244*244、256*256 等等。我认为这部分取决于与预训练模型的兼容性，以及架构本身。

我仍在评估架构，但最终可能会使用 Resnet、Inception 或 Xception 以及 Tensorflow 或 Keras 使用 Mask R-CNN（或者可能是 Faster R-CNN）。要分析的目标图像在 1024*1024 范围内，但可以分成更小的分区。

鉴于可用的预训练模型，是否存在可以提供任何优势的训练图像大小？我想避免事后调整大小，因为在某些情况下这会降低图像的清晰度。

我使用 CIFAR-10 数据集在 Intel i7 CPU 上训练和评估 ResNet。（ResNet 模型在 Tensorflow 中：https ://github.com/tensorflow/models/tree/master/official/resnet ）

现在，我有兴趣分析应用程序，即确定顶级函数的执行时间。使用函数 sort_stats() 的分析仅提供有关顶部函数的信息。此外，使用分析工具 cProfile 会引发以下错误——

python3 -m 配置文件 cifar10_main.py

文件“/usr/local/lib/python3.5/dist-packages/tensorflow/python/platform/app.py”，第 124 行，运行 _sys.exit(main(argv)) TypeError: main() 位置为 0参数，但给出了 1

如果有人可以帮助我为 ResNets 收集（几乎准确，并且具有功能级别或线路级别）分析信息，那就太好了。谢谢 ：）

我正在尝试用 CNN 训练一些数据。

并尝试使用 Keras 的 Resnet 方法

但我得到了一些形状错误。