c++ - 使用 Libtorch 1.5 和 C++ 中的优化器选项更新学习率

Question

随着 PyTorch 的 C++ API 1.5 稳定版的发布，一些对象接口发生了一些变化。比如现在

optimizer.options.learning_rate();

将无法工作（此处使用的优化器是 Adam），因为learning_rate已更改为lr（请参阅https://github.com/pytorch/pytorch/releases），但优化器不再具有选项（no member named 'options' in 'torch::optim::Adam'）。所以我的问题是：一个人怎么跑

optimizer.options.learning_rate();

或更新学习率

optimizer.options.learning_rate(updatedlearningrate);

与新版本？任何帮助将不胜感激！谢谢

Answer 1

优化器现在的行为与其 Python 对应物一样，并且需要为每个参数组设置学习率。

for (auto param_group : optimizer.param_groups()) {
  # Static cast needed as options() returns OptimizerOptions (base class)
  static_cast<torch::optim::AdamOptions &>(param_group.options()).lr(new_lr);
}

如果您没有指定单独的参数组，则只有一个组，您可以按照问题 #35640 - How do you change Adam learning rate since the latest commits 中的建议直接设置其学习率？：

static_cast<torch::optim::AdamOptions &>(optimizer.param_groups()[0].options()).lr(new_lr)