0

我正在使用wandbHuggingFace 代码。我想记录损失和其他指标。现在我有两个问题

  • 如何wandb决定何时记录损失？这是由logging_stepsin决定的TrainingArguments(...)吗？</li> 
training_args = TrainingArguments(output_dir="test", 
                                  learning_rate=lr,
                                  num_train_epochs=n_epoch,
                                  seed=seed,
                                  per_device_train_batch_size=2,
                                  per_device_eval_batch_size=2,
                                  logging_strategy="steps",
                                  logging_steps=5,
                                  report_to="wandb")
  • 如何确保wandb记录其他指标（例如，在每个 epoch 之后添加验证指标）？这会自动发生吗？
4

1 回答 1

2

正确，它是由on_log培训师的事件决定的，你可以在 WandbCallback中看到它

每次验证时，您的验证指标都应自动记录到 W&B。培训师进行评估的频率取决于所使用的设置evaluation_strategy（以及可能的eval_steps情况evaluation_strategy == "steps"）

于 2021-05-04T21:16:13.717 回答