使用 WandB 而不是单独的图来获取每个时期的对齐 val_loss 和 train_loss 图

Question

我有以下代码，用于使用 WandB API 记录每个时期的训练和验证损失。但我不确定为什么我没有在同一时期得到 val 损失和训练损失。知道如何解决这个问题吗？

wandb.log({"train loss": train_epoch_loss,
           "val loss": val_epoch_loss,
           "epoch": epoch})

wandb.log({"train acc": train_epoch_acc,
           "val acc": val_epoch_acc,
           "epoch": epoch})

wandb.log({"best val acc": best_acc, "epoch": epoch})

和 train loss vs epochs 是两个完全独立的实体，而我希望将它们都放在 WandB 的一个图中。

Answer 1

我在Weights & 工作。偏差，很乐意提供帮助：

同一图表上的 2 个指标

要在同一图表上绘制 2 个指标，您可以单击图表中的铅笔图标进行编辑，然后将其他指标添加到 y-轴，如下图所示。

更改默认 x 轴

您还可以更改 X 轴以针对“epoch”而不是默认的 wandb step 进行绘图。如果您希望默认情况下实现此行为，您可以在开始训练之前调用 wandb.define_metric 一次，并将 x 轴设置为 epoch。请参阅define_metric文档了解更多

记录步骤

需要注意的一件事是，当您记录验证指标时，您希望它们与训练指标在同一步骤中记录。在这种情况下，您可以执行以下操作：

metrics = {}

for step, batch in my_data:
  ...
  
  train_loss = ....

  metrics['train_loss'] = train_loss

  if step % val_steps == 0:
    val_loss = ...
  
    metrics['val_loss'] = val_loss
  
    wandb.log(metrics)

  else:
    wandb.log(metrics)

或者，您可以使用 commit= wandb.log 中的 False 参数 用于存储指标而不增加 wandb 步骤。然后在需要时调用 wandb.log() 来增加步长。