0

我正在 TensorFlow 2.3 中训练模型

我想查看模型不同层的渐变值。

我知道如何访问模型的各个层。

with tf.GradientTape() as tape:
    lstm = model(song_emb_inp=song_emb_id_x_batch,
                 time_bucket_emb_inp=time_bucket_emb_id_x_batch,
                 training=True)
    
    loss = compute_loss(model, song_emb_id_y_batch, lstm)   
    
grads = tape.gradient(loss, model.trainable_variables)

for var, g in zip(model.trainable_variables, grads):
    print(f'{var.name}, shape: {g.shape}')     

它提供以下输出 -

在此处输入图像描述

如何打印所有这些可训练层的梯度值?

4

0 回答 0