我查阅了 PyTorch 的 Adam 源代码,并意识到核心部分是以下代码:
F.adam(params_with_grad,
grads,
exp_avgs,
exp_avg_sqs,
max_exp_avg_sqs,
state_steps,
amsgrad=group['amsgrad'],
beta1=beta1,
beta2=beta2,
lr=group['lr'],
weight_decay=group['weight_decay'],
eps=group['eps'])
现在,我想看看F.adam()
是如何实现的,但我不太清楚在哪里可以找到F
. 一开始,它说:from . import _functional as F
,我也不太清楚这是指什么。
帮助将不胜感激。