2

尝试使用 fastai 的 language_model_learner：

learn = language_model_learner(data_lm, pretrained_model=URLs.WT103, drop_mult=0.7)

错误：

---------------------------------------------------------------------------
AttributeError                            Traceback (most recent call last)
<ipython-input-17-811dec5cedeb> in <module>
----> 1 learn = language_model_learner(data_lm, 
pretrained_model=URLs.WT103, drop_mult=0.7)

AttributeError: type object 'URLs' has no attribute 'WT103'
4

3 回答 3

5

尝试删除 pretrained_model 的参数，就像 learn = language_model_learner(data_lm, arch = AWD_LSTM, pretrained = True, drop_mult=0.7) 它对我来说很好。

于 2019-08-01T21:08:45.187 回答
4

我今天在尝试微调预训练语言模型时遇到了类似的问题。看起来他们已经更改了数据链接，而不是使用URLs.WT103您可以使用URLs.WT103_FWD或URLs.WT103_BWD。

还将“arch”参数的值添加为 AWD_LSTM 并预训练为 True，默认情况下将使用预训练的 WT103_FWD 的权重。

于 2019-07-30T09:33:52.000 回答
2

似乎 API 已更改。尝试

learn = language_model_learner(data_lm, AWD_LSTM, drop_mult=0.7)

正如官方指南中所建议的那样。

有关 language_model_learner() 的更多详细信息，请参见此处。

于 2019-08-27T17:13:53.023 回答