2

我正在尝试为问答目的训练 distil BERT 模型。我已经安装了简单的变压器和所有东西，但是当我尝试运行以下命令时：

model = QuestionAnsweringModel('distilbert', 
                               MODEL_PATH, 
                              args={'reprocess_input_data': True,
                                    'overwrite_output_dir': True,
                                    'learning_rate': 5e-5,
                                     'num_train_epochs': 2,
                                     'max_seq_length': 192,
                                   'doc_stride': 64,
                                   'fp16': False
                                  }, use_cuda=use_cuda)

我收到错误消息->

cannot import name 'DISTILBERT_PRETRAINED_MODEL_ARCHIVE_MAP' 
from 'transformers.modeling_distilbert' 
(/opt/conda/lib/python3.7/site-packages/transformers/modeling_distilbert.py)

请帮忙！

4

1 回答 1

1

我认为这是因为变压器的版本，在我更新变压器===2.7.0后，它可以工作。

于 2020-07-18T13:28:50.347 回答