machine-learning - 加载均匀的预训练 BERT 层进行分类

Question

我正在使用 HuggingFace 的变形金刚库。据我所知，更改配置文件中隐藏层的数量会导致加载预训练的 BERT 的前 x 层。我想加载预训练的 BERT 的偶数层（或最后 x 层），然后针对分类任务对其进行微调。

可以在此处找到分类任务的示例：run_glue.py

提前致谢