python - 如何从拥抱脸使用 deberta 模型并使用 .compile() 和 . summary() 用它

Question

我用这段代码来加载权重

from transformers import DebertaTokenizer, DebertaModel
import torch

tokenizer = DebertaTokenizer.from_pretrained('microsoft/deberta-base')
model = DebertaModel.from_pretrained('microsoft/deberta-base')

之后我想使用编译函数优化和使用损失函数

model.compile(
    optimizer=tf.keras.optimizers.Adam(learning_rate=5e-5),
    loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
    metrics=tf.metrics.SparseCategoricalAccuracy(),
)

我收到此错误 AttributeError: 'DebertaModel' object has no attribute 'compile'

Answer 1

使用 pytorch 库处理它的唯一方法