python - 使用 huggingface fill-mask 管道来获得它没有建议的结果的“分数”

Question

我一直在使用 huggingface 对蒙面令牌进行预测，效果很好。我注意到，对于每个预测，它都会给出一个“分数”，并且希望为一些它没有预测但我提供的标记给出“分数”。

例如，如果我的句子是"I ate bacon and <mask> for breakfast"我可以pipeline('fill-mask')用来取回预测和他们的分数，例如它可能会给我返回 ["eggs", 0.1]。但我想做的是提供我自己的猜测，然后取回它分配给我自己猜测的分数。例如，我可能想知道在这种情况下它对“煎饼”这个词的评分。

这可能吗？

Answer 1

您可以为此使用目标。

pipe = pipeline('fill-mask', model = model, tokenizer=tokenizer)
result = pipe('I ate bacon and <mask> for breakfast', targets= ['milk'])

Answer 2

您可以将 bert-as-service 用于此任务。参考这个库。

您也可以使用 fill_mask() 方法参考这个链接