1

我目前正在使用run_generation.py带有 gpt-2 的 huggingface 转换器库的示例脚本从左侧上下文生成文本：

$ python transformers/examples/run_generation.py \
  --model_type gpt2 \
  --model_name_or_path gpt2 \
  --prompt "Hi, " --length 5

=== GENERATED SEQUENCE 1 ===
Hi,  could anyone please inform me

我想生成简短的完整句子。有没有办法告诉模型在单词之前完成一个句子length？

注意：我不介意改变模型，但更喜欢自回归模型。

4

1 回答 1

0

不幸的是，没有办法这样做。您可以将length参数设置为更大的值，然后在最后丢弃不完整的部分。

甚至 GPT3 也不支持在特定length. GPT3 支持“序列”。当满足特定条件时，序列会强制模型停止。您可以在这篇文章中找到更多信息

于 2020-10-26T18:25:41.017 回答