tensorflow - OpenAI GPT-2 模型与 TensorFlow JS 一起使用

Question

是否可以使用 TensorFlowJS 从 OpenAI GPT-2 生成文本？

如果不是，限制是什么，例如模型格式或...？

Answer 1

除了 tensorflowjs 不支持的 gpt-2 中的某些操作之外，我没有看到任何不这样做的理由。

我不知道该怎么做，但这是一个很好的起点：

install.sh

python3 -m pip install -q git+https://github.com/huggingface/transformers.git
python3 -m pip install tensorflow

save.py

from transformers import TFGPT2LMHeadModel, GPT2Tokenizer
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
# add the EOS token as PAD token to avoid warnings
model = TFGPT2LMHeadModel.from_pretrained("gpt2", pad_token_id=tokenizer.eos_token_id)
model.save("./test_gpt2")

这会给你一个 SavedModel 文件。现在您可以尝试找出输入和输出节点，并使用tensorflowjs_converter它来尝试转换它。指针：https ://www.tensorflow.org/js/tutorials/conversion/import_saved_model 。