所以我使用 aitextgen 库来微调 gptneo。但是,一旦我这样做并生成了一些文本,它就会吐出与文本中完全相同的句子。
from aitextgen import aitextgen
ai = aitextgen(model="EleutherAI/gpt-neo-125M", to_gpu=True)
ai.train('speoof.txt',
line_by_line=False,
from_cache=False,
num_steps=3000,
generate_every=1000,
save_every=1000,
save_gdrive=False,
learning_rate=1e-3,
fp16=False,
batch_size=1,
)
这里要求的是一些数据 https://pastebin.com/zZyG77BD 以上是我使用的代码。如何让它生成一些原始文本?