0

据我了解,GPT-3 通过在所需/测试示例之前包含一些标记示例来针对特定任务进行“训练”。在问答中,这包括上下文和问题。在这种情况下,输入提示可能会变长。人们如何解决这个问题?

我正在使用 Hugging Face GPT-J 实现,并且有输入令牌限制(2000)。但是,当在提示中包含多个 qa 示例时(尤其是带有上下文的),它很快就会达到此限制,从而限制了要输入的示例提示的数量。有谁知道如何在 GPT-J 设置中处理此问题,尤其是对于 QA?

4

0 回答 0