0

谁能建议我如何从谷歌云存储桶中的语言模型生成提示?

我一直在使用 colab 笔记本来运行Eleuther AI GPT Neo 模型。这很好,除了每次实例超时时我都必须再次将模型复制到云存储桶中。除了不方便之外,这还浪费带宽,因为模型的大小通常为几 GB。因此,鉴于模型已经在我的云存储桶中,我希望能够查询它们而无需每次都复制它们。

现在,这应该很简单。但是,似乎将模型从 colab 复制到存储桶的行为会生成很难手动解开的文件名和路径——我已经尝试了很长时间。

所以,我的问题是,给定一个包含 GPT 模型检查点和配置文件的云存储桶,我如何访问该模型并提示它?

4

0 回答 0