在GCP AI Platform Unified的文档中它说:
即使您已将预测节点配置为使用 GPU,AI Platform 也会根据 CPU 使用情况扩展您的节点;因此,如果您的预测吞吐量导致 GPU 使用率高,但 CPU 使用率不高,您的节点可能无法按预期扩展
我们如何根据 GPU 使用情况进行扩展?
在GCP AI Platform Unified的文档中它说:
即使您已将预测节点配置为使用 GPU,AI Platform 也会根据 CPU 使用情况扩展您的节点;因此,如果您的预测吞吐量导致 GPU 使用率高,但 CPU 使用率不高,您的节点可能无法按预期扩展
我们如何根据 GPU 使用情况进行扩展?
[1] https://cloud.google.com/ai-platform/prediction/docs/machine-types-online-prediction#specifying_gpus
[2] https://cloud.google.com/ai-platform-unified/docs/resources/release-notes