我有一个需要在非常大的数据集上进行预测的用例。因此,与训练相比,预测所需的时间几乎是 10 倍。我想知道我是否可以使用 GPU 进行预测,或者它是否受 CPU 限制。我正在使用 EC2 P3.16x large(8x Tesla V100、64 VCPU)
问问题
414 次
我有一个需要在非常大的数据集上进行预测的用例。因此,与训练相比,预测所需的时间几乎是 10 倍。我想知道我是否可以使用 GPU 进行预测,或者它是否受 CPU 限制。我正在使用 EC2 P3.16x large(8x Tesla V100、64 VCPU)