nlp - 如何设置最大 CPU/内核数以将 BERT 作为服务运行？

Question

我可以按照https://github.com/hanxiao/bert-as-service中的说明安装和运行 BERT 模型

它运行时会占用 Linux 机器上的所有 CPU，但我希望它只在 Linux 服务器的 50 个 CPU 上运行。

可以设置运行 BERT 模型的最大 CPU/内核数吗？