0

在将 triton 服务实施到 gitlab CI 时遇到问题。正如我在 triton github https://github.com/triton-inference-server/server中注意到的那样,默认情况下它们在 Dockerfile 中没有任何暴露的端口,我真的无法以任何方式访问该服务?访问 triton 服务是否有任何解决方法?

谢谢!

.triton_service: &triton_service
  name: nvcr.io/nvidia/tritonserver:21.06-py3
  command: ['tritonserver', '--model-repository=$(S3_TRITON_BUCKET)', '--model-control-mode=explicit', '--allow-http=true', '--allow-metrics=false', '--allow-gpu-metrics=false', '--log-verbose=true', '--log-info=true', '--log-warning=true', '--log-error=true']
  alias: triton
services:
  - *triton_service

script:
  - curl -v http://triton:8000/v2/health/ready
4

0 回答 0