在将 triton 服务实施到 gitlab CI 时遇到问题。正如我在 triton github https://github.com/triton-inference-server/server中注意到的那样,默认情况下它们在 Dockerfile 中没有任何暴露的端口,我真的无法以任何方式访问该服务?访问 triton 服务是否有任何解决方法?
谢谢!
.triton_service: &triton_service
name: nvcr.io/nvidia/tritonserver:21.06-py3
command: ['tritonserver', '--model-repository=$(S3_TRITON_BUCKET)', '--model-control-mode=explicit', '--allow-http=true', '--allow-metrics=false', '--allow-gpu-metrics=false', '--log-verbose=true', '--log-info=true', '--log-warning=true', '--log-error=true']
alias: triton
services:
- *triton_service
script:
- curl -v http://triton:8000/v2/health/ready