1

我正在尝试为我的应用程序的问答部署一个干草堆模型作为 REST API /API。我想直接查询并得到我的答案，我需要尽快完成，所以我正在寻找一种在Algorithmia上完成的方法。感谢任何建议、教程、示例或任何帮助。谢谢！！

作为参考，这可能是一个示例模型。

4

1 回答 1

1

不确定 Alorithmia，但这里有一个简单的选项来部署 Haystack 服务，包括。任何标准机器（例如 AWS EC2 实例）上的 REST API：

# Clone haystack repo
git clone https://github.com/deepset-ai/haystack.git
cd haystack
# Start (demo) containers
docker-compose pull
docker-compose up
# Run a query
curl -X 'POST' \
  'http://127.0.0.1:8000/query' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -d '{
  "query": "Who is the father of Arya Stark?",
  "params": {}
  }'

这基本上旋转起来：

  1. 使用此docker 映像的 Haystack REST API
  2. 带有一些演示数据的 Elasticsearch（请参阅docker-compose.yaml中的评论，了解如何将其替换为您自己的数据的空实例）
  3. 一个简单的基于流光的 UI（如果不需要，可以轻松地从 docker-compose 中删除它）

如果您想自定义 API 中部署的管道（例如更改模型）：

  • pipelines.yaml在克隆的仓库中编辑（在haystack/rest_api/pipeline/）
  • 通过在 docker-compose.yaml 中取消注释此部分，将此文件夹作为卷安装到容器中

如果要部署在GPU 机器上，只需执行：

docker-compose -f docker-compose-gpu.yml pull
docker-compose -f docker-compose-gpu.yml up

有关更多详细信息，请参阅此处的 REST API 官方文档。

于 2022-01-12T15:28:37.240 回答