performance - 如何确定 Azure 聊天机器人的负载要求以选择适当的应用服务计划

Question

RFP 要求

我们需要提交一份 RFP，其中需要提及 Azure 聊天机器人的应用服务计划。

• 目前我们不确定业务需求，我们只知道它是一个服务机器人，将与其他企业应用程序集成并回答常见问题。
• 在什么基础上可以计算出可以帮助我们选择相关应用服务计划的 Azure 聊天机器人的系统要求？

• 假设聊天机器人需要每秒处理 50 个请求？另外，对于企业聊天机器人来说，这是一个很高的期望吗？

Answer 1

您未锁定在应用服务计划层。您可以根据使用情况扩大（或缩小）计划。

• 对于开发，我发现 B1 就足够了。对于 Linux，与 S1 相比，它具有主要的定价优势。对于 Windows，没有那么多。

• 对于Production，这将高度依赖于您的大规模负载。对于大多数正常流量，S1 可能就足够了。这是性能和成本之间的良好契合。在 Linux 上，P1v2 提供了一些不错的额外性能，但花费不多（同样，对于 Windows 来说也不是很多）。P1v2对您来说可能是更好的选择，因为它通过增加实例数支持更高的规模，如果您的流量如此繁重，您可能需要这样做。

  • 对于它的价值，我有一个实验室环境，在一个 S1 计划上运行 17 个应用程序服务（聊天机器人、QnA Maker 和功能应用程序的组合），虽然我通常每秒没有很多请求，但 ASP应对得很好。

除此之外，您可以继续扩大规模，但成本会大大增加。您可以在此处查看定价页面以获取更多详细信息（该链接适用于 Linux，如果您需要 Windows，请务必更改此链接）。

编辑：根据有关您的机器人的其他信息，您还有其他需要考虑的事情来限制您的峰值负载。

• LUIS S0计划仅支持每秒 50 个事务，因此这将是您的上限（假设发送给机器人的每条消息都通过 LUIS）。F0计划只给你5TPS。
• QnA Maker仅支持每分钟 100 个事务的 3 TPS（免费和标准）。
  • QnA Maker 限制适用于门户/管理 API，而不是一般查询
• 我找不到 Azure 存储（状态）或 App Insights（日志记录）的任何费率，但我想这些费率高于 LUIS 的 50 TPS。
• 您还必须分别考虑您的 RBAC 和外部集成。

尽管如此，从应用服务计划本身来看，我仍然认为P1v2对您来说绰绰有余。您也可以使用S1。好消息是，如果您发现此计划无法提供足够的容量，您可以轻松地扩大或缩小该计划。