feast - Feast 如何处理我的用例的高流量

Question

您好盛宴开发者，

我想在我的地方实现 Feast 来统一我们的功能。目前我们有给定 100 个 product_id 的用例，从可能会被 user_id 点击的产品中排序。这意味着 1 个请求将命中 Feast Serving API 100 次，如果用例 RPS 为 100 RPS，则意味着 Feast Serving API 中的 RPS 为 10.000。

我们如何确保 Feast Serving API 可以处理所有这些请求？盛宴有解决这个问题的办法吗？

另一个问题是，我们可以将每个用例的服务层分开吗？假设用例 A 使用 redis A，用例 B 使用 redis B。这是为了确保当 1 个用例增加流量时，不会影响另一个用例。

谢谢你的回答^^

Answer 1

Feast 已经能够支持这个用例。对在线服务 API 的每个检索请求都可以采用实体集合，这意味着您可以发送产品列表或用户列表，或两者都发送。盛宴将丰富那些具有特征值的实体并做出响应。

然而，Feast 目前不支持通配符查询。您需要提供所有实体，Feast 会查找相应的功能。

就每个用例都有一个服务层而言：这是完全可能的。大多数团队如何做到这一点是为功能定义提供一个存储库，但为每个用例和生产系统提供不同的盛宴服务部署（在线商店）。