问题标签 [grpc-python]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
119 浏览

python - 使用 sklearn 和 gRPC 进行模型服务

假设我有一个来自 sklearn 的训练有素的 RandomForestClassifier 模型。我们正在使用 gRPC 为该模型提供服务,并在高流量情况下提供实时预测。据我了解,gRPC 可以支持多个线程同时运行。他们能否同时调用 RF 的predict方法而不会遇到并发问题?sklearn 的预测线程安全吗?

如果不是这种情况,听起来您必须在每个工作线程中加载模型的单独副本。

0 投票
1 回答
602 浏览

grpc - 是否有多个 grpc 服务协同工作的示例

多个 gRPC 服务示例

您好,来自宁静的 Scala 游戏框架世界。

我想知道是否有人知道与将多个服务串在一起以相互调用相关的任何示例项目、视频、媒体文章。

到目前为止,我看到的所有示例都是与其他服务没有太多交互的独立服务。

我试图想象的一个关键示例是用户服务。例如,在创建用户期间,可能需要调用多个其他服务来处理与创建新用户相关的事务 1. 可能会调用 Orders 服务来创建订单 2. 可能会调用 Appointments 服务来安排第一次约会3. 可以调用推荐服务器来创建推荐

我从高层次上知道,使用从其他服务的照片定义创建的存根来调用这些服务作为用户服务的一部分,创建用户 rpc 调用,但真的是这样吗?

创建用户的 rpc 调用真的应该只使用存根并将逻辑实现到其他服务吗?

先感谢您。

0 投票
1 回答
4205 浏览

docker - gRPC 服务器响应 OS 错误,grpc_status: 14

使用 Tensorflow Serving 示例中的基本 gRPC 客户端从 docker 上运行的模型中获取预测,我得到以下响应:

这是我的客户目前的样子:

在此先感谢您的帮助:)

0 投票
1 回答
3713 浏览

python - Python GRPC 服务器性能瓶颈

我编写了一个包含多个 rpc 服务的 grpc 服务器。有些是一元的,有些是服务器端流式传输。

它连接到 grpc kubernetes 服务器,所以我使用 python kubernetes 客户端来查询服务器

目前我遇到了一些性能问题,因为我认为如果有多个请求进来,它会缓冲每个工作人员在它可以服务传入请求之前完成。

我的问题是:

  1. 我怎样才能提高我的表现?在 threadpoolexecutor 中添加更多 max_workers 会有所帮助吗?

  2. 如何诊断问题并找出导致速度下降的原因?

  3. 我正在考虑在这种情况下响应的大小是否重要,因为我正在将字节串流式传输到客户端。有没有办法测量响应的大小或者在 python grpc 中是否重要?

我想知道您如何诊断您的 python grpc 服务器,以便您知道哪里需要改进?

0 投票
0 回答
152 浏览

grpc - 设置 Python GRPC 客户端套接字选项

我正在寻找一种在 grpc python 中设置套接字选项的方法。

场景:我在一个主机上运行 GRPC 客户端,该主机具有多个接口和每个接口定义的路由,称为 VRF(虚拟路由和转发)。我的应用程序必须绑定到一个特定的接口,为此我必须使用 SO_BINDTODEVICE 选项调用 setsockopt。如果我没有设置选项套接字绑定到一个默认接口,由于该接口上设置的路由,目的地无法到达。必须从外部配置中选择接口(VRF)并在该值上设置sockopt,并在绑定套接字时使用此配置值。那么,一旦我们创建了 insecure_channel,有没有办法访问 GRPC 客户端套接字?

0 投票
1 回答
860 浏览

grpc - 如何使用grpc在python服务器和php客户端之间进行通信?

我可以使用 python 客户端和服务器进行通信,但与 php 客户端混淆。我对 protobufers 感到困惑,一个解释整个过程的小程序会非常有帮助。

我浏览了许多文档,但仍然对实际流程感到非常困惑。

计算器.proto

计算器.py

服务器.py

客户端.py

此设置在服务器(python)中返回两个数字的加法。我想要与 python 作为服务器和 php 作为客户端的相同功能。

0 投票
1 回答
940 浏览

python - 允许 gRPC 转码中的重复字段

gRPC谷歌云端点中使用我正在使用端点 python
的快速示例 我添加了一个函数SayHelloRepeated但不知道如何对重复字段进行转码。

helloworld.proto

api_config_http.yaml

当我尝试部署api_config_http.yaml它时给我错误不允许重复字段

错误:(gcloud.endpoints.services.deploy)INVALID_ARGUMENT:无法转换为服务配置。

种类:错误消息:“http:不允许重复字段:通过消息 \'helloworld.RepeatedHello\' 上的 \'hello_request\' 到达。”

更新

如果HelloRequest有多个字段而不仅仅是一个name字段,那么该怎么办。

0 投票
2 回答
1362 浏览

grpc - 如何确定proto3的oneof字段的值类型?

以上是我的 gRPC 设置的 proto3 代码,其中我有一个 python 服务器和一个 PHP 客户端。
在 PHP 客户端上,我将模型对象设置为 ARIMA。
如何在我的 python 服务器上检查 request.model 的类型是 ARIMA 类型?
另外,我希望 PHP 客户端能够将模型设置为 ARIMA 或 SARIMA,我接近这个的方式是否正确?

0 投票
1 回答
842 浏览

protocol-buffers - .proto 文件中的“选项”关键字是什么意思?

我有一个示例 helloworld.proto 文件并使用 Python。我没有得到这个选项关键字在编译阶段必须做什么?

0 投票
1 回答
1364 浏览

python - 如何在蝗虫中调用 GRPC python 客户端?

有没有办法在蝗虫中调用 GRPC python 客户端。

运行代码时会生成输出locust -f 1.py。但统计数据不起作用。他们闲着。

用户蜂拥而至,但所有数据都处于空闲状态