7

我目前正在测试我的应用程序的扩展性，但遇到了一些我没想到的事情。

该应用程序在 5 节点集群上运行，它具有多个服务/参与者类型，并且使用共享进程模型。对于某些组件，它使用 actor 事件作为尽力而为的 pubsub 系统（存在回退，因此如果删除通知，则没有问题）。当参与者的数量增加（也称为订阅主题）时，就会出现问题。actorservice 目前被划分为 100 个分区。那时的主题数量约为 160.000，其中每个主题被订阅 1-5 次（需要它的节点），平均订阅 2.5 个（大约 400k 订阅）。

此时集群中的通信开始中断，没有创建新订阅，取消订阅超时。但它也会影响其他服务，对诊断服务的内部调用超时（询问 5 个副本中的每一个），这可能是由于分区/副本端点的解析，因为对网页的外部调用很好（这些端点使用相同的技术/代码栈）。

事件查看器充满了警告和错误，例如：

EventName: ReplicatorFaulted Category: Health EventInstanceId {c4b35124-4997-4de2-9e58-2359665f2fe7} PartitionId {a8b49c25-8a5f-442e-8284-9ebccc7be746} ReplicaId 132580461505725813 FaultType: Transient, Reason: Cancelling update epoch on secondary while waiting for dispatch queues to drain will result in an invalid state, ErrorCode: -2147017731
10.3.0.9:20034-10.3.0.13:62297 send failed at state Connected: 0x80072745
Error While Receiving Connect Reply : CannotConnect , Message : 4ba737e2-4733-4af9-82ab-73f2afd2793b:382722511 from Service 15a5fb45-3ed0-4aba-a54f-212587823cde-132580461224314284-8c2b070b-dbb7-4b78-9698-96e4f7fdcbfc

我尝试过扩展应用程序，但没有激活此订阅模型，我很容易达到两倍大的工作负载而没有任何问题。

所以有几个问题

  • 演员事件是否有已知/建议的限制？
  • 增加分区数或/和节点数会有所帮助吗？
  • 通信干扰是否合乎逻辑？为什么其他服务端点也有问题？
4

1 回答 1

1

在花时间处理支持票后，我们发现了一些信息。所以我会在这里发布我的发现，以防它对某人有所帮助。

演员事件使用重新订阅模型来确保它们仍然连接到演员。默认每 20 秒执行一次。这意味着正在使用大量资源，最终整个系统因等待重新订阅的大量空闲线程而过载。resubscriptionInterval您可以通过在订阅时设置为更高的值来减少负载。缺点是这也意味着客户端可能会同时错过事件（如果移动分区）。

为了抵消重新订阅的延迟，可以挂钩到较低级别的服务结构事件。在支持电话中向我提供了以下伪代码。

  1. 注册参与者服务的端点更改通知
           fabricClient.ServiceManager.ServiceNotificationFilterMatched += (o, e) =>
            {
                var notification = ((FabricClient.ServiceManagementClient.ServiceNotificationEventArgs)e).Notification;
                /*
                 * Add additional logic for optimizations
                 * - check if the endpoint is not empty
                 * - If multiple listeners are registered, check if the endpoint change notification is for the desired endpoint
                 * Please note, all the endpoints are sent in the notification. User code should have the logic to cache the endpoint seen during susbcription call and compare with the newer one
                 */
                List<long> keys;
                if (resubscriptions.TryGetValue(notification.PartitionId, out keys))
                {
                    foreach (var key in keys)
                    {
                        // 1. Unsubscribe the previous subscription by calling ActorProxy.UnsubscribeAsync()
                        // 2. Resubscribe by calling ActorProxy.SubscribeAsync()
                    }
                }
            };

            await fabricClient.ServiceManager.RegisterServiceNotificationFilterAsync(new ServiceNotificationFilterDescription(new Uri("<service name>"), true, true));
  1. 将重新订阅间隔更改为适合您需要的值。缓存分区 id 到 actor id 的映射。当副本的主端点更改时，此缓存将用于重新订阅（参考 #1）
              await actor.SubscribeAsync(handler, TimeSpan.FromHours(2) /*Tune the value according to the need*/);
              ResolvedServicePartition rsp;
              ((ActorProxy)actor).ActorServicePartitionClientV2.TryGetLastResolvedServicePartition(out rsp);
              var keys = resubscriptions.GetOrAdd(rsp.Info.Id, key => new List<long>());
       keys.Add(communicationId);

上述方法确保以下

  • 订阅会定期重新订阅
  • 如果主端点在两者之间发生变化，actorproxy 会从服务通知回调中重新订阅

这将结束来自支持调用的伪代码。

回答我原来的问题：

  • 演员事件是否有已知/建议的限制？ 没有硬限制，只有资源使用。
  • 增加分区数或/和节点数会有所帮助吗？分区计数不。节点计数可能，仅当这意味着节点上的订阅实体因此而减少时。
  • 通信干扰是否合乎逻辑？为什么其他服务端点也有问题？ 是的，资源争用是原因。
于 2021-05-31T12:22:37.963 回答