tensorflow - 我可以在 tensorflow 联合中聚合梯度吗？

Question

目前，张量流的 federated_learn 似乎只包括对模型的可训练变量起作用的 federated_averaging 之类的东西。我将如何实现需要在服务器上聚合梯度的算法？

谢谢

Answer 1

截至发布0.2.0时，TensorFlow Federated 包含 FedSGD ( tff.learning.build_federated_sgd_process()) 的实现，如本文所述：

从分散数据中高效学习深度网络 H. Brendan McMahan、Eider Moore、Daniel Ramage、Seth Hampson、Blaise Aguera y Arcas。AISTATS 2017. https://arxiv.org/abs/1602.05629

代码可以在 中找到tensorflow_federated/python/learning/federated_sgd.py，它显示了客户端上的聚合梯度并将聚合的梯度发送回服务器。