问题标签 [federated-learning]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
26 浏览

tensorflow - 联邦学习中的MODEL_SPEC(使用Tensorflow Federated Core)

我正在尝试使用联邦代码来构建我自己的联邦学习算法。但是我遇到了一个问题。在官方教程中,它定义了 Model Spec 如下:

我想知道是否需要将模型作为 OrderedDict 输入。我可以将模型输入为可训练的 Keras 模型吗?

谢谢!

0 投票
1 回答
50 浏览

tensorflow-federated - loss increase when updating "State"

I would like to update state, So here is what i wrote:

My problem is loss increase contrary to the accuracy which makes a small decrease:

Is there another solution to solve this problem ? Thanks

0 投票
0 回答
86 浏览

tensorflow-federated - 使用 tff.learning.build_federated_evaluation 而不是 keras_evaluate

我是 TFF 的新手,我正在学习本教程。我想用keras_evaluateTFF 的预定义函数替换函数:evaluation = tff.learning.build_federated_evaluation(model)

那么如何编辑这些行:

在这一行:

该函数仅对与 相反的数据集示例进行build_federated_evaluation评估,它federated_test_data完全评估。那么如何修改此函数以评估federated_test_data其他教程中的总体情况: test_metrics = evaluation(state.model, federated_test_data)

0 投票
1 回答
28 浏览

tensorflow-federated - 如何在联邦学习中打印模型的状态

我想打印(在训练之前)模型的状态:使用 print(state['model']),我发现了这个错误:

0 投票
1 回答
73 浏览

tensorflow-federated - TFF 中的范数裁剪技术

我正在使用“DP-FedAvg”算法训练一个 DP 联合学习模型,该算法基于以下论文:

学习差分私有循环语言模型

本文提出了两种规范裁剪技术“平面裁剪”和“逐层裁剪”,然后使用“逐层裁剪”进行实验。

在 TFF 的情况下,当将 DP 查询和聚合过程附加到联合模型时,默认实现哪种裁剪技术?有没有办法指定使用的剪辑技术?

0 投票
1 回答
75 浏览

tensorflow-federated - 在 FL 中,客户可以训练不同的模型架构吗?

我在本教程中练习,我希望每个客户训练不同的架构和不同的模型,这可能吗?

0 投票
1 回答
24 浏览

pytorch - CNN 模型的参数返回 None

我创建了一个这样的 CNN 模型global_model = CNNMnist(args=args)。然后我将它发送到设备,将其设置为训练。然后我训练我的本地模型,收集 local_weights 和它们的平均值以获得更新的 global_model。现在我正在尝试从.parameters()函数中获取项目,但我得到的None只是item.grad. 当我为 local_models 做同样的事情时,我得到了想要的输出。我究竟做错了什么?

任何帮助,将不胜感激。

0 投票
0 回答
23 浏览

pytorch - 使用 .grad 获取 global_model 的梯度

我正在联邦学习设置中训练一个 CNN 模型。我更新我的local_models,然后我平均weights我从local_model更新中得到weightglobal_model。由于我在训练loss.backward()期间使用local_model,我可以使用以下方法获得渐变:

但我不能.grad用于我的,因为在权重平均期间global_model没有函数使用。我的问题是,我如何获得我的更新渐变?backward()local_modelglobal_model

0 投票
0 回答
19 浏览

federated-learning - 在联邦学习设置中向客户端模拟数据分发

我正在研究一个包含来自 130 个客户端(100k 个数据点)的数据的联合二进制分类模型,但是我不知道哪个数据点来自哪个客户端,我想引入数据异构性以使分配给的数据点数量每个客户端一个真实的模拟一个真实的生活场景,我如何将数据点分配给相应的客户端?

ps 我正在使用医院数据(来自 130 家医院)来预测患者患病的机会

0 投票
1 回答
43 浏览

tensorflow-federated - intial_clip_norm 在 TFF 中的高斯自适应裁剪中是什么意思?

我正在尝试使用高斯自适应裁剪几何方法实现差分私有 FL 二进制分类模型。

我知道 initial_l2_norm_clip 是根据 target_unclipped_quantile 值更新的裁剪范数的初始值。

我们如何为特定模型确定适当的 initial_l2_norm_clip 值?

当我将它(initial_l2_norm_clip)设置为 0.1 时,我得到了一个非常低的 AOC(大约 0.4),但是当我将它设置为更高的值 1.0 时,我得到了一个更好的 AOC 值(大约 0.8)并且在这两种情况下都是“剪辑”迭代过程记录的度量总是增加(即从 0.1 到 0.3 和 1.0 到 1.2)

我的模型运行了 13 轮,每轮有 10 个客户,这有什么不同吗?