问题标签 [federated-learning]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
548 浏览

tensorflow - TensorFlow Federated 中 Resnet 的评估精度低

我在联邦图像分类教程中实现了 Resnet34 模型。10轮之后,训练准确率可以高于90%,然而,使用最后一轮的评估准确率state.model总是在50%左右。

我很困惑评估部分可能有什么问题?此外,我打印了服务器模型的不可训练变量(BatchNorm 中的均值和方差),它们是 0 和 1,在这些轮次之后没有更新/平均。他们应该是那样还是那样可能是问题所在?非常感谢!

更新:

准备训练数据和打印结果的代码:

训练和评估代码:

每一轮之后的训练和评估结果:

0 投票
1 回答
923 浏览

python - Pysyft 联邦学习,Websockets 错误

我正在尝试从 pysyft 运行联合学习(https://github.com/OpenMined/PySyft/blob/dev/examples/tutorials/advanced/websockets-example-MNIST-parallel/Asynchronous-federated-learning-on-MNIST .ipynb)创建远程工作人员并通过 websockets 连接到他们。但是我在执行评估步骤时遇到错误。

他们的论坛没有明确的答案。有没有人知道这个脚本中的问题是什么。

我的 syft 版本:

0 投票
1 回答
309 浏览

websocket - Pysyft 客户端和服务器

这个问题是关于我使用 pysyft 库进行联合学习的项目,但是那些具有 websockets 知识的人也可以提供帮助,因为 pysyft 使用 websockets 进行服务器和客户端交互。

首先,我有一个关于服务器和客户端交互的问题。我创建了一个仪表板来启动一个 pysyft 服务器和一个连接到上述服务器的 pysyft 客户端。但是,我有一个场景,我想让客户端不时与服务器断开连接(手动断开连接),以便更改模型参数。

我的解决方案是在 pysyft websocketClientWorker 上执行 close(),它调用 websocket 对象上的 shutdown() 函数。我认为这样做会关闭客户端和服务器之间的连接。在对模型参数进行任何更改之后。我将再次重新创建 pysyft websocketClientWorker 对象并重新执行模型训练。但是,我面临的问题是:websocket._exceptions.WebSocketConnectionClosedException:套接字已经关闭。在数据加载器的迭代期间抛出此异常(尽管成功连接到服务器)。

也许有更好的方法来处理这种情况,或者我错过了对 websockets 的某些基本理解。任何帮助将不胜感激。谢谢 :)

0 投票
0 回答
395 浏览

python - 在 Pytorch/Pysyft 中使用自定义模型进行联邦学习

我正在尝试建立一个联邦学习模型。在我的场景中,我有 3 个工作人员和一个协调器。工作人员开始训练,在每轮训练结束时,模型被发送到编排器,编排器计算联合平均值并发回新模型,工作人员在该新模型上进行训练等。自定义网络是我从头开始构建的自动编码器。

不幸的是,我从工作人员那里收到此错误消息:RuntimeError: forward() is missing value for argument 'inputs'。声明: forward(ClassType self, Tensor inputs, Tensor outputs) -> (Tensor)这很奇怪,因为我的 forward 函数在 AE 类中定义如下:

0 投票
1 回答
252 浏览

tensorflow - tensorflow-federated 是否支持动态批量大小?

tensorflow-federated 是否支持为不同的模拟设备分配不同的批大小,并为不同的时期改变批大小?

0 投票
1 回答
82 浏览

python-3.x - tf_encrypted.player如何配置?

在 syft 上使用 keras 训练模型联邦学习时,启动不同系统上的工作人员作为客户端工作人员,在终端上执行特定的命令行。

此命令应在我的客户工作者之一的系统上执行。执行代码时

如何在这个系统上准备联邦学习的配置文件?

0 投票
1 回答
54 浏览

grid-search - 网格搜索适用于 TFF 和 FL。?

我目前正在研究 TFF 和图像分类(图像分类的联合学习)emnist。

我正在查看模型学习率和优化器的超参数。网格搜索在这里是个好方法吗?. 在现实世界的场景中,您是否会简单地从整个域中采样客户端/设备,如果是这样,如果我要进行网格搜索,我是否必须首先修复我的客户端示例。在这种情况下进行网格搜索是否有意义。

选择参数的典型现实世界方式是什么,即这更像是一种启发式方法。?

科林。. .

0 投票
1 回答
689 浏览

python - 联邦学习实施

我是python和机器学习的新手。我尝试使用 MNIST 数据集实现以下用于联邦学习的代码,但它不起作用!它试图在本地工人中以分布式方式训练模型。MNIST 数据集的 jpeg 版本在这里使用。它由 42000 个数字图像组成,每个类别都保存在一个单独的文件夹中。我将使用此代码片段将数据加载到内存中,并保留 10% 的数据用于稍后测试经过训练的全局模型。 当我实现以下 fl_implemetation.py 时出现以下错误

我使用的原始代码可以在这里找到: https ://github.com/datafrick/tutorial

和第二个fl_mnist_implementation_tutorial_utils.py

0 投票
2 回答
247 浏览

tensorflow - 如何将权重从基线模型转移到联合模型?

在 Colab 中尝试过类似的操作,但我得到 errno 21,是一个目录。

然后我尝试了另一种方法,如下所示,

就像 assign_weights_to_keras_model() 将权重从 tff_model 转移到 keras 模型一样,我想将权重从 keras 模型转移到 tff_model。如何才能做到这一点?

0 投票
1 回答
141 浏览

numpy - 张量大小未匹配损失函数

1:当尝试使用批量大小执行 pytorch 训练序列时,当 nn 输出和批次通过 MSEloss 函数时,我的损失函数似乎出错。

2:试图搜索关于 nn 填充,但是这不是一个 covnet 而是一个自动编码器,类似的堆栈溢出问题没有产生结果。

3:神经网络:

火车方法:

错误: