我正在试验 MATLAB SPDM。但是,我有以下问题需要解决:
- 我正在运行一个很长的算法,我想保存一路上的进度,以防断电、有人拔掉电源插头或内存错误。
- 该循环有 144 次迭代,每次大约需要 30 分钟才能完成 => 72 小时。在这段时间里可能会出现很多问题。当然,我的机器上有分布式计算工具箱。计算机有 4 个物理内核。我运行 MATLAB R2016a。
- 我真的不想使用 parfor 循环,因为我连接结果并且在迭代之间具有依赖性。我认为 SPMD 是我想做的最好的选择。
我将尽我所能描述我想要的: 我希望能够在循环的一组迭代中保存到目前为止的结果,并且我想通过 worker 保存结果。
下面是一个最小(非)工作示例。最后四行应放在不同的 .m 文件中。此函数在 parfor 循环中调用,允许保存中间迭代。它在我使用的其他例程中正常工作。错误在第 45 行 ( output_save
)。不知何故,我想将复合对象“拉”成“常规”对象(单元格/结构)。
我的预感是我不太了解复合对象是如何工作的,尤其是如何将它们保存到“常规”对象(单元格、结构等)中。
% SPMD MWE
% Clear necessary things
clear output output2 output_temp iter kk
% Useful thing that will be used later on
Rorder=perms(1:4);
% Stem of the file to save the data to
stem='MWE_MATLAB_spmd';
% Create empty cells where the results of the kk loop will be stored
output1{1,1}=[];
output2{1,2}=[];
% Start the parpool
poolobj=gcp;
% Define which worker/lab will do which iteration
iterperworker=ceil(size(Rorder,1)/poolobj.NumWorkers);
for i=1:poolobj.NumWorkers
if i<poolobj.NumWorkers
itertodo{1,i}=1+(iterperworker)*(i-1):iterperworker*i;
else
itertodo{1,i}=1+(iterperworker)*(i-1):size(Rorder,1);
end
end
%Start the spmd
% try
spmd
iter=1;
for kk=itertodo{1,labindex}
% Print which iteration is done at the moment
fprintf('\n');
fprintf('Ordering %d/%d \r',kk,size(Rorder,1));
for j=1:size(Rorder,2)
output_temp(1,j)=Rorder(kk,j).^j; % just to populate a structure
end
output.output1{1,1}=cat(2,output.output1{1,1},output_temp); % Concatenate the results
output.output2{1,2}=cat(2,output.output1{1,2},0.5*output_temp); % Concatenate the results
labindex_save=labindex;
if mod(iter,2)==0
output2.output=output; % manually put output in a structure
dosave(stem,labindex_save,output2); % Calls the function that allows me to save in parallel computing
end
iter=iter+1;
end
end
% catch me
% end
% Function to paste in another m-file
% function dosave(stem,i,vars)
% save(sprintf([stem '%d.mat'],i),'-struct','vars')
% end