7

我正在使用 numpy einsum 对一些 3 维和 4 维张量执行相当复杂的操作。

我的实际代码是

np.einsum('oij,imj,mjkn,lnk,plk->op',phi,B,Suu,B,phi)

这就是我想要它做的事情。

使用 einsum_path，结果是：

>>> path = np.einsum_path('oij,imj,mjkn,lnk,plk->op',phi,B,Suu,B,phi)

>>> print(path[0])
['einsum_path', (0, 1), (0, 3), (0, 1), (0, 1)]

>>> print(path[1])
  Complete contraction:  oij,imj,mjkn,lnk,plk->op
         Naive scaling:  8
     Optimized scaling:  5
      Naive FLOP count:  2.668e+07
  Optimized FLOP count:  1.340e+05
   Theoretical speedup:  199.136
  Largest intermediate:  7.700e+02 elements
--------------------------------------------------------------------------
scaling                  current                                remaining
--------------------------------------------------------------------------
   4                imj,oij->moj                     mjkn,lnk,plk,moj->op
   5               moj,mjkn->nok                          lnk,plk,nok->op
   4                plk,lnk->npk                              nok,npk->op
   4                 npk,nok->op                                   op->op

这表明理论上的加速约为 200 倍。

如何使用此结果来加速我的代码？我如何“实施” einsum_path 告诉我的内容？

4

2 回答 2

6

做一些时间测试

path = np.einsum_path('oij,imj,mjkn,lnk,plk->op',phi,B,Suu,B,phi)

np.einsum('oij,imj,mjkn,lnk,plk->op',phi,B,Suu,B,phi, optimize=False)
np.einsum('oij,imj,mjkn,lnk,plk->op',phi,B,Suu,B,phi, optimize=True)         
np.einsum('oij,imj,mjkn,lnk,plk->op',phi,B,Suu,B,phi, optimize=path[0])

在我的测试中，第二个 2 以相同的速度运行。对于一个小问题optimize=False来说速度更快，大概是因为分析和重新排列需要时间。对于较大的问题，理论加速比较大，实际加速比True可能大于理论。据推测，内存管理正在减缓这种False情况。

就是这样theoretical speedup，仅基于 FLOPS 计数的估计。只有在 FLOPS 主导计算的情况下才会如此。

您也可以计时path计算。问题的大小将决定它的时间是总时间的一小部分还是大部分。

于 2019-02-01T19:44:59.907 回答
0

从源代码

Theoretical Speedup = speedup = naive_cost / opt_cost
naive_cost = _flop_count(idx_contract, idx_removed, len(input_sets), idx_dict)

因此，据此判断，为了加快流程，您需要降低FLOPS（每秒浮点操作数）。由于朴素成本是未优化表达式的成本，因此您需要以这样一种方式重写您的表达式，即删除与表达式相关的任何“垃圾”，同时在不改变表达式的底层结构的情况下离开。

从你的问题来看，你正在做一些复杂的表达，这可能是不可能的。但是要回答您的问题，尝试重写您的表达式是一种更紧凑的方式，以获得较低的理论加速。

你可以尝试使用不同的路径来降低你的 FLOPS。

于 2019-02-01T15:33:26.123 回答