29

在制定另一个 SO question 的答案时,我遇到了一些关于 Mathematica 中尾递归的奇怪行为。

Mathematica 文档提示可能会执行尾调用优化。但是我自己的实验给出了相互矛盾的结果。对比一下,例如下面两个表达式。第一个使 7.0.1 内核崩溃,可能是由于堆栈耗尽:

(* warning: crashes the kernel! *)
Module[{f, n = 0},
  f[x_] := (n += 1; f[x + 1]);
  TimeConstrained[Block[{$RecursionLimit = Infinity}, f[0]], 300, n]
]

第二个运行完成,似乎利用尾调用优化来返回有意义的结果:

Module[{f, n = 0},
  f[x_] := Null /; (n += 1; False);
  f[x_] := f[x + 1];
  TimeConstrained[Block[{$IterationLimit = Infinity}, f[0]], 300, n]
]

两个表达式都定义了一个尾递归函数f。在第一个函数的情况下,Mathematica 显然认为复合语句的存在足以阻止任何尾调用优化的机会。另请注意,第一个表达式受控于$RecursionLimit,第二个受控于$IterationLimit-- 这表明 Mathematica 对这两个表达式的处理方式不同。(注意:上面引用的 SO 答案有一个不那么做作的函数,它成功地利用了尾调用优化)。

所以,问题是:有谁知道 Mathematica 在什么情况下执行递归函数的尾调用优化?最好参考 Mathematica 文档或其他WRI材料中的明确声明。也欢迎投机。

4

2 回答 2

25

我可以总结一下我个人经验得出的结论,并声明以下内容可能不是完全正确的解释。答案似乎在于 Mathematica 调用堆栈与传统调用堆栈之间的差异,这源于 Mathematica 模式定义的函数是真正的规则。因此,没有真正的函数调用。Mathematica 需要一个堆栈的原因不同:因为正常的计算是从表达式树的底部开始的,它必须保留中间表达式,以防(子)表达式的更深的部分由于规则应用而被替换(某些部分一个表达式从底部增长)。尤其是对于定义我们在其他语言中称为非尾递归函数的规则时,情况尤其如此。所以,再一次,

这意味着,如果作为规则应用的结果,一个(子)表达式可以被整体重写,则表达式分支不需要保留在表达式堆栈上。这可能是 Mathematica 中所谓的尾调用优化——这就是为什么在这种情况下我们使用迭代而不是递归(这是规则应用程序和函数调用之间差异的一个很好的例子)。像这样的规则f[x_]:=f[x+1]就是这种类型。但是,如果某些子表达式被重写,产生更多的表达式结构,那么表达式必须存储在堆栈中。规则f[x_ /; x < 5] := (n += 1; f[x + 1])属于这种类型,在我们回忆()CompoundExpression[]. 在这里发生的示意图是f[1] -> CompoundExpression[n+=1, f[2]] -> CompoundExpression[n+=1,CompoundExpression[n+=1,f[3]]]->etc. 即使对 f 的调用每次都是最后一次,它也发生在完整的CompoundExpression[]执行,所以它仍然必须保存在表达式堆栈中。有人可能会争辩说,这是一个可以进行优化的地方,为 CompoundExpression 设置一个例外,但这可能并不容易实现。

现在,为了说明我上面示意性描述的堆栈累积过程,让我们限制递归调用的数量:

Clear[n, f, ff, fff];
n = 0;
f[x_ /; x < 5] := (n += 1; f[x + 1]);

ff[x_] := Null /; (n += 1; False);
ff[x_ /; x < 5] := ff[x + 1];

fff[x_ /; x < 5] := ce[n += 1, fff[x + 1]];

跟踪评估:

In[57]:= Trace[f[1],f]
Out[57]= {f[1],n+=1;f[1+1],{f[2],n+=1;f[2+1],{f[3],n+=1;f[3+1],{f[4],n+=1;f[4+1]}}}}

In[58]:= Trace[ff[1],ff]
Out[58]= {ff[1],ff[1+1],ff[2],ff[2+1],ff[3],ff[3+1],ff[4],ff[4+1],ff[5]}

In[59]:= Trace[fff[1],fff]
Out[59]= {fff[1],ce[n+=1,fff[1+1]],{fff[2],ce[n+=1,fff[2+1]],{fff[3],ce[n+=1,fff[3+1]],   
{fff[4],ce[n+=1,fff[4+1]]}}}}

从中可以看出,表达式堆栈为fand累积fff(后者仅用于表明这是一种通用机制,ce[]只是带有一些任意头部),但不是 for ff,因为出于模式匹配的目的,第一个定义 forff是一个尝试但不匹配的规则,第二个定义ff[arg_]完全重写,不会生成需要进一步重写的更深的子部分。所以,底线似乎你应该分析你的函数,看看它的递归调用是否会从底部增长评估的表达式。如果是,就 Mathematica 而言,它不是尾递归的。

如果不展示如何手动进行尾调用优化,我的回答将是不完整的。例如,让我们考虑 Select 的递归实现。我们将与 Mathematica 链表一起工作,使其相当高效,而不是一个玩具。下面是非尾递归实现的代码:

Clear[toLinkedList, test, selrecBad, sel, selrec, selTR]
toLinkedList[x_List] := Fold[{#2, #1} &, {}, Reverse[x]];
selrecBad[fst_?test, rest_List] := {fst,If[rest === {}, {}, selrecBad @@ rest]};
selrecBad[fst_, rest_List] := If[rest === {}, {}, selrecBad @@ rest];
sel[x_List, testF_] := Block[{test = testF}, Flatten[selrecBad @@ toLinkedList[x]]]

我使用 Block 和 selrecBad 的原因是为了更容易使用 Trace。现在,这会破坏我机器上的堆栈:

Block[{$RecursionLimit = Infinity}, sel[Range[300000], EvenQ]] // Short // Timing

您可以跟踪小列表以了解原因:

In[7]:= Trace[sel[Range[5],OddQ],selrecBad]

Out[7]= {{{selrecBad[1,{2,{3,{4,{5,{}}}}}],{1,If[{2,{3,{4,{5,{}}}}}==={},{},selrecBad@@{2,{3,{4, 
{5,{}}}}}]},{selrecBad[2,{3,{4,{5,{}}}}],If[{3,{4,{5,{}}}}==={},{},selrecBad@@{3,{4,{5, 
{}}}}],selrecBad[3,{4,{5,{}}}],{3,If[{4,{5,{}}}==={},{},selrecBad@@{4,{5,{}}}]},{selrecBad[4,
{5,{}}],If[{5,{}}==={},{},selrecBad@@{5,{}}],selrecBad[5,{}],{5,If[{}==={},{},selrecBad@@{}]}}}}}}

发生的情况是结果在列表中越来越深。解决方案是不增加结果表达式的深度,实现这一目标的一种方法是让 selrecBad 接受一个额外的参数,即累积结果的(链接)列表:

selrec[{fst_?test, rest_List}, accum_List] := 
    If[rest === {}, {accum, fst}, selrec[rest, {accum, fst}]];
selrec[{fst_, rest_List}, accum_List] := 
    If[rest === {}, accum, selrec[rest, accum]]

并相应修改主函数:

selTR[x_List, testF_] := Block[{test = testF}, Flatten[selrec[toLinkedList[x], {}]]]

这将很好地通过我们的功率测试:

In[14]:= Block[{$IterationLimit= Infinity},selTR[Range[300000],EvenQ]]//Short//Timing

Out[14]= {0.813,{2,4,6,8,10,12,14,16,18,20,
<<149981>>,299984,299986,299988,299990,299992,299994,299996,299998,300000}}

(请注意,这里我们必须修改 $IterationLimit,这是一个好兆头)。使用 Trace 揭示了原因:

In[15]:= Trace[selTR[Range[5],OddQ],selrec]

Out[15]= {{{selrec[{1,{2,{3,{4,{5,{}}}}}},{}],If[{2,{3,{4,{5,{}}}}}==={},{{},1},selrec[{2,{3,{4, 
{5,{}}}}},{{},1}]],selrec[{2,{3,{4,{5,{}}}}},{{},1}],If[{3,{4,{5,{}}}}==={},{{},1},selrec[{3, 
{4,{5,{}}}},{{},1}]],selrec[{3,{4,{5,{}}}},{{},1}],If[{4,{5,{}}}==={},{{{},1},3},selrec[{4, 
{5,{}}},{{{},1},3}]],selrec[{4,{5,{}}},{{{},1},3}],If[{5,{}}==={},{{{},1},3},selrec[{5, 
{}},{{{},1},3}]],selrec[{5,{}},{{{},1},3}],If[{}==={},{{{{},1},3},5},selrec[{},{{{{},1},3},5}]]}}}

也就是说,此版本不累积中间表达式的深度,因为结果保存在单独的列表中。

于 2011-01-07T16:24:01.747 回答
4

这个答案的想法是用一个不会使我们的表达式增长的包装器替换括号 ()。请注意,我们正在寻找替代方法的函数实际上是 CompoundExpression,因为 OP 正确地指出该函数破坏了尾递归(另请参见 Leonid 的答案)。提供了两种解决方案。这定义了第一个包装器

SetAttributes[wrapper, HoldRest];
wrapper[first_, fin_] := fin
wrapper[first_, rest__] := wrapper[rest]

然后我们有

Clear[f]
k = 0;
mmm = 1000;
f[n_ /; n < mmm] := wrapper[k += n, f[n + 1]];
f[mmm] := k + mmm
Block[{$IterationLimit = Infinity}, f[0]]

正确计算 Total[Range[1000]]。

- - - 笔记 - - -

请注意,设置

wrapper[fin_] := fin;

如本案

f[x_]:= wrapper[f[x+1]]

尾递归不会发生(因为具有 HoldRest 的 wrapper 将在应用与 wrapper[fin_] 关联的规则之前评估单数参数)。

再说一次,上面对 f 的定义没有用,因为可以简单地写

f[x_]:= f[x+1]

并具有所需的尾递归。

------另一个注意事项--

如果我们为包装器提供很多参数,它可能会比必要的慢。用户可以选择写

f[x_]:=wrapper[g1;g2;g3;g4;g5;g6;g7  , f[x+1]]

第二个包装

第二个包装器将其参数提供给 CompoundExpression,因此如果提供了许多参数,它将比第一个包装器更快。这定义了第二个包装器。

SetAttributes[holdLastWrapper, HoldAll]
holdLastWrapper[fin_] := fin
holdLastWrapper[other_, fin_] := 
 Function[Null, #2, HoldRest][other, fin]
holdLastWrapper[others__, fin_] := 
 holdLastWrapper[
  Evaluate[CompoundExpression[others, Unevaluated[Sequence[]]]], fin]

注意:返回(空)序列通常在递归中可能非常有用。另请参阅我的答案here

https://mathematica.stackexchange.com/questions/18949/how-can-i-return-a-sequence

请注意,如果仅提供一个参数,此函数仍然有效,因为它具有属性 HoldAll 而不是 HoldRest,因此设置

f[x]:= holdLastWrapper[f[x+1]]

将产生一个尾递归(包装器没有这种行为)。

速度比较

让我们创建一个很长的指令列表(实际上是一个带有 Head Hold 的表达式)

nnnn = 1000;
incrHeld = 
  Prepend[DeleteCases[Hold @@ ConstantArray[Hold[c++], nnnn], 
    Hold, {2, Infinity}, Heads -> True], Unevaluated[c = 0]];

对于这些说明,我们可以将包装器的性能(和结果)与 CompoundExpression 进行比较

holdLastWrapper @@ incrHeld // Timing
CompoundExpression @@ incrHeld // Timing
wrapper @@ incrHeld // Timing

--> {{0.000856, 999}, {0.000783, 999}, {0.023752, 999}}

结论

如果您不确定何时会发生尾递归或您将向包装器提供多少参数,则第二个包装器会更好。如果您打算为包装器提供 2 个参数,例如,如果您意识到第二个包装器所做的所有事情都是为 CompoundExpression 提供的,并且您决定自己执行此操作,那么第一个包装器会更好。

-----最后注----

在 CompoundExpression[args, Unevaluated[expr]] 中, expr 仍然在 CompoundExpression 被剥离之前被评估,所以这种类型的解决方案没有用。

于 2013-03-08T11:06:30.820 回答