optimization - 随机爬山与随机重启爬山算法

Question

随机爬山和随机重启爬山有什么区别？

Answer 1

随机爬山： 意味着我们不会总是在梯度方向上采取步骤（最大化/最小化目标函数的步骤），算法不会选择概率为 1 的最佳步骤，但是prob 小于 1，其他时候会选择随机方向，所以有时候可以向相反的方向走一步，避免局部极小，最大化探索

随机重启爬山： 也是一种避免局部最小值的方法，算法将始终采取最佳步骤（基于梯度方向等），但会对该算法运行进行几次（很多）迭代，每次迭代将从飞机上的一个随机点，所以它可以找到其他山顶

两种方法可以结合使用以获得最佳性能

Answer 2

随机爬山在移动之前不会检查所有邻居。相反，这种搜索算法随机选择一个邻居节点，并决定是选择它作为当前状态还是检查另一种状态。

随机重启爬山从随机生成的初始状态进行一系列爬山搜索，每次运行直到它停止或没有明显的进展。