问题标签 [least-squares]

我在使用 excel 找到方程组的解决方案时遇到了一些麻烦。
该系统的形式为Ax=b，具有A矩阵 和x和b向量。显然，目标是找到 x。

系统不一定具有相同数量的方程和未知数。精确的解决方案并不总是可能的。因此，我想找到最好的近似值，可能使用最小二乘法。

Excel中是否有标准方法可以做到这一点？
如果没有，有人可以为我提供一个可以做到这一点的宏或解释我如何编写自己的宏吗？

谢谢

我想在 R 中运行两阶段概率最小二乘回归。有人知道该怎么做吗？外面有包吗？我知道可以使用 Stata 来做到这一点，所以我想用 R 来做到这一点是可能的。

任何人都可以提供一个为最小二乘函数提供雅可比行列式的例子scipy吗？

我无法弄清楚他们想要的方法签名——他们说它应该是一个函数，但很难弄清楚这个函数应该接受哪些输入参数。

几天来，我一直在尝试在 Python 中实现这个算法。我不断地回到它，只是放弃并感到沮丧。我不知道发生了什么事。我没有人可以请教，也没有任何地方可以寻求帮助，所以我来到了这里。

PDF 警告：http ://www.cs.uiuc.edu/class/sp08/cs473/Lectures/lec10.pdf

我不认为它解释清楚，我肯定不明白。

我对正在发生的事情的理解是这样的：

我们有一组点 (x1,y1), (x2,y2).. 我们想找到一些最适合这些数据的线。我们可以有多条直线，这些直线来自给定的 a 和 b (y = ax +b) 论坛。

现在算法从末尾开始 (?) 并假设点 p(x_i, y_i) 是线段的一部分。然后注释说最优解是 '是 {p1, . . . pi−1} 加上（最佳）线通过 {pi , . . . pn}'。这对我来说意味着，我们去点 p(x_i, y_i) 并向后走并通过其余点找到另一条线段。现在最佳解决方案是这两个线段。

然后它需要一个我无法遵循的逻辑跳转，并说“假设最后一个点 pn 是从 p_i 开始的段的一部分。如果 Opt(j) 表示前 j 个点的成本并且 e(j,k)通过点 j 到 k 的最佳直线误差 Opt(n) = e(i, n) + C + Opt(i − 1)"

然后是算法的伪代码，我不明白。我知道我们想要遍历点列表并找到最小化 OPT(n) 公式的点，但我只是不遵循它。这让我觉得自己很愚蠢。

我知道这个问题很让人头疼，而且不容易回答，但我只是在寻找一些指导来理解这个算法。我为 PDF 道歉，但我没有更简洁的方式将关键信息提供给读者。

感谢您抽出宝贵时间阅读本文，我很感激。

为我的模型收集数据后：

y = b(0) + b(1)x(1) + ... + b(i)x(i)

y = Xb 其中 y 是列向量 (n*1)，X 是矩阵 (n*m)，b (m*1)。

我使用普通最小二乘法（OLS）在python中实现了一个解决方案来找到b。我的问题是我的解决方案完全取决于 X 是否可逆。如果 X 不是，那么我无法使用 OLS 估计 b。

有什么建议么？

谢谢。

我已经尝试了两种实现最小二乘拟合 (LSF) 算法的方法。

第一个代码只是教科书的方法，如 Wolfram 在 LSF 上的页面所述。第二个代码重新排列方程以最小化机器错误。两种代码都为我的数据产生了相似的结果。我将这些结果与 Matlab 的 p=polyfit(x,y,1) 函数进行了比较，使用相关系数来测量拟合的“优度”并比较 3 个例程中的每一个。我观察到，虽然所有 3 种方法都产生了良好的结果，但至少对于我的数据而言，Matlab 的例程最适合（其他 2 个例程的结果彼此相似）。

Matlab 的 p=polyfit(x,y,1) 函数使用 Vandermonde 矩阵、V（nx 2 矩阵）和 QR 分解来解决最小二乘问题。在 Matlab 代码中，它看起来像：

我不是数学家，所以我不明白为什么它会更准确。尽管差异很小，但在我的情况下，我需要从 LSF 中获得斜率并将其乘以一个大数，因此我的结果中会显示出任何准确性的提高。

由于无法进入的原因，我无法在工作中使用 Matlab 的例程。所以，我想知道是否有人有一个更准确的基于方程的方法推荐，我可以使用它是对上述两种方法的改进，在舍入误差/机器精度/等方面。

任何意见表示赞赏！提前致谢。

我正在探索一些数据，所以我想做的第一件事是尝试对其进行正态（高斯）分布。这是我第一次在 R 中尝试这个，所以我一步一步来。首先，我预先合并了我的数据：

由于我想要计数，我需要添加一个归一化因子 (N) 来扩大密度：

然后我为显示创建拟合数据，一切正常：

当我发现这个线程谈论使用 geom_smooth() 一步完成所有操作时，我感到很兴奋，但我无法让它工作：

• http://www.mail-archive.com/r-help@r-project.org/msg109882.html

这是我尝试的......以及我得到的：

该错误似乎表明它正在尝试适应观察到的变量counts，但这没有任何意义，而且如果我也为 counts 指定一个“起始”值，它可以预见会吓坏：

知道我做错了什么吗？当然，这不是世界末日，但步骤越少越好，你们总是为这些常见任务想出最优雅的解决方案。

提前致谢！

杰弗里

我有一个类型的两个变量的函数： y = f(x1,x2) 要近似，我想使用最小二乘法来做到这一点。

Polyval 和 Polyfit 处理二维函数，这里我需要求解一个三维函数。

提前致谢。

国标

请问有人可以建议用Java很好地实现Levenberg-Marquardt算法吗？我更喜欢完整性和准确性而不是性能。

谢谢。

我正在写 R 中的一些帮助。

我正在使用以下脚本进行简单的 RCBD 分析，以比较特征“X”的基因型（名称）。

我的数据缺少数据（“NA”）。因此，在计算 LSD 之后，我想按降序比较基因型。我认为平均值不好，因为某些“名称”的某些“块”丢失了。

所以，问题是，打印出“最小二乘均值”的脚本是什么，我认为与 LSD 相比，它比简单平均值最好。谢谢您的帮助，

奥斯瓦尔德