问题标签 [non-linear-regression]

用于回归（时间序列预测）和分类的神经网络架构有什么不同吗？

我做了一些回归测试，但结果很糟糕。

我目前正在使用一个基本的前馈网络，一个隐藏层有 2 到 4 个神经元、tanh激活函数和动量。

我正在尝试完成我的论文，但鉴于我不是程序员，我在弄清楚如何编写 SPSS 语法来绘制我的结果时遇到了麻烦。我有三个连续预测变量和一个连续因变量；我需要绘制线性和曲线多元回归交互结果（多个假设）。SPSS ChartBuilder 将让我绘制两个预测变量，但不是三个。我认为必须有一种方法可以更改粘贴的语法以添加我的第三个预测器……我将非常感谢您的帮助。

我的顾问要求我的折线图包含我的一个预测变量的平均值和 +/-1 SD（“外向性”；这将导致三个单独的图表 - 每个用于平均值和 +/-1 SD 的第二个预测变量“学习目标导向”；例如，弱、中等和强水平），而我的第三个预测变量是我所有图表的 X 轴，“人数”。任何帮助将不胜感激，包括如果您能指出一个可以教我命令的资源的方向，以便我可以尝试编写自己的语法（请不要推荐 SPSS 的命令语法参考；我已经看过那里） . 谢谢你。

我正在编写一个函数，它允许尝试许多起始参数组合来拟合非线性回归，因为nlsList()只允许一组起始参数。

我已经做到了这一点，但想在函数中添加一个预测数据框，以便于绘制以比数据供应更小的 x 增量返回最佳拟合曲线。例如，使用 100 个点而不是 10 个点来实现平滑的预测曲线。

在我的函数参数中，我将公式指定为参数，并且对待是函数中的公式。一些公式包括一个我为包含非线性关系而制作的函数。然后我使用do.call(function, new.starting params)将预测参数传递到预测数据帧。

我还没有找到一种将任何已定义和固定变量从函数隔离并传递给函数的do.call()方法。

有没有办法获得公式中定义的值？所以在这个例子中 Tc = 25...

这返回：

我想知道是否有办法将定义的变量与公式对象隔离开来，或者是否有其他方法可以做到这一点？

我有一个情节，其中每个 x 值都有 2 个 Y 值。数据也是非线性的。情节如下所示：

现在我的问题是我想将回归曲线分别拟合到其中两条曲线（上部和下部）。我知道这不是一个明确的问题，因为我手头没有唯一的识别方案，但我知道响应系统可以随机地针对相同的输入（或几乎相同的输入）以两种不同的方式运行。

数据文件可以在这里找到这里使用的标题“sigma”和“mabs_b”

完整数据集摘要：

输出head(data,20)：

我在 Julia 中使用 IPOPT。我的目标函数会针对某些参数值抛出错误（具体来说，虽然我认为这无关紧要，但它涉及协方差矩阵的 Cholesky 分解，因此要求协方差矩阵是正定的）。因此，我对参数进行非线性约束，以便它们不会产生错误。尽管有这个限制，IPOPT 仍然坚持在参数处评估目标函数，这会导致我的目标函数抛出错误。这会导致我的脚本崩溃，导致痛苦和痛苦。

我很感兴趣，一般来说，IPOPT 会在违反约束的参数处评估函数。（我确保它确实在评估函数之前检查了约束。）如果可能，我想知道如何阻止它这样做。

我已将 IPOPT 的 'bound_relax_factor' 参数设置为零；这没有帮助。我知道我可以要求目标函数返回NaN而不是抛出错误，但是当我这样做时，IPOPT 似乎变得更加困惑并且最终没有收敛。可怜的东西。

如果有帮助，我很乐意提供一些示例代码。

提前谢谢了 ：）：）

编辑：

一位评论者建议我要求我的目标函数在违反约束时返回一个错误的目标值。不幸的是，当我这样做时会发生这种情况：

我不确定为什么 Ipopt 会从 2.0016x10^2 的评估点变为 10^10 的评估点——我担心 IPOPT 有一些非常基本的东西我不理解。

将 'constr_viol_tol' 和 'acceptable_constr_viol_tol' 设置为其最小值不会显着影响优化，也不会“过度约束”我的参数（即确保它们不能接近不可接受的值）。

所以这是游戏计划。我试图在下面使用这个数据集（将是一个结构对象），通过它运行一个曲线回归模型。然后，我想在每个点取斜率（即每个 x 的一阶导数值），并将具有该斜率信息的数据表保存在它自己的列中。

输入.txt：

脚本.r：

摘要：获取数据，运行回归，获取每个值的斜率，然后将具有斜率的相同数据保存在单独的列中。输出将是同一张表，但有一个新的第三列：与每个 x 值相关的斜率。输出必须如下所示：

输出.txt：

问题是，如何“获取”该信息以及如何重新保存它是我不知道如何正确执行的事情。我不熟悉 R 如何为方程进行微积分。我可以从 summary() 中得到方程的常数，但我无法处理它。

我无法找到正确的信息组合（或者可能只是我正在使用的搜索词？）。如果其中一些看起来像是不正确的伪代码，我深表歉意，至少可以说，R 一直在学习……令人沮丧。帮助？

R 版本 3.2.4 Redhat Linux 4.1.2 数据借鉴自https://plot.ly/~gwaligroski/15/michaelis-menten-equation 代码改编自https://rpubs.com/RomanL/6752

我在 R 中使用响应变量，即学生在特定课程中收到的字母等级。响应是有序的，并且在我看来，在逻辑上似乎是成比例的。我的理解是，我需要先测试它是否成比例，然后才能使用 polr() 而不是 multinom()。

对于我的一门数据课程，我“测试”了这样的比例：

对于测试比例优势假设的第二种方法，我还运行了两个 vglm 模型，一个与family=cumulative(parallel =TRUE)另一个与family=cumulative(parallel =FALSE). 然后我pchisq()用模型偏差的差异和剩余自由度的差异进行了测试。

这两种方式都值得尊重吗？如果不是，我很乐意帮助确定是否接受或拒绝比例赔率假设的实际编码！

除了上述两个测试之外，我还分别针对每个预测变量绘制了累积概率。我读到我希望这些线是平行的。我不明白的是，polr()您的输出是每个自变量（一个系数）的单个斜率，然后是一个特定的截距，具体取决于您使用的累积概率（例如：P(Y<=A), P( Y<=B）等）。那么，如果每个方程的斜率系数都相同，那么这些线怎么可能不平行呢？

我在 Chris Bilder 的 YouTube 课程中学习了基础知识；他在第 42 分钟谈到了平行图。

任何帮助表示赞赏！谢谢！

在机器学习中，我们说：

• w ₁ x ₁ + w ₂ x ₂ +...+ w _n x _n是一个线性回归模型，其中 w ₁ ,w ₂ ....w _n是权重，x ₁ ,x ₂ ...x ₂是的特点，而：
• w ₁ x ₁ ² + w ₂ x ₂ ² +...+ w _n x _n ²是非线性（多项式）回归模型

但是，在一些讲座中，我看到人们说模型是基于权重的线性模型，即权重系数是线性的，并且特征的程度无关紧要，无论它们是线性（x ₁）还是多项式（x ₁ ² )。真的吗？如何区分线性模型和非线性模型？它是基于权重还是特征值？

我有一个函数 Y = f(a,b)。

a 和 b 以 0 为界

该函数没有定义，但可以想象成一个黑盒子，如果我插入 (a,b) 的值，我会得到一个“Y”。也可能有（a，b）的其他值给出相同的Y。但它总是（a，b）的有限数量。

我使用了蛮力搜索并找到了所有值并用它绘制了一个 3D 图，如下所示。但这并不总是曲线。这只是我的初始条件的一种情况。

现在我的目标是知道 Y' 的特定值，我需要以最少的迭代次数找到所有解决方案 (a,b)。（通过迭代我的意思是，将 (a,b) 插入函数以获得 Y）。

我试图找出来某个地区的人数与该地区的住宿、商店、餐馆和休闲场所的数量之间的关系。我知道访问某个地区的总人数，但我不知道他们是来住宿还是购物等。

因此，我根据该地区的人数绘制了每个地区的餐馆数量等。这是图表。这是我要分析的一些数据

因此，这些点的一般形状是旋转 90 度的抛物线。我对 R 不是很熟悉，也无法弄清楚如何找到这个等式/知道这是否不可能。

我的目标是获取每个参数（即住宿、餐厅等）的系数，因此我可以得出类似“如果我们添加 10 家餐厅，那么该地区应该会增加 x 人的数量”之类的结论。

这是我尝试过但未成功的一些代码片段