问题标签 [flux-machine-learning]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
1138 浏览

julia - Julia 错误:UndefVarError:σ 未定义

我从朱莉娅运行这个:

我收到此错误:

我不明白这个错误。我是朱莉娅的新手。请帮帮我。我正在关注本教程:https ://fluxml.github.io/Flux.jl/stable/models/basics.html#Taking-Gradients-1

谢谢你。

0 投票
1 回答
1407 浏览

machine-learning - Julia 中的尺寸不匹配

我收到此错误:

对于以下代码。我正在尝试在一些样本上训练模型data。我Flux在 Julia 中使用机器学习库。

我检查了我的尺寸,它们对我来说似乎是正确的。问题是什么?

0 投票
2 回答
923 浏览

machine-learning - 使用 Flux.jl 的逻辑回归

我有一个数据集,其中包含 2 个科目的学生分数以及该学生是否被大学录取的结果。我需要对数据执行逻辑回归并找到最佳参数 θ 以最小化损失并预测测试数据的结果。我不想在这里建立任何复杂的非线性网络。

数据看起来像这样 在此处输入图像描述

我有像这样为逻辑回归定义的损失函数,效果很好

我需要最小化这个损失函数并找到最佳 θ。我想用 Flux.jl 或任何其他使它更容易的库来做。阅读示例后,我尝试使用 Flux.jl,但无法将成本降至最低。

我的代码片段:

0 投票
1 回答
1057 浏览

machine-learning - 使用 Flux.jl 更新函数的参数

我在玩flux.jl,我在更新自定义函数的参数时遇到了麻烦。

该函数定义如下objective

我尝试按如下方式进行一次更新:

产生错误:

我也试过grads[p]grads[p].data. 这不会产生错误,但不会更新参数!

环境细节:
- Julia 版本 1.0.2
- Flux v0.7.0
- Distributions v0.16.4

0 投票
0 回答
106 浏览

machine-learning - 如何在 Flux 中正确定义自定义 STE 渐变?

我正在尝试使用 Flux 编写自定义 STE 渐变。激活基本上只是 sign() 函数,它的梯度是传入的梯度,因为它的绝对值 <=1,否则取消。我目前拥有的实施似乎无法正常工作

所以对于一个随机的 5x1 矩阵,我得到:

我希望 a 的梯度类似于 a,除了最后一个元素为 0。

我究竟做错了什么?

0 投票
1 回答
160 浏览

julia - Julia:Flux.jl:“函数渐变不接受关键字参数”

我正在尝试使用Flux.jl v"0.6.10(我新安装的并且看起来像一个很棒的软件包)并从flux.jl文档Julia Version 1.1.0的“基本”部分复制以下代码

但是我收到了这个错误信息:

我究竟做错了什么?

0 投票
1 回答
602 浏览

neural-network - 使用 DiffEqFlux 预测 ODE 参数

我正在尝试构建一个神经网络,它将接受 ODE 系统的解决方案并预测系统的参数。我正在使用 Julia,尤其是DiffEqFlux包。网络的结构是几个简单的Dense层链接在一起,预测一些中间参数(在这种情况下,一些化学反应自由能),然后输入一些确定性(非训练)层,将这些参数转换为进入方程组(在这种情况下,反应速率常数)。我从这里尝试了两种不同的方法:

  1. 将 ODE 求解直接链接到网络的最后一层。在这种情况下,损失函数只是将输入与输出进行比较。

  2. 让 ODE 在损失函数中求解,因此网络输出只是参数。

但是,在这两种情况下,我都Flux.train!无法真正运行。

第一个选项的一个愚蠢的小例子,它给出了我得到的相同错误(我试图让尽可能多的东西与我的实际情况平行,即求解器等,尽管我确实省略了中间确定性层因为它们似乎没有区别)如下所示。

我已经尝试了所有三个求解器层 、diffeq_adjointdiffeq_rddiffeq_fd它们都不起作用,但所有这些都给出了我无法解析的不同错误。

对于另一个选项(我实际上更喜欢,但无论哪种方式都可以),只需将模型和损失函数定义替换为:

抛出与上面相同的错误。

我已经破解了一个多星期了,完全被难住了;有任何想法吗?

0 投票
1 回答
381 浏览

neural-network - 将具有 ReLU 的神经网络拟合到多项式函数

出于好奇,我试图将具有校正线性单元的神经网络拟合到多项式函数。例如,我想看看神经网络想出一个函数的近似值是多么容易(或困难)f(x) = x^2 + x。下面的代码应该可以做到,但似乎什么也没学到。当我跑

它返回

这里的任何人都看到我如何使网络适合f(x) = x^2 + x

0 投票
1 回答
132 浏览

julia - 通量损失函数未按预期读取数据

这可能是我的一个非常简单的错误,但我似乎无法弄清楚。我正在尝试构建一个可以学习数字序列的 RNN。示例数据集(每行代表一个数据点)

我主要关注这个例子:https ://www.juliabloggers.com/a-basic-rnn/

我的数据和示例中的数据被读取为 Array{Array{Float64,1},1}。这是我的一些代码

输出:

损失函数正在读取序列中的每个数字作为损失函数的单独输入(我尝试过其他序列长度,错误是相同的,但它是“MethodError:没有方法匹配损失((序列长度)*: :Float64)”。

在我正在处理的示例中,这不是问题。我可以从头开始构建训练程序,但宁愿将东西传递给 Flux。

0 投票
2 回答
637 浏览

neural-network - DiffEqFlux.sciml_train 如何在 Julia 中用于神经 ODE?

我有一个关于如何在 Julia 中训练神经 ODE 网络的一般性问题。是否从定义 Nural ODE 的 tspan 中采样数据点,并在其上计算参数更新?换句话说,在训练期间是否发生了一些洗牌和批处理,或者是否在 tspan 中的所有数据点上计算了损失?