问题标签 [fast-ai]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
1981 浏览

deep-learning - 我是否正确实施了学习率查找器?

基于论文https://arxiv.org/abs/1506.01186使用来自https://github.com/davidtvs/pytorch-lr-finder的 lr_finder 实现

没有学习率查找器:

结果 :

学习率查找器代码未注释:

下面注释掉的代码现在不是未注释的:

该模型在两个时期后取得了结果:

可以看到训练准确率84.098333333333339.93. 学习率查找器是否应该找到一个可以实现更高训练集准确性的学习率?

0 投票
1 回答
78 浏览

machine-learning - 何时使用学习率查找器

阅读论文“训练神经网络的循环学习率” https://arxiv.org/abs/1506.01186

如果模型过拟合,使用学习率查找器是否有意义?除了减少模型过度拟合之前的迭代次数之外,使用学习查找器会防止过度拟合吗?

从阅读论文中没有建议这种减少过度拟合的方法,我的解释是否正确?

0 投票
0 回答
61 浏览

python - Fastai 1.0.x 使用 torchvision 模型

有人可以向我展示一个示例,说明如何在 fastai 中使用 torchvision 模型而不进行修改(即没有进行网络修改create_cnn)?我试过这个,但我得到了RuntimeError: size mismatch。我认为 alexnet 输入大小应该是 224,所以不知道如何调试。

0 投票
1 回答
296 浏览

deep-learning - fastai 库是否会自动从标题中推断文本和标签?

我有数据框对象,它有两个字段,即文本和标签,我想做类似于 ULMFit 的文本分类

以下是具有以下特定目的的代码

分类对象

这些是遵循的一系列步骤,但我无法理解数据加载器是否正确加载了我的文本和标签字段,因为我没有在函数参数中的任何地方给出它们。任何帮助将不胜感激

0 投票
1 回答
1088 浏览

python - Fastai 文本分类器:对看不见的数据进行批量预测

我一直在使用 fastai 的文本分类器 ( https://docs.fast.ai/text.html )。我目前预测看不见的短语的情绪(正面或负面)如下:

给定一个短语列表:

结果是:

但是,按顺序对短语应用预测非常慢。

有没有办法在不创建测试数据集的情况下使用 fastai 库应用批量预测?

0 投票
1 回答
580 浏览

nlp - TextLMDataBunch Memory issue Language Model Fastai

I have a dataset with 45 million rows of data. I have three 6gb ram gpu. I am trying to train a language model on the data.

For that, I am trying to load the data as the fastai data bunch. But this part always fails because of the memory issue.

How do I handle this issue?

0 投票
2 回答
1257 浏览

machine-learning - Fastai 学习者未加载

所以我正在尝试使用以下方法加载模型:

但我收到以下错误

唯一不同的是我添加了一个stage-2.1模型中不存在的随机验证拆分,当我删除拆分并且没有验证集时,因为stage-2.1训练一切顺利。

发生了什么?

0 投票
1 回答
4501 浏览

python - state_dict 中的意外键:“模型”、“选择”

我目前正在使用 fast.ai 来训练图像分类器模型。

这导致:

torch.load('stage-2.pth', map_location="cpu") 文件“/usr/local/lib/python3.6/site-packages/torch/nn/modules/module.py”,第 769 行,在load_state_dict 自我。name , "\n\t".join(error_msgs))) RuntimeError: Error(s) in loading state_dict for Sequential:

...

state_dict 中的意外键:“模型”、“选择”。

我在 SO 中环顾四周并尝试使用以下解决方案:

这导致:

RuntimeError:为顺序加载 state_dict 时出错:

state_dict 中的意外键:“”。

我正在使用 Google Colab 训练我的模型,然后将训练后的模型移植到 docker 并尝试托管在本地服务器中。

可能是什么问题?会不会是不同版本的 pytorch 导致模型不匹配?

在我的码头配置中:

虽然我的 Colab 正在使用以下内容:

0 投票
3 回答
388 浏览

python-3.x - ImportError:使用基于 QRNN 的预训练语言模型时没有名为“forget_mult_cuda”的模块错误

我正在尝试通过调整 QRNN 预训练 LM 来使用基于 QRNN 的编码器进行文本分类。

这是qrnn的配置

我将配置传递给 lm_learner

我得到的是:

Fast-ai 版本为:'1.0.51.dev0'

0 投票
1 回答
360 浏览

python - Jupyter:为什么第二个命令会阻止第一个命令工作?

我在 Jupyter Notebook 中。我使用这些库:

df_raw是一个 pd 数据框。

我遇到了这个非常奇怪的问题,当我使用第二个命令然后使用第一个命令重新运行单元格时,第一个命令将停止工作:

第一的:

第二:

这是我得到的错误:

我从来没有遇到过这样的问题,也不知道是 pandas、fastai 还是 jupyter 造成的。你能帮我吗?

编辑:我什至不确定它是否只是同时使用两个命令。现在我在没有第二个命令的情况下得到了错误......当我一起运行所有单元格时,它会编译,但是一旦我用“第一个”命令重新运行那个单元格,这个单元格就会崩溃。