1

我有一个包含 6500 万个 IOB 格式条目的数据集。因此,在使用以下命令将其转换为 spacy 二进制格式时:

!python -m spacy convert /content/train.tsv /content/ -s -c ner

colab 将显示: tcmalloc: large alloc ..... ^C

你能给我一些规避​​这个问题的方法吗?我没有太多的 colab 经验或对数据科学概念的深入了解。任何参考也可以。

是否可以获取每个文件,然后制作其二进制文件并合并这样的文件?

谢谢!

4

0 回答 0