3

我正在将多个 csv 文件的第二列中包含的文本添加到一个列表中,以便稍后对列表中的每个项目执行情绪分析。我的代码目前完全适用于大型 csv 文件,但我对列表中的项目执行的情绪分析需要太长时间,这就是为什么我只想读取每个 csv 文件的前 200 行。代码如下所示:

import nltk, string, lumpy 
import math
import glob
from collections import defaultdict
columns = defaultdict(list)
from nltk.corpus import stopwords
import math
import sentiment_mod as s
import glob

lijst = glob.glob('21cf/*.csv')

tweets1 = []
for item in lijst:
    stopwords_set = set(stopwords.words("english"))
    with open(item, encoding = 'latin-1') as d:
        reader1=csv.reader(d)
        next(reader1)
        for row in reader1:
            tweets1.extend([row[2]])
        words_cleaned = [" ".join([words for words in sentence.split() if 'http' not in words and not words.startswith('@')]) for sentence in tweets1]
        words_filtered = [e.lower() for e in words_cleaned]
        words_without_stopwords = [word for word in words_filtered if not word in stopwords_set]
    tweets1 = words_without_stopwords
    tweets1 = list(filter(None, tweets1))

如何确保使用 csv 阅读器仅读取每个 csv 文件的前 200 行?

4

3 回答 3

12

最短和最惯用的方法可能是使用itertools.islice

import itertools
...
        for row in itertools.islice(reader1, 200):
            ...
于 2018-05-23T13:59:05.083 回答
3

Pandas 是一种流行的数据处理模块,例如 CSV。使用 pandas 可以限制行数。

import pandas as pd
# If you only want to read the first 200 (non-header) rows:
pd.read_csv(..., nrows=200)
于 2019-08-21T12:44:10.107 回答
2

您可以只添加一个计数,并在达到 200 时中断,或者添加一个 arange为 200 的循环。

row在 for 循环 for s 开始之前定义一个变量:

count = 0

然后在你的循环中:

count = count + 1
if count == 200: 
    break
于 2018-05-23T14:01:26.740 回答