14

我有一个 CSV 文件,其中包含包含换行符的字段,例如:

A, B, C, D, E, F
123, 456, tree
, very, bla, indigo

(在这种情况下,第二行的第三个字段是“tree\n”

我尝试了以下方法:

import csv
catalog = csv.reader(open('test.csv', 'rU'), delimiter=",", dialect=csv.excel_tab)
for row in catalog:
    print "Length: ", len(row), row

我得到的结果是这样的:

Length:  6 ['A', ' B', ' C', ' D', ' E', ' F']
Length:  3 ['123', ' 456', ' tree']
Length:  4 ['   ', ' very', ' bla', ' indigo']

有谁知道如何快速删除无关的换行符?

谢谢!

4

6 回答 6

17

假设您有这个 Excel 电子表格:

Excel 文件中的常见“问题”

笔记:

  1. C2中的多行单元格;
  2. 在 C1 和 D3 中嵌入逗号;
  3. 空白单元格和 D4 中带有空格的单元格。

将其保存为 Excel 中的 CSV,您将获得此 csv 文件:

A1,B1,"C1,+comma",D1
,B2,"line 1
line 2",D2
,,C3,"D3,+comma"
,,,D4 space

假设您希望将其读入 Python,其中空白单元格仍然有意义并且嵌入的逗号得到正确处理。

所以这:

with open("test.csv", 'rU') as csvIN:
    outCSV=(line for line in csv.reader(csvIN, dialect='excel'))

    for row in outCSV:
        print("Length: ", len(row), row) 

正确生成 Excel 中表示的 4x4 列表矩阵列表:

Length:  4 ['A1', 'B1', 'C1,+comma', 'D1']
Length:  4 ['', 'B2', 'line 1\nline 2', 'D2']
Length:  4 ['', '', 'C3', 'D3,+comma']
Length:  4 ['', '', '', 'D4 space']

您发布的示例 CSV 文件在字段周围缺少引号,并带有“额外的换行符”,使该换行符的含义不明确。是新行还是多行字段?

因此,您只能解释此 csv 文件:

A, B, C, D, E, F
123, 456, tree
, very, bla, indigo

作为一个一维列表,如下所示:

with open("test.csv", 'rU') as csvIN:
   outCSV=[field.strip() for row in csv.reader(csvIN, delimiter=',') 
              for field in row if field]

这会产生这个一维列表:

['A', 'B', 'C', 'D', 'E', 'F', '123', '456', 'tree', 'very', 'bla', 'indigo']

然后可以根据需要将其解释并重新组合到任何子组中。

python中惯用的重组方法使用zip,如下所示:

>>> zip(*[iter(outCSV)]*6)
[('A', 'B', 'C', 'D', 'E', 'F'), ('123', '456', 'tree', 'very', 'bla', 'indigo')]

或者,如果你想要一个列表列表,这也是惯用的:

>>> [outCSV[i:i+6] for i in range(0, len(outCSV),6)]
[['A', 'B', 'C', 'D', 'E', 'F'], ['123', '456', 'tree', 'very', 'bla', 'indigo']]

如果您可以更改 CSV 文件的创建方式,那么解释起来就不会那么模棱两可了。

于 2012-06-22T02:18:31.977 回答
6

如果您有非空白单元格,这将起作用

data = [['A', ' B', ' C', ' D', ' E', ' F'],
['123', ' 456', ' tree'],
['   ', ' very', ' bla', ' indigo']]

flat_list = chain.from_iterable(data)
flat_list = [cell for cell in flat_list if cell.strip() != ''] # remove blank cells

rows = [flat_list[i:i+6] for i in range(0, len(flat_list), 6)] # chunk into groups of 6 
print rows 

输出:

[['A', ' B', ' C', ' D', ' E', ' F'], ['123', ' 456', ' tree', ' very', ' bla', ' indigo']]

如果输入中有空白单元格,这将在大多数情况下起作用:

data = [['A', ' B', ' C', ' D', ' E', ' F'],
['123', ' 456', ' tree'],
['   ', ' very', ' bla', ' indigo']]

clean_rows = []
saved_row = []

for row in data:
    if len(saved_row):
        row_tail = saved_row.pop()
        row[0] = row_tail + row[0]  # reconstitute field broken by newline
        row = saved_row + row       # and reassemble the row (possibly only partially)
    if len(row) >= 6:
        clean_rows.append(row)
        saved_row = []
    else:
        saved_row = row


print clean_rows 

输出:

[['A', ' B', ' C', ' D', ' E', ' F'], ['123', ' 456', ' tree   ', ' very', ' bla', ' indigo']]

然而,即使是第二种解决方案也会因输入而失败

A,B,C,D,E,F\nG
1,2,3,4,5,6

在这种情况下,输入是模棱两可的,如果您的意思是,没有算法能够猜测:

A,B,C,D,E,F
G\n1,2,3,4,5,6 

(或上面给出的输入)

如果您可能遇到这种情况,您将不得不回到保存数据的人那里,并让他们以更清晰的格式保存数据(顺便说一句,CSV 文件中的 open office 引用换行符比 Excel 好得多)。

于 2012-06-21T21:09:37.093 回答
1

这应该有效。(警告:大脑编译代码)

with open('test.csv', 'rU') as infile:
   data = []
   for line in infile:
       temp_data = line.split(',')
       try:
           while len(temp_data) < 6: #column length
               temp_data.extend(infile.next())
       except StopIteration: pass
       data.append(temp_data)
于 2012-06-21T21:18:13.833 回答
1

这适用于 CSV 模块并清除空白字段和​​行:

import csv
import StringIO

data="""A, B, C, D, E, F
123, 456, tree

,,
, very, bla, indigo"""

f=StringIO.StringIO(data)   #used just to simulate a file. Use your file here...
reader = csv.reader(f)
out=[]
for line in reader:
    line=[x.strip() for x in line if x]   # remove 'if x' if you want blank fields
    if len(line):
        out.append(line)

print out        

印刷:

[['A', ' B', ' C', ' D', ' E', ' F'], 
 ['123', '456', 'tree'], 
 ['very', 'bla', 'indigo']]

如果你想要 6 个 col 块:

cols=6        
out=[i for sl in out for i in sl]                      # flatten out
out=[out[i:i+cols] for i in range(0, len(out), cols)]  # rechunk into 'cols' 

印刷:

[['A', 'B', 'C', 'D', 'E', 'F'],
 ['123', '456', 'tree', 'very', 'bla', 'indigo']]
于 2012-06-21T21:27:08.543 回答
1

如果每行中的字段数相同且字段不能为空:

from itertools import izip_longest

nfields = 6
with open(filename) as f:
     fields = (field.strip() for line in f for field in line.split(',') if field)
     for row in izip_longest(*[iter(fields)]*nfields): # grouper recipe*
         print(row)

*石斑鱼食谱

输出

('A', 'B', 'C', 'D', 'E', 'F')
('123', '456', 'tree', 'very', 'bla', 'indigo')
于 2012-06-21T21:45:58.650 回答
0

如果您知道列数,最好的方法是忽略行尾然后拆分。

像这样的东西

with open(filename, 'rU') as fp:
    data = ''.join(fp.readlines())

data = data.split(',')
for n in range(0, len(data), 6)
    print(data[n:n+6])

如果您愿意,可以轻松地将其转换为生成器:

def read_ugly_file(filename, delimiter=',', columns=6):
    with open(filename, 'rU') as fp:
        data = ''.join(fp.readlines())

    data = data.split(delimiter)
    for n in range(0, len(data), columns)
        yield data[n:n+columns]

for row in read_ugly_file('myfile.csv'):
    print(row)
于 2012-06-21T21:12:39.823 回答