3

我有一个 .json 文件，其中每一行都是一个对象。例如，前两行是：

{"review_id":"x7mDIiDB3jEiPGPHOmDzyw","user_id":"msQe1u7Z_XuqjGoqhB0J5g","business_id": ...}

{"review_id":"dDl8zu1vWPdKGihJrwQbpw","user_id":"msQe1u7Z_XuqjGoqhB0J5g","business_id": ...}

我尝试使用 ijson lib 进行如下处理：

with open(filename, 'r') as f:
    objects = ijson.items(f, 'columns.items')
    columns = list(objects)

但是，我得到错误：

JSONError: Additional data

它似乎是由于多个对象我收到这样的错误。

在 Jupyter 中分析此类 Json 文件的推荐方法是什么？

先感谢您

4

3 回答 3

3

如果这是完整的文件，则文件格式不正确。在大括号之间必须有一个逗号，并且应该以方括号开头和结尾。像这样：[{...},{...}]。对于您的数据，它看起来像：

[{"review_id":"x7mDIiDB3jEiPGPHOmDzyw","user_id":"msQe1u7Z_XuqjGoqhB0J5g","business_id": ...},
{"review_id":"dDl8zu1vWPdKGihJrwQbpw","user_id":"msQe1u7Z_XuqjGoqhB0J5g","business_id": ...}]

这是一些如何清理文件的代码：

lastline = None

with open("yourfile.json","r") as f:
    lineList = f.readlines()
    lastline=lineList[-1]

with open("yourfile.json","r") as f, open("cleanfile.json","w") as g:
    for i,line in enumerate(f,0):
        if i == 0:
            line = "["+str(line)+","
            g.write(line)
        elif line == lastline:            
            g.write(line)
            g.write("]")
        else:
            line = str(line)+","
            g.write(line)

要正确读取 json 文件，您还可以考虑使用 pandas 库（https://pandas.pydata.org/pandas-docs/stable/generated/pandas.read_json.html）。

import pandas as pd

#get a pandas dataframe object from json file
df = pd.read_json("path/to/your/filename.json")

如果您不熟悉 pandas，这里有一个快速入门，如何使用数据框对象：

df.head() #gives you the first rows of the dataframe
df["review_id"] # gives you the column review_id as a vector
df.iloc[1,:] # gives you the complete row with index 1
df.iloc[1,2] # gives you the item in row with index 1 and column with index 2
于 2018-08-08T18:16:18.193 回答
2

虽然它自己的每一行都是有效的 JSON，但您的文件作为一个整体不是。因此，您不能一次性解析它，您必须遍历每一行将其解析为一个对象。

您可以将这些对象聚合到一个列表中，然后从那里对您的数据做任何您喜欢的事情：

import json
with open(filename, 'r') as f:
    object_list = []
    for line in f.readlines():
        object_list.append(json.loads(line))
    # object_list will contain all of your file's data

你可以把它作为一个列表理解来让它更pythonic：

with open(filename, 'r') as f:    
    object_list = [json.loads(line) 
                   for line in f.readlines()]
    # object_list will contain all of your file's data
于 2018-08-08T18:10:22.437 回答
1

您的文件中有多行，这就是它抛出错误的原因

import json

with open(filename, 'r') as f:
    lines = f.readlines()
    first = json.loads(lines[0])
    second = json.loads(lines[1])

那应该抓住两条线并正确加载它们

于 2018-08-08T18:01:40.703 回答