我正在努力将下一个 xml 数据移动到分层数据框中。由于对 SO 的帮助,我能够从 xml 中获取所有数据。但是,现在,我正在努力清理我提取的数据并在输出之前对其进行整形,因为我将这样做数千次。
更新:这是我最终想要的。我似乎无法动态获取Time
and value
。channel
每个文件的通道名称都会改变。
当channel = txt1[0]
(对于这个文件,txt1[0]="blah"
)到当channel = txt1[8]
(对于这个文件,txt1[8]="lir"
)
channel Time value
0 blah 2013-05-01 00:00:00 258
1 blah 2013-05-01 00:01:00 259
...
n-2 lir 2013-05-01 23:57:00 58
n-1 lir 2013-05-01 23:58:00 37
n lir 2013-05-01 23:59:00 32
以下是我的 xml 文件的获取和结构方式:
import requests
from lxml import etree, objectify
r = requests.get('https://api.stuff.us/place/getData? security_key=key&period=minutes&startTime=2013-05-01T00:00&endTime=2013-05-01T23:59&sort=channel') #edited for privacy
root = etree.fromstring(r.text)
xml_new = etree.tostring(root, pretty_print=True)
print xml_new[300:900] #gives xml output to show structure
<startTime>2013-05-01 00:00:00</startTime>
<endTime>2013-05-01 23:59:00</endTime>
<summaryPeriod>minutes</summaryPeriod>
<data>
<channel channel="97925" name="blah">
<Time Time="2013-05-01 00:00:00">
<value>258</value>
</Time>
<Time Time="2013-05-01 00:01:00">
<value>259</value>
</Time>
<Time Time="2013-05-01 00:02:00">
<value>258</value>
</Time>
<Time Time="2013-05-01 00:03:00">
<value>257</value>
</Time>
昨天,我在SO上询问并解决了将time
和value
值放入数据框中的问题:Parsing xml to pandas data frame throws memory error
dTime=[]
dvalue=[]
for df in root.xpath('//channel/Time'):
## Iterate over attributes of Time but Time only has one attrib [@Time]
for attrib in df.attrib:
dTime.append(df.attrib[attrib])
## value is a child of time, and iterate
subfields = df.getchildren()
for subfield in subfields:
dvalue.append(subfield.text)
pef=DataFrame({'Time':dTime,'values':dvalue})
pef
<class 'pandas.core.frame.DataFrame'>
Int64Index: 12960 entries, 0 to 12959
Data columns (total 2 columns):
Time 12960 non-null values
value 12960 non-null values
dtypes: object(2)
pef[:5]
Time value
0 2013-05-01 00:00:00 258
1 2013-05-01 00:01:00 259
2 2013-05-01 00:02:00 258
3 2013-05-01 00:03:00 257
4 2013-05-01 00:04:00 257
现在,我正在为每个通道(结构为channel
-> Time
-> value
)分别处理这些数据,以便我可以将通道作为数据集的列插入。
因此,我决定动态获取频道名称,并搜索数据。对于此文件,有九个单独的有效频道名称,但对于所有文件(编号或名称)并不相同。
txt1 = root.xpath('//channel/@name') #this prints all channel names!
len(txt1)
Out[67]: 9
print txt1
['blah', 'b', 'c', 'd', 'vd', 'ef', 'fg', 'kc', 'lir']
我以为我可以动态获取数据(使用早期的解决方案,但添加@name=txt1[0]
)并最终执行for i = 0 to len(txt1), ...
所有这些数据。但我得到一个空数据框:
dTime=[]
dchannel = txt1[0] # can hardcode, but need to be able to get all
dvalue=[]
for df in root.xpath('//channel[@name=txt1[0]]/Time'):
#CODE NEEDED: to get dchannel to dynamically = channel[@name]
## Iterate over attributes of time for specific channel
for attrib in df.attrib:
dTime.append(df.attrib[attrib])
## value is a child of time, and iterate
subfields = df.getchildren()
for subfield in subfields:
dvalue.append(subfield.text)
perf=DataFrame({'Channel': dchannel,'Time':dTime,'values':dvalue})
perf
Int64Index([], dtype=int64)
Empty DataFrame
如果我对所需的属性进行硬编码,例如for df in root.xpath('/*/*/*/channel[@name="blah"]/Time'):
它会为一个属性打印它,但我无法让它工作引用txt1[]
.
我尝试参考,{0}..., txt1[]
但随后它为 dchannel 属性吐出一个元组(因为它正在获取所有 txt1 而不是获取作为时间节点父级的 txt1 属性名称。
我查看了 XPath 文档,并且已经完成了 lxml 教程,但我无法弄清楚为什么我的动态搜索不起作用。我需要退回.findall()
吗?如何使用此动态搜索来获取每个值的数据txt1
?
可能有一种更 Pythonic 的方法来解决这个问题,例如设置一个获取[@name]
父属性[@Time]
、子属性和孙子文本的函数value
,但我还没有弄清楚如何做到这一点。