2

我需要将时间序列数据从 API 消化到 Synapse Analytics 数据库。API 返回 JSON，我想将其转换为包含时间序列的日期、值和名称的表格。我可以使用 Python 返回以下 JSON：

import requests
from pandas.io.json import json_normalize

url = 'https://api.citivelocity.com/markets/analytics/chartingbe/rest/external/authed/data?client_id='+CitiClientId
payload = {'startDate': 20200705, 'endDate': 20200712, 'tags': ['FX.SPOT.EUR.CHF.CITI'],'frequency':'DAILY'}
headers = {'authorization': 'Bearer'+access_token}
response = requests.post(url, json=payload, headers=headers)

print(response.text)

->

{"频率":"DAILY","正文":{"FX.SPOT.EUR.CHF.CITI":{"x":[20200706,20200707,20200708,20200709,20200710],"c":[1.06365, 1.06255,1.06265,1.06155,1.06325],"type":"SERIES"}},"status":"OK"}

不幸的是，使用 Postman 或 Azure 数据工厂，我没有返回任何数据。使用 ADF 和 Postman 调用 API 是成功的，但我猜请求中有些地方不正确。

ADF 将是我的首选，但如果可以将数据直接写入 Synapse，则可以使用 databricks。

-> 如何在 python 中将 JSON 转换为数据框（日期、值和时间序列的名称）？从数据帧我想我会设法写入 Synapse。我可以限制数据量，所以使用 json_normalize 应该没问题吗？

一个诱人的选择是首先将 json 保存到数据库，然后使用 sql 进行转换，但我认为使用 python 进行转换会是更优雅/更强大的解决方案。

    CREATE TABLE #SERIES WITH (DISTRIBUTION=ROUND_ROBIN) AS SELECT 'FX.SPOT.EUR.CHF.CITI' AS SERIES_NAME,  '20200706, 20200707, 20200708, 20200709, 20200710' as dt, '1.06365, 1.06255, 1.06265, 1.06155, 1.06325' as cl

DECLARE @DT NVARCHAR(400)
DECLARE @CL NVARCHAR(400)

SELECT @DT=DT FROM #SERIES
SELECT @CL=CL FROM #SERIES

SELECT
DT.SERIES_NAME, DT.VALUE AS DT, CL.VALUE AS CL
FROM
(
SELECT row_number() OVER (ORDER BY (SELECT NULL)) AS RN, SERIES_NAME, LTRIM(dt.value) AS VALUE
FROM  #SERIES
CROSS APPLY STRING_SPLIT(@DT, ',') dt
) DT
JOIN
(SELECT row_number() OVER (ORDER BY (SELECT NULL)) AS RN, SERIES_NAME, LTRIM(CL.value) AS VALUE
FROM  #SERIES
CROSS APPLY STRING_SPLIT(@CL, ',') CL
) CL ON DT.SERIES_NAME = CL.SERIES_NAME AND DT.RN = CL.RN

->

    SERIES_NAME DT  CL
FX.SPOT.EUR.CHF.CITI    20200706    1.06365
FX.SPOT.EUR.CHF.CITI    20200707    1.06255
FX.SPOT.EUR.CHF.CITI    20200708    1.06265
FX.SPOT.EUR.CHF.CITI    20200709    1.06155
FX.SPOT.EUR.CHF.CITI    20200710    1.06325

谢谢。

4

0 回答 0