问题标签 [azure-synapse]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
855 浏览

azure - Azure Synapse 分析临时表 DDL

有什么方法可以查看 Azure Synapse 中临时表的定义。

我在 sys.tables 中尝试过,但它不可用。

0 投票
2 回答
680 浏览

azure-sql-data-warehouse - 具有 1 个计算节点的 SQL 数据仓库 (Azure Synapse) 中小维度的复制表分布

Microsoft 为SQL DW中的复制表分布提供了设计指南,但我不清楚这种分布类型对于只分配一个计算节点的小型服务层(子 DW1000)是否有优势。

具有单个计算节点的低端服务层部署是否受益于这种小维度(例如国家、日历等)的分布类型,还是应该选择不同的分布选项?

0 投票
1 回答
167 浏览

azure-log-analytics - 如何找出在我的 Azure 数据仓库中插入数据的内容

我正在使用包含名为“DimClient”的表的 Azure“Synapse SQL 池”(又名数据仓库)。我在我的数据库中看到每天在特定时间添加新记录。我查看了所有 ADF 管道和触发器,但当时没有一个设置为运行。我也没有看到任何在此表中插入或更新记录的存储过程。我只能得出结论,正在运行另一个正在添加这些记录的进程。

我打开了“发送到 Log Analytics”以转发到工作区并包含 SqlRequests 和 ExecRequests 类别。我等了一天,并使用以下查询查看了日志:

我得到“未找到结果”,但是当我在 SSMS 中查询表时,它包含在过去 24 小时内添加的新记录。如何确定插入这些记录的内容是什么?

0 投票
0 回答
432 浏览

python - 将 JSON 从 REST API 转换为 Azure Synapse Analytics

我需要将时间序列数据从 API 消化到 Synapse Analytics 数据库。API 返回 JSON,我想将其转换为包含时间序列的日期、值和名称的表格。我可以使用 Python 返回以下 JSON:

->

{"频率":"DAILY","正文":{"FX.SPOT.EUR.CHF.CITI":{"x":[20200706,20200707,20200708,20200709,20200710],"c":[1.06365, 1.06255,1.06265,1.06155,1.06325],"type":"SERIES"}},"status":"OK"}

不幸的是,使用 Postman 或 Azure 数据工厂,我没有返回任何数据。使用 ADF 和 Postman 调用 API 是成功的,但我猜请求中有些地方不正确。

ADF 将是我的首选,但如果可以将数据直接写入 Synapse,则可以使用 databricks。

-> 如何在 python 中将 JSON 转换为数据框(日期、值和时间序列的名称)?从数据帧我想我会设法写入 Synapse。我可以限制数据量,所以使用 json_normalize 应该没问题吗?

一个诱人的选择是首先将 json 保存到数据库,然后使用 sql 进行转换,但我认为使用 python 进行转换会是更优雅/更强大的解决方案。

->

谢谢。

0 投票
1 回答
516 浏览

azure - 将 Parquet 文件从 Azure 数据湖存储帐户复制到 Synapse 数据仓库表失败

我使用 COPY INTO 语句将 ADLS Gen2 中的 csv 文件成功复制到 Synapse 表,并将共享访问签名作为凭据。但是,当我尝试将同一存储帐户(不同容器)中的 snappy.parquet 文件复制到同一数据仓库中的表中时,出现错误:“访问 HDFS 时发生错误:调用 HdfsBridge_Connect 时引发 Java 异常。Java 异常消息:找不到配置属性 mystorage.dfs.core.windows.net。”。我的代码是:

你知道如何解决这个问题吗?

谢谢

0 投票
0 回答
132 浏览

azure - 在文件夹目标上复制 azure synapse 分析工作区中的数据失败

使用向导将数据加载到 azure synapse 工作区数据湖存储 gen2 时出现以下奇怪错误:

ADLS Gen2 操作失败:操作返回无效状态代码“禁止”。帐户:“datalakestorage1”。文件系统:'文件系统'。错误代码:'AuthorizationPermissionMismatch'。消息:'此请求无权使用此权限执行此操作。'。. 操作返回无效状态代码“禁止”如果您的数据源仅允许安全连接,则可能会发生这种情况。如果是这种情况,请创建一个启用了虚拟网络选项的新工作区。

来源是雪花数据

0 投票
1 回答
654 浏览

sql-server - 如何在 Azure Synapse Analytics(以前的 SQL DW)中附加备份

从 Azure 门户创建Azure Synapse Analytics(以前称为 SQL DW)时,可以选择附加备份,但我很困惑它要求的是哪个备份。我创建了 Azure SQL 数据库的导出,并在从 Azure 门户创建 SQL 数据库时检测到它,但 Azure 突触服务没有发生同样的情况。在门户中,当我单击备份时,它没有显示任何建议,因为它显示了 SQL 数据库。请让我知道在 Azure 突触中从门户和 ARM 中附加哪些备份以及如何附加备份。

0 投票
0 回答
166 浏览

azure - Azure Synapse , 复制表

我创建了一个小虚拟表(有 1728 行),分布为“REPLICATE”“

"

但是当我执行“ DBCC PDW_SHOWSPACEUSED("complaints_stg.Employee4") 时,我在所有 60 个工作节点中没有得到相同的行数(一些节点的 ROWS 为 142,一些 60,一些有 0)。但是 REPLICATE 分布的期望是它将所有行发送到所有节点,因此这样的小表没有跨节点的数据移动

知道为什么吗?

0 投票
1 回答
280 浏览

azure - 在 Azure DW(突触)中使用 Max 进行数据透视

我在 azure sql dw 中遇到了一个奇怪的问题。我在暂存表中有 2 行,如下所示

透视和填充我的目标表的查询如下

我得到的输出是

我遗漏了一些东西,因为我不明白为什么是 ProvincialInterest 0 而不是 -0.01

stg 表中的数据类型是浮点数,目标表是十进制(15,2)。

当我删除 else 条件时,我得到了正确的结果,我无法删除它们,因为会有“省”行不存在的情况。

0 投票
1 回答
775 浏览

azure - 适用于个人的 Azure Synapse 计费模型?

这是一个关于 定价模型、azure synapse它是如何工作的,以及对正在自学和探索/学习服务的开发人员了解累积/累积的成本的问题。

出于同样的目的,我购买了一项pay-as-you-go服务。第一个问题是 - 对于想要练习或亲自动手的个人来说,它是否是正确的范围/订阅Azure services

上周日,即 2020 年 7 月 19 日(4 天前)我提供了 2 项服务(SQL serverSynapse SQL pool (data warehouse))。 Synapse SQL pool设置为 100 DWU,服务在创建后立即暂停。根据计费,我预计只收取 1.510(因为我已停止服务,100 DWU 的计费率为每小时 1.510)

然而,今天看到,即自提供服务以来的 4 天,我看到我的累积费用为 20.15 。有谁知道这是怎么回事?

我为此提出了 SR 并等待 Microsoft 的回复。

如果有人能给我一些线索,我将不胜感激。

问候 Lokesh