问题标签 [azure-sqldw]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
363 浏览

azure-sqldw - Azure SQL DW 存储成本是用于已用存储而不是最大数据库大小?

如果我从门户创建一个新的 Azure SQL DW,它的最大大小为 10TB(我相信它会自动增长)。如果我然后只加载 10GB 的数据,我是为 10TB 的存储付费还是只为 ~10GB 付费?从我的 Azure 账单中可以看出,我只需支付 10GB 的费用(加上一些用于备份快照的费用,这可能取决于我每天更改的数据量,以及一些用于 .ldf 日志文件的费用)。

您只为使用的内容付费并且不涉及最大数据库大小是否准确?这是如何运作的?如果 Azure 存储中的数据库 blob 最初的大小很小,然后允许自动增长,我可以理解只为我使用的内容付费。但我不清楚我如何只能在自动增长关闭且最大数据库大小为 10TB 时支付我使用的费用。你能澄清一下吗?

编辑:我相信 Azure SQL DW 使用页面 blob。我想知道页面 blob 是否像用于 Azure 磁盘的页面 blob 一样工作。如果您配置一个 1TB 的磁盘但只写入 1GB,您只需支付 1GB。这是否解释了您如何只为在 Azure SQL DW 中使用的内容付费?

0 投票
1 回答
217 浏览

azure-sqldw - 强制 CETAS 只写入一个文件?

如果我运行 CREATE EXTERNAL TABLE AS SELECT * FROM DistributedTable,那么我最终会在 blob 存储中得到 60 个文件。如果我从 sys.objects CREATE EXTERNAL TABLE AS SELECT *,我会在 blob 存储中获得一个文件。这是我所期望的。

如何从分布式表中获取第一个 CETAS 以仅写入一个文件?Azure SQL DW 支持复制表后,复制表中的 CETAS 是否保证只创建一个文件?

该方案希望每天将一个文件导出到 Blob 存储。显然,消费应用程序只需要一个文件,并且行数足够小,如果它确实导出到 60 个文件,大多数将是空白的。

0 投票
1 回答
400 浏览

azure - Azure SQL 数据仓库带宽限制?

Azure SQL 数据仓库数据提取是否有任何带宽限制或限制?是否有任何连接字符串设置可以优化我们通过 SELECT 查询提取数据的速度?

从与 SQL DW 位于同一 Azure 区域的 VM 上的 SSIS,如果我运行 SELECT * 查询以通过 OLEDB 使用默认连接字符串(默认数据包大小)提取数百万行,我发现它使用大约 55Mbps 带宽。如果我添加 Packet Size=32767,我发现它使用了大约 125Mbps 的带宽。有什么办法让它跑得更快吗?还有其他需要注意的连接字符串设置吗?

顺便说一句,如果我并行运行多个数据提取,我能够从 SQL DW 获得高达 500Mbps 的带宽。但我不能总是将一个查询分成几个并行查询。有时我只需要一个查询来更快地提取数据。

当然,Polybase CETAS(CREATE EXTERNAL TABLE AS SELECT)在提取数据方面效率更高。但这并不适合所有提取场景。例如,如果我想将分析服务放在 Azure SQL DW 之上,我不能在多维数据集处理期间真正涉及 CETAS 语句,因此 Polybase 无法帮助我。

0 投票
1 回答
936 浏览

java - Azure SQL 数据仓库和 PolyBase 无法读取使用 U-SQL 和 ADLA 生成的 CSV 文件

我有一个 U-SQL 脚本,它在 Azure 存储中生成一个 CSV 文件,并在 Azure SQL 数据仓库 (SDW) 中生成一个外部表,使用 PolyBase 读取该 CSV 文件。

使用 U-SQL 脚本生成 CSV 文件时,SDW 无法读取数据并抛出异常:

Msg 110802, Level 16, State 1, Line 152 110802;发生内部 DMS 错误导致此操作失败。详细信息:异常:Microsoft.SqlServer.DataWarehouse.DataMovement.Common.ExternalAccess.HdfsAccessException,消息:调用 HdfsBridge_RecordReaderFillBuffer 时引发 Java 异常:访问外部文件时发生错误 [无法检索 Java 异常。] [/csv/2015-02- 13/所有.csv][0]。

但是,如果我将该 CSV 文件下载到本地驱动器并按原样将其上传到具有完全相同文件名的完全相同的位置,则 SDW 可以毫无问题地对其运行查询。

有任何想法吗?

0 投票
4 回答
17762 浏览

azure - 如何计算 Azure SQL 数据仓库 DWU?

我正在分析 Azure SQL DW,我遇到了 DWU(数据仓库单元)一词。Azure 网站上的链接仅提及 DWU 的粗略定义。我想了解 DWU 是如何计算的,以及我应该如何相应地扩展我的系统。

我也提到了链接,但它没有涵盖我的问题:

0 投票
6 回答
4254 浏览

azure - Azure SQL 数据仓库代理键

所以 Azure SQL 数据仓库不支持标识列,因此处理代理键很棘手。有人对此有任何大胆的解决方案吗?

是我发现的最好的,而且非常可怕。

0 投票
1 回答
451 浏览

azure - 无效的对象名称 - 系统创建的对象

我想知道是否有人可以启发我了解 Azure SQL DW 错误的根本原因,如下所示:

ErrorMsg:[Microsoft][ODBC Driver 11 for SQL Server][SQL Server]无效的对象名称'Distribution_8.dbo.Table_f8776198af014a96b157b84ce175aa1f_8'

我猜测有问题的对象是特定分布上表的底层存储 - 但为什么 Azure SQL DW 会发现自己无法找到它?

我以前见过这种情况,大约 20 分钟后它就消失了,没有造成任何伤害,但这很不方便,我想了解它为什么会发生。

0 投票
1 回答
1939 浏览

entity-framework - Azure SQL 数据仓库和实体框架

有人知道我们是否/何时能够将实体框架与 Azure SQL 数据仓库一起使用吗?我搜索了高低,除了 2015 年 Auguts 的 MSDN 上发布的一个问题外,似乎找不到任何其他内容:

“我们尚未完成实体框架的认证”

EF7 文档似乎也没有提及它。

0 投票
1 回答
530 浏览

azure - Azure SQL DW 的跨服务器还原?

假设我有一个用于开发的 mydev.database.windows.net Azure SQL Server 和 Azure SQL DW 数据库。我有一个用于产品的 myprod.database.windows.net。如果我想将 prod 恢复到 dev(跨服务器),这可能吗?根据我在文档中看到的内容(请参阅 -TargetServerName 开关文档),这是不可能的。

除了编写所有对象的脚本然后使用 Polybase CREATE EXTERNAL TABLE AS SELECT 命令将所有表导出到 blob 然后使用 Polybase 导入这些表之外,是否有推荐的解决方法?

使用 Azure SQL 数据库(不是 DW)进行跨服务器还原的推荐方法是导出到 bacpac 文件然后还原,但我不认为这是 Azure SQL DW 的选项,对吧?

我可能会开始在同一个 Azure SQL Server 上创建 prod 和 dev(只要客户希望两者都在同一个 Azure 订阅中)。我希望服务器是分开的,但易于恢复很重要。

0 投票
3 回答
2006 浏览

azure - 无法在 Azure SQL 数据仓库中查看代码或编写存储过程或表的脚本

Azure SQL 数据仓库中是否有类似于 SQL Server 的右键单击 -> 在 SSMS 中修改存储过程的功能?

Azure SQL 数据仓库中是否有类似于 SQL Server Management Studio 的右键单击 -> 为表编写脚本...的功能?

我在尝试修改 Azure 数据仓库中的 SP 和表时遇到了不便,因为我不能做这些事情中的任何一个......我必须编写我的 SP/表并将该脚本保存在某个地方以便我可以无需重写即可修改。

我试过的:

在 Visual Studio(2015 Enterprise,更新 1,昨天安装了最新版本的数据工具)中,我右键单击 SQL Server 对象资源管理器中的资产并选择“查看代码”......结果是一个错误弹出窗口说“对象引用未设置为对象的实例。”

在 SSMS (2014 v12.0.4213.0) 中,我的表都没有出现在对象资源管理器中,如果我右键单击 -> 修改存储过程,我会收到以下错误:

在此处输入图像描述

现在我能想到获取代码的唯一方法是针对sys.sql_modulessys.tables等编写选择。

任何见解都会很棒!