问题标签 [polybase]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
436 浏览

azure-sqldw - 使用 Polybase 和 Azure 数据仓库从 Azure Data Lake Store 访问数据

创建外部表时出现错误

https://exoticbaryon.anset.org/2017/06/26/access-data-from-azure-data-lake-store-using-polybase-with-azure-data-warehouse/#comment-157

运行 CREATE EXTERNAL TABLE 时无法执行查询。错误:由于内部错误,外部文件访问失败:'访问 HDFS 时发生错误:调用 HdfsBridge_IsDirExist 时引发 Java 异常。Java 异常消息:

HdfsBridge::isDirExist - 检查目录是否存在时遇到意外错误:MalformedURLException: no protocol: / https://login.microsoftonline.com/72f988bf-86f1-41af-91ab-2d7cd011db47/oauth2/v2.0/token '

0 投票
1 回答
347 浏览

oracle - 通过 SQL Server PolyBase 在 Oracle 上创建外部表时出错

我正在尝试使用 SQL Server PolyBase 在 Oracle 上创建一个外部表

一开始我遇到了错误

ORA-28040: 没有匹配的身份验证协议

将以下行添加到 sqlnet.ora 后

SQLNET.ALLOWED_LOGON_VERSION=8

以前的错误消失了,我开始低于错误

[Microsoft][ODBC Oracle 有线协议驱动程序][Oracle]ORA-01017:用户名/密码无效;登录被拒绝

我使用以下凭据创建了数据源

(XE)我可以使用连接到 Oracle 实例,SYSTEM/SYSTEM所以我不知道为什么会出现错误。

我正在使用 SQL Server 2019 CTP-2 和 Oracle 18 Express。

0 投票
1 回答
64 浏览

data-warehouse - 如何更改扩展和压缩方式?

我正在按照这里的步骤。

Q1:我成功导出 CSV。但扩展名是TXT。是否可以将其更改为 CSV?

Q2:提供了两种压缩方式,Gzip 和 Deflate。我都试过了。扩展名是 gz 和 deflate。可以压缩成zip文件吗?是否可以将多个文件导出为 zip 文件?

0 投票
1 回答
109 浏览

sql - 数据工厂 polybase - 零行复制到接收器

使用来自源数据仓库的复制活动的数据工厂管道 -> 暂存 blob 存储 -> 接收器数据仓库。

从源到 blob 的复制按预期工作(复制行)。从 staging 到 sink 的复制失败 - 复制了 0 行

禁用 Polybase ,并使用批量插入工作。

我希望来自 blob 的数据进入接收器,但没有复制任何行。

编辑1:检查数据仓库(接收器)建立了一个连接,我可以在一秒钟内观察从blob存储创建的外部表等,但没有数据被复制。

0 投票
1 回答
273 浏览

sql-server - 使用 polybase 从 sql server 创建外部表到 hadoop 的问题

我们最近在 SQL Server 中安装了 Polybase。我们正在尝试使用 Hortonworks 来获取数据。我在创建外部表时面临以下问题。

我尝试core-site.xml通过取消注释 Kerberos 选项来更改 SQL Server polybase 位置中的文件,该选项现在给我以下错误:

我怀疑这可能与创建数据库范围的凭据有关。

有人可以帮我理解我在身份和秘密方面遇到的问题。它与 Hadoop 凭据有关吗?我们必须提供什么样的秘密?

0 投票
1 回答
51 浏览

azure-sqldw - 是否有系统 DMV 来监控正在加载的文件?

我正在使用 polybase 将文件从 blob 存储加载到 Azure DW。

我通常使用sys.dm_pdw_exec_requestsandsys.dm_pdw_sql_requests查看任何长时间运行的进程在做什么,但是 polybase 负载的信息有限。

是否有一个文件可以显示 Polybase 在目录中找到的文件列表并指示任何类型的进度(可能是已完成的文件或加载的行?)

0 投票
1 回答
1303 浏览

azure-sqldw - CREATE EXTERNAL TABLE AS SELECT 语句失败

创建外部表时,出现以下错误:

消息 105005,级别 16,状态 1,第 1 行 CREATE EXTERNAL TABLE AS SELECT 语句失败,因为路径名“wasbs://.blob.core.windows.net/folder/Reject_Directory/_rejectedrows/”无法用于导出。请确保指定的路径是一个存在或可以创建的目录,并且在该目录下可以创建文件。

我正在尝试使用 polybase 创建一个外部表,删除该REJECTED_ROW_LOCATION选项可以正常工作,但包含它会导致此错误。我该如何解决?

0 投票
1 回答
839 浏览

azure-databricks - 从 DataBricks 创建 Polybase 表

作为 Datawarehouse 的新手,我有一个新要求,即从 Datalake(GEN1/GEN2)创建 EXTERNAL TABLE 到 Databricks 的 DWH。我使用该链接创建了以下代码。

我写的代码

这会引发错误:com.databricks.spark.sqldw.SqlDWConnectorException:SQL DW 连接器代码中遇到异常。我哪里错了?任何帮助将不胜感激。

0 投票
1 回答
452 浏览

azure - 使用 ADF 复制 Azure SQL DW 中的数据(根据文档,使用 Polybase 进行分阶段复制不起作用)

尝试使用 Azure 数据工厂将数据湖 (gen2) 中的 csv 文件加载到 Azure Synapse。源文件具有“(双引号)作为转义字符。这超出了将 polybase 直接连接到 Data Lake 的数据限制。我通过以下文档设置了暂存副本

调试管道后,我仍然得到

我确实看到 ADF 在我在暂存副本中提供的路径中创建了一个临时文件夹,但看起来它没有执行加载数据所需的转换。我错过了什么吗?

链接到 doc使用 Azure 数据工厂复制和转换 Azure SQL 数据仓库中的数据

0 投票
1 回答
806 浏览

sql-server-2016 - SQL Server 2019 PolyBase 连接到 SQL Server 2016 - 错误

我试图在 SQL Server 2019 和 SQL Server 2016 之间设置链接服务器,但我一直收到如下错误:

错误:

消息 105001,级别 16,状态 1,第 25 行
外部访问操作失败,因为位置 URI 无效。修改 URI 并重试

有没有人做过类似的事情?

格拉吉

https://social.msdn.microsoft.com/Forums/sqlserver/en-US/df4841e5-57f3-451a-94c9-486cab2a431b/sqlserver-2019-polybase-external-access-operation-failed-because-the-location- uri-is-invalid?forum=sqldatabaseengine