apache-spark - Delta Lake 表上的 SQL 视图

Question

我需要在 Databricks 中现有的 Delta Lake Table 之上创建一个抽象。是否可以基于 Spark 中的 Delta Lake Table 制作 SQL Server 类型的 SQL 视图？

Answer 1

现在可以通过多种方式在 delta Lake 上创建 SQL 视图。

• 通过 Spark：

CREATE OR REPLACE VIEW sqlView AS SELECT col1, .., coln FROM delta_table

• 可以在增量表（路径）上创建 Hive 表。只需在 hive 环境中添加 jars，设置以下属性并创建外部表（hive 支持 2.x）

`

ADD JAR /path/to/delta-core-shaded-assembly_2.11-0.1.0.jar;
ADD JAR /path/to/hive-delta_2.11-0.1.0.jar;
SET hive.input.format=io.delta.hive.HiveInputFormat;
SET hive.tez.input.format=io.delta.hive.HiveInputFormat;
CREATE EXTERNAL TABLE deltaTable(col1 INT, col2 STRING)
STORED BY 'io.delta.hive.DeltaStorageHandler'
LOCATION '/delta/table/path'

`

更多详情：https ://github.com/delta-io/connectors

• Presto & Athena 可以与 delta 集成。 https://docs.delta.io/latest/presto-integration.html

Answer 2

可以使用以下 DDL 语句在 Delta Lake 中创建视图，就像在关系数据库中一样：

CREATE OR REPLACE VIEW SampleDB.Sample_View
AS
SELECT 
ColA
,COlB
FROM SampleDB.Sample_Table

创建查看文档