1

我们dbt用于管理我们的数据模型MSSQL,并且我们正在考虑迁移到PostgreSQL Citus.

我不清楚如何Citus通过dbt? 我正在特别考虑数据压缩和列式存储。

有任何想法吗?

4

2 回答 2

1

TBH,我没有任何经验dbt

但是,鉴于dbt文档声明它们支持 PostgreSQL,并且 Citus Columnar 是一种表访问方法级别的抽象,不需要对查询进行任何更改(*),我不希望在结合两者时出现任何兼容性问题。
我的猜测是,在使用USING columnar选项创建表格后,您可以按照dbt文档进行其余操作。

(*):您可能仍想查看该页面以了解 Citus Columnar 支持或不支持 atm。
https://github.com/citusdata/citus/tree/master/src/backend/columnar#introduction

于 2021-11-30T08:42:10.127 回答
0

想知道您是否对这个过程的进展有任何更新?

我希望在我的公司实施 DBT,并且也在考虑 postgres/citus。

我相信您可以使用 pre-hook/post-hook dbt 函数的组合并以增量方式实现而不是 table 或 view 方法。

想法要么是 pre-hook 创建柱状表并使用 dbt 增量更新,要么物化为 view/table 然后 post-hookSELECT alter_table_set_access_method('table_name', 'columnar');

于 2022-01-19T16:47:18.800 回答