我们dbt
用于管理我们的数据模型MSSQL
,并且我们正在考虑迁移到PostgreSQL
Citus
.
我不清楚如何Citus
通过dbt
? 我正在特别考虑数据压缩和列式存储。
有任何想法吗?
我们dbt
用于管理我们的数据模型MSSQL
,并且我们正在考虑迁移到PostgreSQL
Citus
.
我不清楚如何Citus
通过dbt
? 我正在特别考虑数据压缩和列式存储。
有任何想法吗?
TBH,我没有任何经验dbt
。
但是,鉴于dbt
文档声明它们支持 PostgreSQL,并且 Citus Columnar 是一种表访问方法级别的抽象,不需要对查询进行任何更改(*),我不希望在结合两者时出现任何兼容性问题。
我的猜测是,在使用USING columnar
选项创建表格后,您可以按照dbt
文档进行其余操作。
(*):您可能仍想查看该页面以了解 Citus Columnar 支持或不支持 atm。
https://github.com/citusdata/citus/tree/master/src/backend/columnar#introduction
想知道您是否对这个过程的进展有任何更新?
我希望在我的公司实施 DBT,并且也在考虑 postgres/citus。
我相信您可以使用 pre-hook/post-hook dbt 函数的组合并以增量方式实现而不是 table 或 view 方法。
想法要么是 pre-hook 创建柱状表并使用 dbt 增量更新,要么物化为 view/table 然后 post-hookSELECT alter_table_set_access_method('table_name', 'columnar');