0

我正在尝试使用我设置的 dask 集群运行和并行化这个 sqlalchemy 查询，因为我没有足够的内存从本地计算机执行它。

我的代码如下 - 我不确定这是否是实现此目的的最佳方法：

from dask.distributed import Client
import dask.dataframe as dd
from dask.delayed import delayed
client = Client(<IP Address>)

recent_dates = ['2020-04-24', '2020-04-23', 2020-04-22']

query = """SELECT * FROM table WHERE date = '%s'"""
queries = [query.format(d) for d in recent_dates]

from sqlalchemy.engine import create_engine
conn = create_engine(f'presto://{user}:{password}@{host}:{port}/{catalog}/{schema}',
                           connect_args={'protocol': 'https',
                                         'requests_kwargs': {'verify': key}})

con = engine.connect()
df = dd.from_delayed([delayed(pd.read_sql_query)(q, conn) for q in queries])

我收到以下错误：

TypeError: can't pickle _thread.RLock objects
4

1 回答 1

1

您应该使用read_sql_table为此目的而设计的功能。如果您阅读文档字符串和/或代码，您将看到传递给工作人员的是查询本身，这些工作人员在本地创建自己的引擎实例。这是因为 sqlalchemy 实例具有无法在工作人员之间发送的状态，如您所见。

请注意，read_sql_table它还关心对数据进行分区，因为这是 Dask，重点是处理大于内存的数据。在您的示例中，我猜索引/分区列是date，并且您想传递要明确拆分的“分区”。

于 2020-04-27T12:25:38.240 回答