0

我正在使用从 Teradata 表中提取的 40MM 记录pandas。我可以检索数据,但在将数据创建为dataframe. 我尝试使用fetchall

     Query=""" SELECT VAR1, VAR2 from Table """
     teradata_cursor.execute(Query)
     Accs=teradata_cursor.fetchall()
     df=pd.DataFrame.from_records(Accs)

我对 100,000 条记录的样本没有任何问题,但它无法加载所有 40MM 记录。

然后我尝试了

   df=pd.read_sql(Query,teradata)

这使我的桌面崩溃,不得不重新启动我正在处理的一些应用程序。

是否有任何替代/简单的方法可以为如此大量的数据创建数据帧?提前致谢

4

0 回答 0