我正在使用从 Teradata 表中提取的 40MM 记录pandas
。我可以检索数据,但在将数据创建为dataframe
. 我尝试使用fetchall
Query=""" SELECT VAR1, VAR2 from Table """
teradata_cursor.execute(Query)
Accs=teradata_cursor.fetchall()
df=pd.DataFrame.from_records(Accs)
我对 100,000 条记录的样本没有任何问题,但它无法加载所有 40MM 记录。
然后我尝试了
df=pd.read_sql(Query,teradata)
这使我的桌面崩溃,不得不重新启动我正在处理的一些应用程序。
是否有任何替代/简单的方法可以为如此大量的数据创建数据帧?提前致谢