问题标签 [python-sql]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
40 浏览

python - Python:合并大型数据集以及如何处理大型数据(500 Gb)

我有一些大型 csv 文件,我需要将它们合并在一起。每个文件大约 5gb,我的 RAM 只有 8gb。我使用以下代码将一些 csv 文件读入数据框并将它们合并到列fund_ticker tickerdate.

不幸的是,我收到以下错误:

在互联网上搜索后,我认为问题在于数据大于我的 RAM。为了克服这个问题,我正在考虑使用一些数据库,例如 SQL 或 parquet 文件。我的问题是处理大型数据集最有效的方法是什么?我的数据是财务数据,最高可达 500 Gb 或 1 Tb。一些关于如何设置的指导将不胜感激。谢谢

0 投票
1 回答
43 浏览

python - 如果 python 和 sql 不存在新记录,则将新记录插入表中

我想在我的 python 脚本中插入我的 MySQL Workbench 数据库,但是如果某个值已经存在,我试图让它只插入一次时遇到问题。因此,假设我正在插入名称,并且名称“Bob”已经在数据库中,此时我不想再次插入它。

我一直在寻找其他资源,目前正在尝试:

其中 account 是一些与此处无关的字符串。我基本上想将帐户插入数据库但只有一次,如果它再次运行并且找到相同的帐户,我不想重新插入重复项(常规插入语句会这样做)。

我得到的错误是:“mysql.connector.errors.ProgrammingError: 1064 (42000): You have an error in your SQL syntax;检查与您的 MySQL 服务器版本相对应的手册,以获取在 'If Not Exists 附近使用的正确语法(SELECT * FROM Accounts WHERE Account_Name = DE - Kipling DE)从第 1 行开始“

我会很感激任何帮助!:)

0 投票
1 回答
45 浏览

python - 通过 Django QuerySet 水平迭代

我正在使用一个 sql 表并希望水平地遍历它。我目前正在使用 django Q 库来创建查询集:

我正在使用的表格的预览

我正在通过执行以下操作创建和过滤 QuerySet:

filtered_table = NewTables07.objects.filter(criterion_date & criterion_location)

模型看起来像:

我知道我可以通过执行以下操作来遍历列:

但如果我想水平遍历表格,例如通过标题:'ID' then 'Library' 'mono_full' ...

我该怎么做呢?

0 投票
0 回答
54 浏览

sqlalchemy - SqlAlchemy - 在连接语句之前应用过滤器

我尝试在3c7的酷​​项目上添加一些贡献,并且我想在连接查询(sqlalchemy)上应用过滤器。

简单的语句:多个规则(表)可以有多个标签(表) - 我想根据一些标签过滤掉一些规则。

问题:在加入后应用过滤器当然只会删除只有一个标签(我指定的标签)的规则。如果一条规则有多个标签,则连接结果中的一条记录将被删除,但该规则仍会出现在与该规则关联的任何其他标签中

Sql 炼金术声明:

我尝试了子查询,但最可行的方法似乎是在加入之前对标签表应用过滤器。

当前实施:

非常感谢任何想法。

0 投票
1 回答
37 浏览

python - 错误 MySQL python。尝试使用传感器值字符串输入值

您好,我正在对我的 ESP8266 进行编程,就像客户端发送 pH 传感器和流量计的数据一样。为了发送 ESP8266 的数据,我做了一个到服务器的套接字连接。但这里的问题是我发送的数据被拒绝了。查看错误:pymysql.err.ProgrammingError: (1064, "您的 SQL 语法有错误;请查看与您的 MariaDB 服务器版本相对应的手册,以了解在 '0.0'、'2' 附近使用的正确语法)'在第 1 行")

这是我的 client.py 代码:

和 server.py

我看到错误给了我一个撇号,我删除了它,但它也不起作用。 数据库 它有西班牙文 phpmyadmin 并将其翻译成英文,以便更好地理解。

0 投票
0 回答
118 浏览

python - Python Snowflake 连接器无法在 Azure VM 上连接

我正在尝试从 Azure VM 连接到 SnowFlake。我做了一个简单的类方法,如下所示:

但是,连接器不断记录以下消息。

This connection is in OCSP Fail Open Mode. TLS Certificates would be checked for validity and revocation status. Any other Certificate Revocation related exceptions or OCSP Responder failures would be disregarded in favor of connectivity.

它不断地显示信息,一遍又一遍地老化。
有人遇到过这个问题吗?

0 投票
1 回答
32 浏览

json - 将json格式的sqllite数据库中的数据写入python中的文本文件

我有一个名为 art.db 的数据库,它由 5 个表组成:table1、table2、table3、table4 和 table5

我想将所有表数据以 json 格式写入文本文件。我只能写一个表数据。有人可以帮我吗

下面是我的代码:

final_data.txt 应该包含所有 5 个 json 格式的表数据。

0 投票
1 回答
32 浏览

python - sqlite3 不返回错误但也不插入数据

我正在尝试将一些字符串插入我的 SQLite3 - 使用 python 的数据库中。但是当我运行我的代码时,它不会返回错误,但它也不会插入数据。

我创建了这样的数据库:

我尝试像这样插入我的数据

我希望我的错误不是太明显,有人可以帮助我。

0 投票
2 回答
55 浏览

visual-studio-code - 在 Vscode 中使用 SQLite3 Python

我正在使用 VSCode 在 Python 中的 SQLite3 中迈出第一步。我的问题是当我使用 SQL 命令时没有出现任何语法高亮。 例如。

有什么方法可以突出显示语法吗?谢谢你。

0 投票
0 回答
22 浏览

sql - 如何使用 Python 从 SQL Server 中提取 doc 文件

我需要存储在 SQL Server 中的 doc 文件。存储 doc 文件的列的数据类型为Imagenot varbinary(max)

Hex_data=0xAH6382936+DGNS/47DGYX7........很长的序列。

上面提到的十六进制数据并不准确,它只是数据看起来如何的一个样本。请帮我提取文档文件。