20

我想在 python 中创建一个 :memory: 数据库并从不同的线程访问它。本质上是这样的：

class T(threading.Thread):
    def run(self):
        self.conn = sqlite3.connect(':memory:')
        # do stuff with the database

for i in xrange(N):
    T().start()

并让所有连接都引用同一个数据库。

我知道传递check_same_thread=True给连接函数并在线程之间共享连接，但如果可能的话，我想避免这样做。谢谢你的帮助。

编辑：更正了一个错字。我最初说“让所有连接都引用同一个线程”用线程代替数据库。

4

2 回答 2

39

SQLite 在过去 4 年中得到了改进，因此现在共享内存数据库成为可能。检查以下代码：

import sqlite3

foobar_uri = 'file:foobar_database?mode=memory&cache=shared'
not_really_foobar_uri = 'file:not_really_foobar?mode=memory&cache=shared'

# connect to databases in no particular order
db2 = sqlite3.connect(foobar_uri, uri=True)
db_lol = sqlite3.connect(not_really_foobar_uri, uri=True)
db1 = sqlite3.connect(foobar_uri, uri=True)

# create cursor as db2
cur2 = db2.cursor()

# create table as db2
db2.execute('CREATE TABLE foo (NUMBER bar)')

# insert values as db1
db1.execute('INSERT INTO foo VALUES (42)')
db1.commit()

# and fetch them from db2 through cur2
cur2.execute('SELECT * FROM foo')
print(cur2.fetchone()[0])  # 42

# test that db_lol is not shared with db1 and db2
try:
    db_lol.cursor().execute('SELECT * FROM foo')
except sqlite3.OperationalError as exc:
    print(exc)  # just as expected

数据库访问是故意纠缠在一起的，以表明从 SQLite 的角度来看，同名的内存数据库的两个连接是相同的。

参考：

  1. SQLite URI
  2. SQLite 共享缓存

不幸的是，URI 连接仅在 Python 3.4 之后可用。但是，如果你有 Python 2.6 或更高版本（但不是 Python 3），内置sqlite3模块仍然能够导入 APSW 连接，可以使用它来达到相同的效果。插入式sqlite3模块更换如下：

from sqlite3 import *
from sqlite3 import connect as _connect
from apsw import Connection as _ApswConnection
from apsw import SQLITE_OPEN_READWRITE as _SQLITE_OPEN_READWRITE
from apsw import SQLITE_OPEN_CREATE as _SQLITE_OPEN_CREATE
from apsw import SQLITE_OPEN_URI as _SQLITE_OPEN_URI

# APSW and pysqlite use different instances of sqlite3 library, so initializing
# APSW won't help pysqlite. Because pysqlite does not expose any way to
# explicitly call sqlite3_initialize(), here goes an ugly hack. This only has
# to be done once per process.
_connect(':memory:').close()

def connect(database, timeout=5.0, detect_types=0, isolation_level=None,
            check_same_thread=True, factory=Connection, cached_statements=100,
            uri=False):
    flags = _SQLITE_OPEN_READWRITE | _SQLITE_OPEN_CREATE

    if uri:
        flags |= _SQLITE_OPEN_URI

    db = _ApswConnection(database, flags, None, cached_statements)
    conn = _connect(db, timeout, detect_types, isolation_level, 
                    check_same_thread, factory, cached_statements)

    return conn
于 2014-07-11T23:49:45.140 回答
6

如果不破解 sqlite3 库本身，您将无法重用:memory:数据库，因为它保证对于每个连接都是独占和私有的。要破解对它的访问，请仔细查看src/pager.csqlite3 发行版（不是 Python 模块发行版）。也许，最方便的实现方式是 make :memory:00、等别名，通过一些简单的 C 端映射来处理不同的:memory:something指针。:memory:okay_haipPager->memDb

于 2010-10-12T01:39:25.153 回答