0

我有多个数据库,一个由 Django 管理,一个外部包含用于使用 SimpleListFilter 在 Django 管理员内部过滤的相关信息。由于 Django 的限制,我没有跨数据库的外键,我正在外部数据库中进行查找以获取例如目标版本号。基于该查找列表,我能够减少我的查询集。

现在的问题是我的数据库太大而无法以这种方式过滤,因为生成的 SQL 查询如下所示:

SELECT 'status'.'id', 'status'.'service_number', 'status'.'status'
    FROM 'status'
    WHERE ('status'.'service_number' = '01xxx'  OR 'status'.'service_number' = '02xxx'  OR 'status'.'service_number' = '03xxx' ......

OR 的列表太长,无法再在数据库中进行 reduce,收到的错误是:

Django Version: 1.4.4
Exception Type: DatabaseError
Exception Value:    (1153, "Got a packet bigger than 'max_allowed_packet' bytes")

我已经在 MySQL 中增加了 max_allowed_pa​​cket,但是这次我认为再次增加该值不是正确的方法。更改

我的 SimpleListFilter 看起来像:

class TargetFilter(SimpleListFilter):
    parameter_name = 'target'

    def lookups(self, request, model_admin):
        return (
            ('v1', 'V1.0'),
            ('v2', 'V2.0'),
        )

    def queryset(self, request, queryset):
        if self.value():
            lookup = []
            for i in Target.objects.using('externaldb').filter(target=self.value()).values('service_number').distinct():
                lookup.append(str(i['service_number']))
            qlist = [Q(**{'service_number': f}) for f in lookup]
            queryset = queryset.filter(reduce(operator.or_, qlist))
            return queryset

列出的代码工作了多年,但变得越来越慢,现在根本不起作用。我试过使用frozensets,但这似乎不起作用。你知道如何减少非常大的集合吗?

感谢您的任何提示!

4

1 回答 1

0

玩游戏有点太晚了,但我几周前才开始使用 Django,而且我有很大的桌子可以使用。对于大型查询,我在 Django 中使用 RAW Sql 和游标实际上是为了限制返回的输出,并分批处理它。查询集获取所有内容并将其加载到内存中,这在大型部署中并不实用。

查看https://docs.djangoproject.com/en/3.0/topics/db/sql/更具体地说直接执行自定义 SQL

于 2020-04-07T22:41:47.227 回答