1

我想知道是否可以以某种方式优化以下脚本。它确实会向磁盘写入很多内容，因为它可能会删除最新的行并重新插入它们。我正在考虑应用“在重复键更新上插入 ...”之类的东西，并发现了单行更新的一些可能性，但我不知道如何在INSERT INTO ... SELECT query.

CREATE OR REPLACE FUNCTION update_member_search_index() RETURNS VOID AS $$
DECLARE
   member_content_type_id INTEGER;
BEGIN
   member_content_type_id :=
      (SELECT id FROM django_content_type
       WHERE app_label='web' AND model='member');

   DELETE FROM watson_searchentry WHERE content_type_id = member_content_type_id;

   INSERT INTO watson_searchentry (engine_slug, content_type_id, object_id
                                 , object_id_int, title, description, content
                                 , url, meta_encoded)
   SELECT 'default',
         member_content_type_id,
         web_member.id,
         web_member.id,
         web_member.name,
         '',
         web_user.email||' '||web_member.normalized_name||' '||web_country.name,
         '',
         '{}'
   FROM web_member
   INNER JOIN web_user ON (web_member.user_id = web_user.id)
   INNER JOIN web_country ON (web_member.country_id = web_country.id)
   WHERE web_user.is_active=TRUE;
END;
$$ LANGUAGE plpgsql;

编辑：web_member , watson_searchentry, web_user,的架构：http web_country: //pastebin.com/3tRVPPVi。

要点是更新列title和content. watson_searchentry表上有一个触发器，它search_tsv根据这些列设置列的值。

(content_type_id, object_id_int)inwatson_searchentry是表中的唯一对，但 atm 索引不存在（没有用处）。

该脚本每天最多运行一次，以完全重建搜索索引，偶尔在导入一些数据后运行。

4

1 回答 1

3

修改表定义

如果您确实需要这些列NOT NULL并且您确实需要将字符串'default'作为默认值engine_slug，我建议您引入列默认值：

COLUMN           |          TYPE           |      Modifiers
-----------------+-------------------------+---------------------
 id              | INTEGER                 | NOT NULL DEFAULT ... 
 engine_slug     | CHARACTER VARYING(200)  | NOT NULL DEFAULT 'default'
 content_type_id | INTEGER                 | NOT NULL
 object_id       | text                    | NOT NULL
 object_id_int   | INTEGER                 |
 title           | CHARACTER VARYING(1000) | NOT NULL
 description     | text                    | NOT NULL DEFAULT ''
 content         | text                    | NOT NULL
 url             | CHARACTER VARYING(1000) | NOT NULL DEFAULT ''
 meta_encoded    | text                    | NOT NULL DEFAULT '{}'
 search_tsv      | tsvector                | NOT NULL
 ...

DDL 语句将是：

ALTER TABLE watson_searchentry ALTER COLUMN  engine_slug DEFAULT 'default';

等等。

然后您不必每次都手动插入这些值。

还有：object_id text NOT NULL, object_id_int INTEGER？这很奇怪。我想你有你的理由...

我将满足您的更新要求：

要点是更新列title和contentwatson_searchentry

当然，您必须添加一个UNIQUE约束来强制执行您的要求：

ALTER TABLE watson_searchentry
ADD CONSTRAINT ws_uni UNIQUE (content_type_id, object_id_int)

将使用随附的索引。通过这个查询开始。

顺便说一句，我几乎从不varchar(n)在 Postgres 中使用。只是text。这是一个原因。

使用数据修改 CTE 进行查询

这可以用数据修改公用表表达式重写为单个 SQL 查询，也称为“可写”CTE。需要 Postgres 9.1 或更高版本。
此外，此查询仅删除必须删除的内容，并更新可以更新的内容。

WITH  ctyp AS (
   SELECT id AS content_type_id
   FROM   django_content_type
   WHERE  app_label = 'web'
   AND    model = 'member'
   )
, sel AS (
   SELECT ctyp.content_type_id
         ,m.id       AS object_id_int
         ,m.id::text AS object_id       -- explicit cast!
         ,m.name     AS title
         ,concat_ws(' ', u.email,m.normalized_name,c.name) AS content
         -- other columns have column default now.
   FROM   web_user    u
   JOIN   web_member  m  ON m.user_id = u.id
   JOIN   web_country c  ON c.id = m.country_id
   CROSS  JOIN ctyp
   WHERE  u.is_active
   )
, del AS (     -- only if you want to del all other entries of same type
   DELETE FROM watson_searchentry w
   USING  ctyp
   WHERE  w.content_type_id = ctyp.content_type_id
   AND    NOT EXISTS (
      SELECT 1
      FROM   sel
      WHERE  sel.object_id_int = w.object_id_int
      )
   )
, up AS (      -- update existing rows
   UPDATE watson_searchentry 
   SET    object_id = s.object_id
         ,title     = s.title
         ,content   = s.content
   FROM   sel s
   WHERE  w.content_type_id = s.content_type_id
   AND    w.object_id_int   = s.object_id_int
   )
               -- insert new rows
INSERT  INTO watson_searchentry (
        content_type_id, object_id_int, object_id, title, content)
SELECT  sel.*  -- safe to use, because col list is defined accordingly above
FROM    sel
LEFT    JOIN watson_searchentry w1 USING (content_type_id, object_id_int)
WHERE   w1.content_type_id IS NULL;

  • 子查询django_content_type总是返回一个值？否则，CROSS JOIN可能会引起麻烦。

  • 第一个 CTEsel收集要插入的行。请注意我如何选择匹配的列名来简化事情。

  • 在 CTEdel中，我避免删除可以更新的行。

  • 在 CTE中，up这些行被更新。

  • 因此，我避免在 final 中插入之前未删除的行INSERT。

可以很容易地包装到 SQL 或 PL/pgSQL 函数中以供重复使用。

对于大量并发使用不安全。比您拥有的功能要好得多，但对于并发写入仍然不是 100% 健壮。但根据您更新的信息，这不是问题。

用 DELETE 和 INSERT 替换 UPDATE 可能会或可能不会更昂贵。由于MVCC 模型，在内部每个 UPDATE 无论如何都会产生一个新的行版本。

速度第一

如果您并不真正关心保留旧行，那么您更简单的方法可能会更快：删除所有内容并插入新行。此外，包装到 plpgsql 函数中可以节省一些规划开销。您的功能基本上是一些小的简化并遵守上面添加的默认值：

CREATE OR REPLACE FUNCTION update_member_search_index()
  RETURNS VOID AS
$func$
DECLARE
   _ctype_id int := (
      SELECT id
      FROM   django_content_type
      WHERE  app_label='web'
      AND    model = 'member'
      );  -- you can assign at declaration time. saves another statement
BEGIN
   DELETE FROM watson_searchentry
   WHERE content_type_id = _ctype_id;

   INSERT INTO watson_searchentry
         (content_type_id, object_id, object_id_int, title, content)
   SELECT _ctype_id, m.id, m.id::int,m.name
         ,u.email || ' ' || m.normalized_name || ' ' || c.name
   FROM   web_member  m
   JOIN   web_user    u USING (user_id)
   JOIN   web_country c ON c.id = m.country_id
   WHERE  u.is_active;
END
$func$ LANGUAGE plpgsql;

我什至避免使用concat_ws(): 它对NULL值是安全的并简化了代码，但比简单的连接要慢一些。

还：

表上有一个触发器，它search_tsv 根据这些列设置列的值。

将逻辑合并到这个函数中会更快——如果这是唯一需要触发器的时候。否则，它可能不值得大惊小怪。

于 2013-10-18T00:28:59.503 回答