0

我有一张桌子,里面摆满了来自不同来源的物品。一些来源可能具有相同的位置(在我的示例中,不同的 BBC 新闻提要是不同的来源,但它们都来自 BBC)。每个项目都有一个“唯一”ID,可用于从同一位置识别它。这意味着与网站上的相同新闻报道相关但在不同提要下发布的项目将具有相同的“唯一 ID”,但这不一定是全球唯一的。

问题是我想在显示时消除重复项,因此(取决于您看到的提要)您最多只能获得每个故事的一个版本,即使您的提要中的两个或三个可能包含指向它的链接。

我有一个sources表格,其中包含有关每个来源location_idlocation_precedence字段的信息。然后,我有一个items包含每个项目的表,它的unique_idsource_idcontentunique_id与来源相同的项目location_id最多出现一次,最高来源location_precedence获胜。

我会认为是这样的:

SELECT `sources`.`name` AS `source`,
       `items`.`content`,
       `items`.`published`
FROM `items` INNER JOIN `sources`
  ON `items`.`source_id` = `sources`.`id` AND `sources`.`active` = 1
GROUP BY `items`.`unique_id`, `sources`.`location_id`
ORDER BY `sources`.`location_priority` DESC

可以解决问题,但这似乎忽略了位置优先级字段。我错过了什么?


示例数据:

CREATE TABLE IF NOT EXISTS `sources` (
  `id` int(10) unsigned NOT NULL auto_increment,
  `location_id` int(10) unsigned NOT NULL,
  `location_priority` int(11) NOT NULL,
  `active` tinyint(1) unsigned NOT NULL default '1',
  `name` varchar(150) NOT NULL,
  `url` text NOT NULL,
  PRIMARY KEY  (`id`),
  KEY `active` (`active`)
);

INSERT INTO `sources` (`id`, `location_id`, `location_priority`, `active`, `name`, `url`) VALUES
(1, 1, 25, 1, 'BBC News Front Page', 'http://newsrss.bbc.co.uk/rss/newsonline_uk_edition/front_page/rss.xml'),
(2, 1, 10, 1, 'BBC News England', 'http://newsrss.bbc.co.uk/rss/newsonline_uk_edition/england/rss.xml'),
(3, 1, 15, 1, 'BBC Technology News', 'http://newsrss.bbc.co.uk/rss/newsonline_uk_edition/technology/rss.xml'),
(4, 2, 0, 1, 'Slashdot', 'http://rss.slashdot.org/Slashdot/slashdot'),
(5, 3, 0, 1, 'The Daily WTF', 'http://syndication.thedailywtf.com/TheDailyWtf');

CREATE TABLE IF NOT EXISTS `items` (
  `id` bigint(20) unsigned NOT NULL auto_increment,
  `source_id` int(10) unsigned NOT NULL,
  `published` datetime NOT NULL,
  `content` text NOT NULL,
  `unique_id` varchar(255) NOT NULL,
  PRIMARY KEY  (`id`),
  UNIQUE KEY `unique_id` (`unique_id`,`source_id`),
  KEY `published` (`published`),
  KEY `source_id` (`source_id`)
);

INSERT INTO `items` (`id`, `source_id`, `published`, `content`, `unique_id`) VALUES
(1,  1, '2009-12-01 16:25:53', 'Story about Subject One',                     'abc'),
(2,  2, '2009-12-01 16:21:31', 'Subject One in story',                        'abc'),
(3,  3, '2009-12-01 16:17:20', 'Techy goodness',                              'def'),
(4,  2, '2009-12-01 16:05:57', 'Further updates on Foo case',                 'ghi'),
(5,  3, '2009-12-01 15:53:39', 'Foo, Bar and Quux in court battle',           'ghi'),
(6,  2, '2009-12-01 15:52:02', 'Anti-Fubar protests cause disquiet',          'mno'),
(7,  4, '2009-12-01 15:39:00', 'Microsoft Bleh meets lukewarm reception',     'pqr'),
(8,  5, '2009-12-01 15:13:45', 'Ever thought about doing it in VB?',          'pqr'),
(9,  1, '2009-12-01 15:13:15', 'Celebrity has 'new friend'',        'pqr'),
(10, 1, '2009-12-01 15:09:57', 'Microsoft launches Bleh worldwide',           'stu'),
(11, 2, '2009-12-01 14:57:22', 'Microsoft launches Bleh in UK',               'stu'),
(12, 3, '2009-12-01 14:57:22', 'Microsoft launches Bleh',                     'stu'),
(13, 3, '2009-12-01 14:42:15', 'Tech round-up',                               'vwx'),
(14, 2, '2009-12-01 14:36:26', 'Estates 'old news' say government', 'yza'),
(15, 1, '2009-12-01 14:15:21', 'Iranian doctor 'was poisoned'',     'bcd'),
(16, 4, '2009-12-01 14:14:02', 'Apple fans overjoyed by iBlah',               'axf');

查询后的预期内容:

  • 关于主题一的故事
  • 技术善良
  • Foo、Bar 和 Quux 在法庭上的战斗
  • 反富巴抗议引起不安
  • Microsoft Bleh 遇到不冷不热的接待
  • 有没有想过在 VB 中做这件事?
  • 名人有“新朋友”
  • 微软在全球推出 Bleh
  • 技术综述
  • 房地产“旧消息”说政府
  • 伊朗医生“中毒”
  • 苹果粉丝对 iBlah 喜出望外

我尝试了 Andomar 解决方案的变体,并取得了一些成功:

SELECT      s.`name` AS `source`,
            i.`content`,
            i.`published`
FROM        `items` i
INNER JOIN  `sources` s
ON          i.`source_id` = s.`id`
AND         s.`active` = 1
INNER JOIN (
  SELECT `unique_id`, `source_id`, MAX(`location_priority`) AS `prio` 
  FROM `items` i
  INNER JOIN `sources` s ON s.`id` = i.`source_id` AND s.`active` = 1
  GROUP BY `location_id`, `unique_id`
) `filter`
ON          i.`unique_id` = `filter`.`unique_id`
AND         s.`location_priority` = `filter`.`prio`
ORDER BY    i.`published` DESC
LIMIT 50

AND s.location_priority = filter.prio事情几乎可以按我的意愿工作。因为一个项目可以来自具有相同优先级的多个来源,所以项目可以重复。在这种情况下,外部查询上的额外GROUP BY i.unique_id功能可以完成这项工作,我认为如果优先级相等,哪个源“获胜”并不重要。

我已经尝试过AND i.source_id = filter.source_id,它几乎可以工作(即消除了额外的GROUP BY),但没有从正确的来源给出结果。在上面的例子中,它给了我“Foo case 的进一步更新”(来源“BBC News England”)而不是“Foo, Bar and Quux in court battle”(来源“BBC Technology News”。查看内部结果查询,我得到:

unique_id: 'ghi'
source_id: 2
prio: 15

请注意,源 ID 不正确(预期:3)。

4

3 回答 3

5

Order by只是对行进行排序,它不会在其中进行选择。

过滤出较低行的方法之一location_priority是使用inner joinas 过滤器:

SELECT     s.name, i.content, i.published
FROM       items i 
INNER JOIN sources s
ON         i.source_id = s.id
AND        s.active = 1
INNER JOIN (
    SELECT unique_id, max(location_priority) as prio
    FROM items i
    INNER JOIN sources s ON s.id = i.source_id AND s.active = 1
    GROUP BY unique_id) filter
ON         i.unique_id = filter.unique_id
AND        s.location_priority = filter.prio;

另一种选择是where ... in <subquery> 子句,例如:

SELECT     s.name, i.content, i.published
FROM       items i 
INNER JOIN sources s
ON         i.source_id = s.id
AND        s.active = 1
WHERE      (i.unique_id, s.location_priority) IN (
    SELECT unique_id, max(location_priority)
    FROM items i
    INNER JOIN sources s ON s.id = i.source_id AND s.active = 1
    GROUP BY unique_id
);

此问题也称为“选择保持组范围最大值的记录”。Quassnoi 写了一篇很好的文章

编辑:以相同优先级打破与多个源的联系的一种方法是WHERE带有子查询的子句。这个例子打破了关系i.id DESC

SELECT     s.name, i.unique_id, i.content, i.published
FROM       (
           SELECT unique_id, min(location_priority) as prio
           FROM items i
           INNER JOIN sources s ON s.id = i.source_id AND s.active = 1
           GROUP BY unique_id
           ) filter
JOIN       items i
JOIN       sources s
ON         s.id = i.source_id 
           AND s.active = 1
WHERE      i.id =
           (
           SELECT   i.id
           FROM     items i
           JOIN     sources s 
           ON       s.id = i.source_id 
                    AND s.active = 1
           WHERE    i.unique_id = filter.unique_id
           AND      s.location_priority = filter.prio
           ORDER BY i.id DESC
           LIMIT 1
           )

Quassnoi 还有一篇关于选择保持分组最大值(解决关系)的记录的文章:)

于 2009-12-06T13:17:21.580 回答
1

对派生表进行自联接,例如

select max(location_priority) from table where ...
于 2009-12-06T12:58:47.573 回答
0

我错过了什么?

在已经将每个组减少到一行ORDER BY之后发生。GROUP BY保罗给出了一个决议。

至于查询的问题:

SELECT `unique_id`, `source_id`, MAX(`location_priority`) AS `prio` 
FROM `items` i
INNER JOIN `sources` s ON s.`id` = i.`source_id` AND s.`active` = 1
GROUP BY `location_id`, `unique_id`

source_id既不是聚合也不是分组。因此,您获得的值是不确定的。

于 2009-12-06T13:12:29.700 回答