简单查询需要15-30秒

Question

下面的查询非常简单。它从消息表中选择最后 20 条记录以用于寻呼场景。第一次运行此查询需要 15 到 30 秒。随后的运行只需不到一秒（我预计涉及一些缓存）。我试图确定为什么第一次需要这么长时间。

这是查询：

SELECT DISTINCT ID,List,`From`,Subject, UNIX_TIMESTAMP(MsgDate) AS FmtDate
FROM messages
WHERE List='general'
ORDER BY MsgDate
LIMIT 17290,20;

MySQL 版本：4.0.26-log

这是表格：

messages  CREATE TABLE `messages` (
  `ID` int(10) unsigned NOT NULL auto_increment,
  `List` varchar(10) NOT NULL default '',
  `MessageId` varchar(128) NOT NULL default '',
  `From` varchar(128) NOT NULL default '',
  `Subject` varchar(128) NOT NULL default '',
  `MsgDate` datetime NOT NULL default '0000-00-00 00:00:00',
  `TextBody` longtext NOT NULL,
  `HtmlBody` longtext NOT NULL,
  `Headers` text NOT NULL,
  `UserID` int(10) unsigned default NULL,
  PRIMARY KEY  (`ID`),
  UNIQUE KEY `List` (`List`,`MsgDate`,`MessageId`),
  KEY `From` (`From`),
  KEY `UserID` (`UserID`,`List`,`MsgDate`),
  KEY `MsgDate` (`MsgDate`),
  KEY `ListOnly` (`List`)
) TYPE=MyISAM ROW_FORMAT=DYNAMIC

这是解释：

table   type    possible_keys  key       key_len  ref       rows  Extra
------  ------  -------------  --------  -------  ------  ------  --------------------------------------------
m       ref     List,ListOnly  ListOnly  10       const    18002  Using where; Using temporary; Using filesort

当我在所有相关列上都有索引时，为什么要使用文件排序？我添加了 ListOnly 索引只是为了看看它是否有帮助。我原本以为 List 索引会同时处理列表选择和 MsgDate 上的排序，但事实并非如此。现在我添加了 ListOnly 索引，这就是它使用的索引，但它仍然对 MsgDate 进行文件排序，我怀疑这会花费很长时间。

我尝试使用 FORCE INDEX 如下：

SELECT DISTINCT ID,List,`From`,Subject, UNIX_TIMESTAMP(MsgDate) AS FmtDate
FROM messages
FORCE INDEX (List)
WHERE List='general'
ORDER BY MsgDate
LIMIT 17290,20;

这似乎确实强制 MySQL 使用索引，但它根本不会加快查询速度。

以下是此查询的解释：

table   type    possible_keys  key     key_len  ref       rows  Extra                       
------  ------  -------------  ------  -------  ------  ------  ----------------------------
m       ref     List           List    10       const    18002  Using where; Using temporary

更新：

我从查询中删除了 DISTINCT。它对性能根本没有帮助。

我删除了 UNIX_TIMESTAMP 调用。它也没有影响性能。

我在 PHP 代码中做了一个特例，这样如果我检测到用户正在查看结果的最后一页，我会添加一个仅返回最后 7 天结果的 WHERE 子句：

SELECT m.ID,List,From,Subject,MsgDate
FROM messages
WHERE MsgDate>='2009-11-15'
ORDER BY MsgDate DESC
LIMIT 20

这要快得多。但是，当我导航到另一页结果时，它必须使用旧的 SQL，并且需要很长时间才能执行。我想不出一种实用、现实的方法来对所有页面执行此操作。另外，执行这种特殊情况会使我的 PHP 代码更加复杂。

奇怪的是，只有第一次运行原始查询需要很长时间。后续运行同一查询或显示不同结果页的查询（即仅 LIMIT 子句更改）的速度非常快。如果查询在大约 5 分钟内未运行，则会再次变慢。

解决方案：

我想出的最佳解决方案是基于 Jason Orendorff 和 Juliet 的想法。

首先，我确定当前页面是否更接近总页数的开头或结尾。如果接近结尾，我使用 ORDER BY MsgDate DESC，应用适当的限制，然后反转返回记录的顺序。

这使得检索靠近结果集开头或结尾的页面速度更快（第一次现在需要 4-5 秒，而不是 15-30 秒）。如果用户想要导航到靠近中间的页面（当前在第 430 页左右），那么速度可能会回落。但这是一种罕见的情况。

因此，虽然似乎没有完美的解决方案，但这比大多数情况下要好得多。

谢谢你们，杰森和朱丽叶。

Answer 1

尝试使用 ORDER BY MsgDate LIMIT 20，而不是 ORDER BY MsgDate LIMIT 17290,20。

当然，结果会以相反的顺序出现，但这应该很容易处理。

编辑：您的MessageId值是否总是随着时间的推移而增加？它们是独一无二的吗？

如果是这样，我会创建一个索引：

UNIQUE KEY `ListMsgId` ( `List`, `MessageId` )

并在可能的情况下根据消息 ID 而不是日期进行查询。

-- Most recent messages (in reverse order)
SELECT * FROM messages
WHERE List = 'general'
ORDER BY MessageId DESC
LIMIT 20

-- Previous page (in reverse order)
SELECT * FROM messages
WHERE List = 'general' AND MessageId < '15885830'
ORDER BY MessageId DESC
LIMIT 20

-- Next page
SELECT * FROM messages
WHERE List = 'general' AND MessageId > '15885829'
ORDER BY MessageId
LIMIT 20

我认为您还为拥有 varchar 列付出了代价，其中 int 类型会快得多。例如，List 可以改为指向单独表中的条目的 ListId。您可能想在测试数据库中尝试一下，看看这是否属实；我不是 MySQL 专家。

Answer 2

您可以删除 ListOnly 键。复合索引List已经包含了其中的所有信息。

您对 List 索引查询的解释看起来好多了，缺少文件排序。通过按照 Jason 的建议交换 ORDER，您也许能够获得更好的实际性能，并且可能会丢失 UNIX_TIMESTAMP 调用（您可以在应用程序层中执行此操作，或者仅使用在模式中存储为 INTEGER 的 Unix 时间戳）。

Answer 3

您使用的 SQL 版本是什么？一些旧版本使用 LIMIT 子句作为后处理过滤器（意味着获取从服务器请求的所有记录，但只显示您请求返回的 20 条记录）。

您可以从您的解释中看到，尽管您只显示了其中的 20 行，但返回了 18002 行。有什么方法可以调整您的选择标准来识别您想要返回的 20 行，而不是返回 18000 行并只显示其中的 20 行？？？