6

我们有几个对延迟敏感的“流水线”式程序,当在一个 Linux 内核上运行时与另一个内核相比,它们具有可测量的性能下降。特别是,我们看到 2.6.9 CentOS 4.x (RHEL4) 内核的性能更好,而 CentOS 5.x (RHEL5) 的 2.6.18 内核性能更差。

“管道”程序是指具有多个线程的程序。多个线程处理共享数据。每个线程之间都有一个队列。所以线程 A 获取数据,推入 Qab,线程 B 从 Qab 拉取数据,进行一些处理,然后推入 Qbc,线程 C 从 Qbc 拉取数据,等等。初始数据来自网络(由第 3 方生成)。

我们基本上测量从收到数据到最后一个线程执行其任务的时间。在我们的应用程序中,当从 CentOS 4 迁移到 CentOS 5 时,我们发现任何时间都增加了 20 到 50 微秒。

我使用了几种方法来分析我们的应用程序,并确定 CentOS 5 上增加的延迟来自队列操作(特别是弹出)。

但是,我可以通过使用任务集将程序绑定到可用内核的子集来提高 CentOS 5(与 CentOS 4 相同)的性能。

所以对我来说,在 CentOS 4 和 5 之间,有一些变化(可能是内核)导致线程的调度方式不同(这种差异对我们的应用程序来说不是最理想的)。

虽然我可以使用任务集(或通过 sched_setaffinity() 在代码中)“解决”这个问题,但我的偏好是不必这样做。我希望有某种内核可调参数(或者可能是可调参数集合),其默认值在版本之间发生了变化。

有人对此有经验吗?也许还有更多需要调查的领域?

更新:在这种特殊情况下,该问题已通过服务器供应商 (Dell) 的 BIOS 更新解决。我在这个上拉了很长一段时间的头发。直到我回到基础,并检查了我的供应商的 BIOS 更新。可疑的是,其中一个更新说“在最大性能模式下提高性能”。一旦我升级了 BIOS,CentOS 5 就更快了——一般来说,特别是在我的队列测试和实际生产运行中。

4

2 回答 2

1

嗯.. 如果生产者-消费者队列中的 pop() 操作所花费的时间对您的应用程序的整体性能产生了重大影响,我建议您的线程/工作流的结构在某处不是最佳的。除非队列上存在大量争用,否则如果任何现代操作系统上的任何 PC 队列推送/弹出都需要超过 µS 左右,我会感到惊讶,即使队列在经典的“计算机科学 117”中使用内核锁- 如何用三个信号量的方式制作有界 PC 队列。

您是否可以将工作最少的线程的功能吸收到工作最多的线程中,从而减少流经系统的每个整体工作项的推送/弹出数量?

于 2011-05-24T16:49:05.607 回答
1

多年来,Linux 调度程序一直是变化和争论的激烈领域。您可能想尝试一个最近的内核并试一试。是的,您可能必须自己编译它——这对您有好处。您可能还(当您拥有较新的内核时)想要考虑将不同的进程放在不同的容器中,并将其他所有内容放在一个额外的容器中,看看是否有帮助。

至于其他随机尝试,您可以提高各种进程的优先级,添加实时语义(注意,具有实时权限的错误程序可能会使系统的其余部分饿死)。

于 2011-05-25T04:51:45.600 回答