4

我正在使用托管在 Tomcat 7 上的 Spring 3 开发 Java Web 应用程序，该应用程序需要每秒处理超过 2.5k 个请求。我有一个RequestProcesseor类，使用此方法处理每个 HTTP 请求：

@Service
public class RequestProcesseor {

    public void processSomething(int value1, int value2) {
        // process something...
        // create and deep copy some object
        // some BigDecimal calculations
        // maybe some webservice calls
    }

}

同时有超过 2.5k 个请求，将调用processSomething方法。如果我让这个类成为多线程的。它会提高性能吗？如果是，为什么？我该如何证明呢？

服务器有一个 4 核 CPU。

4

5 回答 5

7

即使您没有显式地执行任何多线程，您的应用程序服务器也会隐式地将每个请求分派到它自己的线程，因此您已经在 CPU 上承受了并发负载。

仅当您的请求处理受 CPU 限制时，并发代码才会对您有所帮助，这种情况很少见。通常瓶颈是数据库，或者更一般地说，是其他后端子系统的接口。

如果每个请求都是通过处理大量内存数据来处理的，并且每秒请求的负载很低，那么在几个线程之间小心分配工作是值得的，不超过实际的 CPU 核心数.

因此，由于您的服务器负载非常重，几乎肯定不可能通过将工作分派给多个线程来提高其性能。请注意，多线程很容易破坏性能。

于 2013-07-05T13:31:37.047 回答
5

请注意，Tomcat 已经在做多线程了。

在应用程序服务器或 Web 容器中自行执行多线程并不总是明智的。

应用程序服务器或 Web 容器已经在对请求进行多线程处理。

请阅读 Tomcat 的文档和/或源代码。

于 2013-07-05T13:32:04.580 回答
3

它会提高性能吗？

也许。您每秒有 2.5k 个请求。如果每个请求都占用 1 秒的 CPU 时间，而你有一个 CPU，那么它就不会了。如果您有 2 个 CPU，那么可以。如果每个请求都与远程池化网络资源通信，那么可以。如果每个请求都与相同的网络资源（即未池化）通信，则不会。

简而言之，您需要提供有关您正在做什么的更多信息，并且（最有用的是）使用您的特定环境自己执行测试。

于 2013-07-05T13:30:16.457 回答
2

简短的回答：是的。

每次有请求进来，如果你只使用 1 个线程来执行这个方法，这意味着下一个请求必须等到前一个请求处理完毕。

如果您每次收到请求时都创建一个新线程，那么您将在系统上有可用资源时立即处理所有请求。无论如何，您的线程将在完成后被清理。

于 2013-07-05T13:27:51.627 回答
1

简短的回答是：你必须自己测量它。

更长的答案是：如果您将工作分派到后台的单个线程并且 HTTP 请求处理器等待该后台线程的完成（它还会做什么？）您刚刚增加了应用程序的开销

请

  • 衡量是否有影响
  • 如果您有积极影响：检查您衡量的影响并确定增加的复杂性是否值得以可维护性与性能进行交易

或者，更一般地说：

  • 编写具有优化可维护性的代码
  • 对应用程序进行压力测试，直到它崩溃
  • 如果它比您预期的更早中断：
    • 识别瓶颈（内存、cpu、i/o、其他）
    • 解决您发现的问题 #1
    • 继续第 2 步
  • 恭喜。您的应用程序服务于您期望的负载，并且代码处于最佳可维护状态，可以满足其性能要求
于 2013-07-05T19:57:39.267 回答