6

因此，我制作了一个程序，需要向 URL 发送大量（例如 10,000 多个）GET 请求，并且我需要它尽可能快。当我第一次创建程序时，我只是将连接放入一个 for 循环中，但它真的很慢，因为它必须等待每个连接完成才能继续。我想让它更快，所以我尝试使用线程，它使它更快一些，但我仍然不满意。

我猜想解决这个问题并使其真正快速的正确方法是使用异步连接并连接到所有 URL。这是正确的方法吗？

另外，我一直在尝试理解线程以及它们是如何工作的，但我似乎无法理解。我使用的计算机具有 Intel Core i7-3610QM 四核处理器。根据英特尔网站上关于这款处理器的规格，它有 8 个线程。这是否意味着我可以在 Java 应用程序中创建 8 个线程并且它们都将同时运行？超过8个就不会提速了？

任务管理器“性能”选项卡下“线程”旁边的数字到底代表什么？目前，我的任务管理器显示“线程”超过 1,000。为什么它是这个数字，如果我的处理器支持它，它怎么能超过 8？我还注意到，当我尝试使用 500 个线程作为测试的程序时，任务管理器中的数字增加了 500，但它的速度与我将其设置为使用 8 个线程的速度相同。因此，如果数量根据我在 Java 应用程序中使用的线程数而增加，那么为什么速度相同？

另外，我尝试用 Java 中的线程做一个小测试，但输出对我来说没有意义。这是我的测试课：

import java.text.SimpleDateFormat;
import java.util.Date;

public class Test {

    private static int numThreads = 3;
    private static int numLoops = 100000;
    private static SimpleDateFormat dateFormat = new SimpleDateFormat("[hh:mm:ss] ");

    public static void main(String[] args) throws Exception {

        for (int i=1; i<=numThreads; i++) {
            final int threadNum = i;
            new Thread(new Runnable() {
                public void run() {
                    System.out.println(dateFormat.format(new Date()) + "Start of thread: " + threadNum);
                    for (int i=0; i<numLoops; i++)
                        for (int j=0; j<numLoops; j++);
                    System.out.println(dateFormat.format(new Date()) + "End of thread: " + threadNum);
            }
            }).start();
            Thread.sleep(2000);
        }

    }
}

这会产生如下输出：

[09:48:51] Start of thread: 1
[09:48:53] Start of thread: 2
[09:48:55] Start of thread: 3
[09:48:55] End of thread: 3
[09:48:56] End of thread: 1
[09:48:58] End of thread: 2

为什么第三个线程立即开始和结束，而第一个和第二个线程各需要 5 秒？如果我添加了 3 个以上的线程，那么 2 以上的所有线程都会发生同样的事情。

对不起，如果这是一个长篇阅读，我有很多问题。提前致谢。

4

3 回答 3

10

您的处理器有 8 个内核，而不是线程。这实际上意味着在任何给定时刻只能运行 8 件事情。但是，这并不意味着您仅限于 8 个线程。

当一个线程同步打开到一个 URL 的连接时，它通常会在等待远程服务器返回时休眠。当该线程处于休眠状态时，其他线程可以工作。如果您有 500 个线程并且所有 500 个线程都在休眠，那么您没有使用 CPU 的任何内核。

另一方面，如果您有 500 个线程并且所有 500 个线程都想做某事，那么它们就不能同时运行。为了处理这种情况，有一个特殊的工具。处理器（或者更可能是操作系统或两者的某种组合）有一个调度程序，该调度程序确定哪些线程在任何给定时间在处理器上主动运行。有许多不同的规则，有时是随机活动来控制这些调度程序的工作方式。这可以解释为什么在上面的示例中线程 3 似乎总是先完成。也许调度程序更喜欢线程 3，因为它是主线程调度的最新线程，有时可能无法预测行为。

现在回答您关于性能的问题。如果打开连接从不涉及睡眠，那么同步或异步处理事情都无关紧要，您将无法获得超过 8 个线程的任何性能提升。实际上，打开连接所涉及的很多时间都花在了睡觉上。异步和同步之间的区别在于如何处理睡眠所花费的时间。从理论上讲，您应该能够在两者之间获得几乎相同的性能。

使用多线程模型，您只需创建比内核更多的线程。当线程进入睡眠状态时，它们会让其他线程工作。这有时会更容易处理，因为您不必编写线程之间的任何调度或交互。

使用异步模型，您只需为每个内核创建一个线程。如果该线程需要休眠，那么它不会休眠，但实际上必须有代码来处理切换到下一个连接。例如，假设打开连接（A、B、C）有三个步骤：

while (!connectionsList.isEmpty()) {
  for(Connection connection : connectionsList) {

    if connection.getState() == READY_FOR_A {
      connection.stepA();
      //this method should return immediately and the connection
      //should go into the waiting state for some time before going
      //into the READY_FOR_B state
    }
    if connection.getState() == READY_FOR_B {
      connection.stepB();
      //same immediate return behavior as above
    }
    if connection.getState() == READY_FOR_C {
      connection.stepC();
      //same immediate return behavior as above
    }
    if connection.getState() == WAITING {
      //Do nothing, skip over
    }
    if connection.getState() == FINISHED {
      connectionsList.remove(connection);  
    }
  }
}

请注意，线程在任何时候都不会休眠，因此线程数多于内核数是没有意义的。归根结底，是采用同步方法还是异步方法是个人喜好问题。只有在绝对极端情况下，两者之间才会存在性能差异，您需要花费很长时间进行分析才能达到应用程序的瓶颈。

听起来您正在创建很多线程并且没有获得任何性能提升。这可能有很多原因。

  • 您建立连接可能实际上并未处于休眠状态，在这种情况下，我不希望看到超过 8 个线程的性能提升。我认为这不太可能。
  • 可能所有线程都在使用一些公共共享资源。在这种情况下，其他线程无法工作，因为休眠线程拥有共享资源。是否有所有线程共享的对象？这个对象有任何同步方法吗？
  • 您可能有自己的同步。这可能会产生上述问题。
  • 有可能每个线程都必须执行某种设置/分配工作，这会破坏您通过使用多个线程获得的好处。

如果我是你，我会在使用少量线程 (20) 运行时使用 JVisualVM 之类的工具来分析你的应用程序。JVisualVM 有一个漂亮的彩色线程图，可以显示线程何时运行、阻塞或休眠。这将帮助您了解线程/核心关系，因为您应该看到正在运行的线程数少于您拥有的核心数。此外，如果您看到很多阻塞的线程，那么这可以帮助您找到瓶颈（如果您看到很多阻塞的线程使用 JVisualVM 在那个时间点创建线程转储并查看线程被阻塞的位置）。

于 2012-10-17T03:26:43.600 回答
1

一些概念：

您可以在系统中有许多线程，但在任何时间点，只有其中一些（在您的情况下最多 8 个）会在 CPU 上“调度”。因此，您无法获得比 8 个并行运行的线程更高的性能。事实上，由于创建、销毁和管理线程所涉及的工作，性能可能会随着线程数量的增加而下降。

线程可以处于不同的状态：http : //docs.oracle.com/javase/1.5.0/docs/api/java/lang/Thread.State.html 在这些状态中，RUNNABLE 线程可以得到一部分CPU时间。操作系统决定将 CPU 时间分配给线程。在具有 1000 个线程的常规系统中，某个线程何时获得 CPU 时间以及它将在 CPU 上停留多长时间是完全不可预测的。

关于您要解决的问题：

您似乎已经找到了正确的解决方案 - 发出并行异步网络请求。但是，实际上，同时启动 10000 多个线程和如此多的网络连接可能会对系统资源造成压力，并且可能无法正常工作。这篇文章对使用 Java 的异步 I/O 有很多建议。（提示：不要只看接受的答案）

于 2012-10-17T03:44:24.420 回答
0

此解决方案更具体地解决了尝试尽可能快地发出 10k 个请求的一般问题。我建议您放弃 Java HTTP 库并改用 Apache 的HttpClient。他们有一些关于最大化性能的建议，这些建议可能很有用。我听说 Apache HttpClient 库通常也更快，重量更轻，开销更少。

于 2012-10-17T12:20:39.127 回答