1

我正在使用开放目录项目 (ODP) 中的 URL 实现多线程 Wget。我收到以下错误：

java.io.FileNotFoundException: log (Too many open files)
at java.io.FileOutputStream.openAppend(Native Method)
at java.io.FileOutputStream.<init>(FileOutputStream.java:207)
at java.io.FileOutputStream.<init>(FileOutputStream.java:131)
at java.io.FileWriter.<init>(FileWriter.java:78)
at ODP.run(ODP.java:103)

我读过这是因为它超过了系统变量中指示的打开文件描述符的限制： cat /proc/sys/fs/file-max

有没有办法限制可以同时启动的线程数？我认为它是通过可以运行 CPU 的线程数自动完成的。

谢谢！

编辑：这是 main 方法中的主循环：

        while (rs.next ()) {                
            // Process entry
            String rsc = rs.getString ("resource");
            String tpc = rs.getString("topic");             
            (new ODP(rsc, tpc, rs.getString("description"))).start();   
            BufferedWriter outLog = new BufferedWriter(new FileWriter("log", true));
    outLog.write(count + ": " + rsc + " | " + tpc  + "\n");
    outLog.close(); 
            ++count;                
        }

在ODP.run()方法中，我创建了一个 BufferedWritter：

        BufferedWriter out = new BufferedWriter(new FileWriter(cat.split("/")[1] + ".webtrec", true));
        out.write(webtrec);
        out.close();
4

2 回答 2

4

在整个问题中，您似乎对线程和文件感到困惑。

大多数操作系统都会限制给定进程可以打开的文件描述符的数量。这包括文件系统上的实际文件，通常还包括诸如数据库或服务器连接之类的套接字。（这与您的进程中运行的线程数无关。）

如果您当前持有最大数量的打开文件句柄，则您的进程将无法再打开。这通常是资源泄漏的迹象——即您没有正确关闭 I/O 资源。 很少，如果您的应用程序合法地需要同时读取数万个文件，您是否需要增加操作系统限制。

在您的ODP.run方法中，您是否FileWriters在循环中创建，但未能调用close()它们？

于 2012-05-16T09:21:43.040 回答
1

有没有办法限制可以同时启动的线程数？

是的，通过使用某种线程池。如果您使用的是 Java 1.5 及更高版本，那么您很幸运；您可以使用ThreadPoolExecutor来限制并发线程的数量。

于 2012-05-16T09:31:17.743 回答