5

我有一些关于 ProcessBuilder 的问题。该程序基本上是一个调用命令行脚本的简单包装器。

通过终端自行运行脚本时,内存消耗保持在 2G 以下。通过java wrapper运行脚本时,内存消耗爆炸,甚至8G也很快被填满,导致内存不足的错误。

启动该过程的代码很简单:

public static int execute(String command) throws IOException
 {
  System.out.println("Executing: " + command);

  ProcessBuilder pb = new ProcessBuilder(command.split(" +"));
  Process p = pb.start();

  // display any output in stderr or stdout  
  StreamConsumer stderr = new StreamConsumer(p.getErrorStream(), "stderr");
  StreamConsumer stdout = new StreamConsumer(p.getInputStream(), "stdout");
  new Thread(stderr).start();
  new Thread(stdout).start();

  try {
   return p.waitFor();
  } catch (InterruptedException e) {
   throw new RuntimeException(e); 
  }
 }

StreamConsumer 类只是一个使用 stdout/stderr 流并将它们显示在控制台上的类。

...问题是:到底为什么内存消耗会爆炸?

问候,
阿诺

编辑:

  • 无论我使用 ProcessBuilder 还是 Runtime.getRuntime.exec(...),结果都是一样的。
  • 内存爆发往往出现在由 shell 脚本调用的 unix 'sort' 期间:
sort big-text-file > big-text-file.sorted

应 Jim Garrison 的要求编辑 2:

好的,这是我省略的 StreamConsumer 类,因为它相当简单:

class StreamConsumer implements Runnable
{
    InputStream stream;
    String descr;

    StreamConsumer(InputStream stream, String descr) {
        this.stream = stream;
        this.descr = descr;
    }

    @Override
    public void run()
    {
        String line;

        BufferedReader  brCleanUp = 
            new BufferedReader (new InputStreamReader (stream));

        try {
            while ((line = brCleanUp.readLine ()) != null)
                System.out.println ("[" + descr + "] " + line);
             brCleanUp.close();
        } catch (IOException e) {
            // TODO: handle exception
        }
    }
}
4

2 回答 2

2

如果您像这样更改命令: sort -o big-text-file.sorted big-text-file

总是一样吗?

于 2011-06-23T13:54:34.000 回答
0

也许是因为这些StreamConsumer线程不是守护进程,所以当您的进程返回时它们不会死亡并收集垃圾?你可以试试:

//...  
final StreamConsumer stderr = new StreamConsumer(p.getErrorStream(), "stderr");
final StreamConsumer stdout = new StreamConsumer(p.getInputStream(), "stdout");
final Thread stderrThread = new Thread(stderr);
final Thread stdoutThread = new Thread(stdout);
stderrThread.setDaemon(true);
stdoutThread.setDaemon(true);
stderrThread.start();
stdoutThread.start();
//...

这种行为是在单次调用中发生还是在多次执行后发生?

于 2011-10-15T16:39:11.747 回答