5

我有一些关于 ProcessBuilder 的问题。该程序基本上是一个调用命令行脚本的简单包装器。

通过终端自行运行脚本时，内存消耗保持在 2G 以下。通过java wrapper运行脚本时，内存消耗爆炸，甚至8G也很快被填满，导致内存不足的错误。

启动该过程的代码很简单：

public static int execute(String command) throws IOException
 {
  System.out.println("Executing: " + command);

  ProcessBuilder pb = new ProcessBuilder(command.split(" +"));
  Process p = pb.start();

  // display any output in stderr or stdout  
  StreamConsumer stderr = new StreamConsumer(p.getErrorStream(), "stderr");
  StreamConsumer stdout = new StreamConsumer(p.getInputStream(), "stdout");
  new Thread(stderr).start();
  new Thread(stdout).start();

  try {
   return p.waitFor();
  } catch (InterruptedException e) {
   throw new RuntimeException(e); 
  }
 }

StreamConsumer 类只是一个使用 stdout/stderr 流并将它们显示在控制台上的类。

...问题是：到底为什么内存消耗会爆炸？

问候，
阿诺

编辑：

  • 无论我使用 ProcessBuilder 还是 Runtime.getRuntime.exec(...)，结果都是一样的。
  • 内存爆发往往出现在由 shell 脚本调用的 unix 'sort' 期间：
sort big-text-file > big-text-file.sorted

应 Jim Garrison 的要求编辑 2：

好的，这是我省略的 StreamConsumer 类，因为它相当简单：

class StreamConsumer implements Runnable
{
    InputStream stream;
    String descr;

    StreamConsumer(InputStream stream, String descr) {
        this.stream = stream;
        this.descr = descr;
    }

    @Override
    public void run()
    {
        String line;

        BufferedReader  brCleanUp = 
            new BufferedReader (new InputStreamReader (stream));

        try {
            while ((line = brCleanUp.readLine ()) != null)
                System.out.println ("[" + descr + "] " + line);
             brCleanUp.close();
        } catch (IOException e) {
            // TODO: handle exception
        }
    }
}
4

2 回答 2

2

如果您像这样更改命令： sort -o big-text-file.sorted big-text-file

总是一样吗？

于 2011-06-23T13:54:34.000 回答
0

也许是因为这些StreamConsumer线程不是守护进程，所以当您的进程返回时它们不会死亡并收集垃圾？你可以试试：

//...  
final StreamConsumer stderr = new StreamConsumer(p.getErrorStream(), "stderr");
final StreamConsumer stdout = new StreamConsumer(p.getInputStream(), "stdout");
final Thread stderrThread = new Thread(stderr);
final Thread stdoutThread = new Thread(stdout);
stderrThread.setDaemon(true);
stdoutThread.setDaemon(true);
stderrThread.start();
stdoutThread.start();
//...

这种行为是在单次调用中发生还是在多次执行后发生？

于 2011-10-15T16:39:11.747 回答