17

我的 PHP 应用程序有一个可以导入记录的导入脚本。

目前，它正在从 CSV 文件导入。它正在读取 CSV 文件的每一行，使用 fgetcsv 一次一行，并且对于每一行，它对该记录进行大量处理，包括数据库查询，然后转到下一行。它不应该需要不断积累更多的内存。

在导入大约 2500 条记录后，PHP 死了，说它已超出其内存限制（132 MB 左右）。

CSV 文件本身只有几兆 - 发生的其他处理会进行大量字符串比较、差异等。我有大量代码在上面操作，很难想出一个“最小的复制”样本'。

有哪些好方法可以找到并解决此类问题？

发现问题原因

我有一个调试类，它在运行时记录我所有的数据库查询。因此，那些大约 30KB 长的 SQL 字符串保留在内存中。我意识到这不适合设计为长时间运行的脚本。

可能还有其他内存泄漏来源，但我很确定这是我的问题的原因。

4

8 回答 8

7

如果您确实怀疑脚本中只有一两个内存泄漏导致它崩溃，那么您应该采取以下步骤：

  • 改成memory_limit小的，比如 500KB
  • 注释掉除一个应用于每一行的处理步骤之外的所有处理步骤。
  • 对整个 CSV 文件运行有限的处理，看看它是否可以完成。
  • 逐渐添加更多步骤并观察内存使用量是否达到峰值。

例子：

ini_set('memory_limit', 1024 * 500);
$fp = fopen("test.csv", 'r');
while($row = fgetcsv($fp)) {
    validate_row($row);         // step 1: validate
    // add these back in one by one and keep an eye on memory usage
    //calculate_fizz($row);     // step 2: fizz
    //calculate_buzz($row);     // step 3: buzz
    //triangulate($row);        // step 4: triangulate
}
echo "Memory used: ", memory_get_peak_usage(), "\n";

最坏的情况是，您的所有处理步骤都相当低效，您需要优化所有这些步骤。

于 2009-06-18T03:12:20.823 回答
5

查看代码会有所帮助，但如果您想自己调试，请查看Xdebug，它将有助于分析您的应用程序。

当然，根据您的操作，它可能会累积一些内存，尽管 132MB 对于 2500 条记录来说似乎已经很高了。当然，如果需要，您可以在 php.ini中调整内存限制。

您正在阅读的 CSV 文件有多大？您正在对它进行哪些对象和类型的处理？

于 2009-06-18T02:02:33.210 回答
2

这取决于您在完成变量后如何清除它们。

看起来您已完成记录，但您仍在某处存储信息。如果有疑问，请使用unset()清除变量。

如果这没有帮助，请提供一个最小的重现代码示例，以查看所有内存在哪里。

顺便说一句，生成将重现问题的最小代码示例是一种很好的调试技术，因为它迫使您再次仔细检查代码。

于 2009-06-18T02:01:38.547 回答
2

您可以尝试本地安装 php5.3 并调用 http://www.php.net/manual/en/function.gc-collect-cycles.php。

gc_collect_cycles— 强制收集任何现有的垃圾循环

如果情况有所改善，您至少验证了（一个）问题。

于 2009-06-18T06:44:10.250 回答
1

你是如何阅读文件的？如果您使用 fread/filegetcontents 或其他此类函数，那么您将在内存中消耗整个文件大小（或使用 fread 加载多少），因为在调用时加载整个文件。但是，如果您使用fgetcsv if 一次只能读取一行，具体取决于行的长度，这对您的记忆来说会非常容易。

还要确保在每个循环中重用尽可能多的变量。检查其中没有包含大量数据的数组。

作为最后一点，还要确保您在循环之前打开文件，然后在之后关闭它：

$fh = fopen(...);
while(true)
{
//...
}
fclose($fh);

你真的不想这样做：

while(true)
{
$fh = fopen(...);
//...
fclose($fh);
}

就像其他人所说的那样，如果不看一些代码就很难说。

于 2009-06-18T02:06:16.183 回答
0

没有看到任何代码很难说出原因。但是，一个典型的问题是递归引用，即。对象 A 指向对象 B，反之亦然，这可能会导致 GC 搞砸。

我不知道您当前如何处理该文件，但您可以尝试一次只读取一行文件。如果您一次读取整个文件，可能会消耗更多内存。

这实际上是我经常更喜欢 Python 来处理批处理任务的原因之一。

于 2009-06-18T01:58:54.247 回答
0

你能在你的 php.ini 中改变你的 memory_limit 吗？

另外，对变量执行 unset($var) 可以释放一些内存吗？$var = null 也有帮助吗？

另请参阅此问题：使用 PHP 释放内存有什么好处：unset() 或 $var = null

于 2009-06-18T02:16:34.337 回答
0

我遇到了同样的问题，也是由于数据库分析（Zend_Db_Profiler_Firebug）。就我而言，它每分钟泄漏 1mb。这个脚本应该运行几天，所以它会在几个小时内崩溃。

于 2010-10-28T02:21:41.753 回答