24

我不明白。XSLX 表大约有 3MB 大,但即使 1024MB 的 RAM 也不足以让 PHPExcel 将其加载到内存中?

我可能在这里做一些可怕的错误:

function ReadXlsxTableIntoArray($theFilePath)
{
    require_once('PHPExcel/Classes/PHPExcel.php');
    $inputFileType = 'Excel2007';
    $objReader = PHPExcel_IOFactory::createReader($inputFileType);
    $objReader->setReadDataOnly(true);
    $objPHPExcel = $objReader->load($theFilePath);
    $rowIterator = $objPHPExcel->getActiveSheet()->getRowIterator();
    $arrayData = $arrayOriginalColumnNames = $arrayColumnNames = array();
    foreach($rowIterator as $row){
        $cellIterator = $row->getCellIterator();
        $cellIterator->setIterateOnlyExistingCells(false); // Loop all cells, even if it is not set
        if(1 == $row->getRowIndex ()) {
            foreach ($cellIterator as $cell) {
                $value = $cell->getCalculatedValue();
                $arrayOriginalColumnNames[] = $value;
                // let's remove the diacritique
                $value = iconv('UTF-8', 'ISO-8859-1//TRANSLIT', $value);
                // and white spaces
                $valueExploded = explode(' ', $value);
                $value = '';
                // capitalize the first letter of each word
                foreach ($valueExploded as $word) {
                    $value .= ucfirst($word);
                }
                $arrayColumnNames[] = $value;
            }
            continue;
        } else {
            $rowIndex = $row->getRowIndex();
            reset($arrayColumnNames);
            foreach ($cellIterator as $cell) {
                $arrayData[$rowIndex][current($arrayColumnNames)] = $cell->getCalculatedValue();
                next($arrayColumnNames);
            }
        }
    }
    return array($arrayOriginalColumnNames, $arrayColumnNames, $arrayData);
}

上面的函数将数据从 excel 表中读取到数组中。

有什么建议么?

起初,我允许 PHP 使用 256MB 的 RAM。这还不够。然后我将数量翻了一番,然后也尝试了 1024MB。它仍然出现此错误的内存不足:

Fatal error: Allowed memory size of 1073741824 bytes exhausted (tried to allocate 50331648 bytes) in D:\data\o\WebLibThirdParty\src\PHPExcel\Classes\PHPExcel\Reader\Excel2007.php on line 688

Fatal error (shutdown): Allowed memory size of 1073741824 bytes exhausted (tried to allocate 50331648 bytes) in D:\data\o\WebLibThirdParty\src\PHPExcel\Classes\PHPExcel\Reader\Excel2007.php on line 688
4

8 回答 8

73

在 PHPExcel 论坛上有很多关于 PHPExcel 内存使用的文章;所以阅读之前的一些讨论可能会给你一些想法。PHPExcel 拥有电子表格的“内存中”表示,并且容易受到 PHP 内存限制的影响。

文件的物理大小在很大程度上无关紧要......了解它包含多少个单元格(每个工作表上的行*列)更为重要。

我一直使用的“经验法则”平均约为 1k/cell,因此 5M cell 的工作簿将需要 5GB 的内存。但是,您可以通过多种方式降低该要求。这些可以组合起来,具体取决于您需要在工作簿中访问哪些信息,以及您想用它做什么。

如果您有多个工作表,但不需要加载所有工作表,则可以使用 setLoadSheetsOnly() 方法限制 Reader 将加载的工作表。要加载单个命名工作表:

$inputFileType = 'Excel5'; 
$inputFileName = './sampleData/example1.xls';
$sheetname = 'Data Sheet #2'; 
/**  Create a new Reader of the type defined in $inputFileType  **/
$objReader = PHPExcel_IOFactory::createReader($inputFileType);
/**  Advise the Reader of which WorkSheets we want to load  **/ 
$objReader->setLoadSheetsOnly($sheetname); 
/**  Load $inputFileName to a PHPExcel Object  **/
$objPHPExcel = $objReader->load($inputFileName);

或者,您可以通过传递一组名称来调用 setLoadSheetsOnly() 来指定多个工作表:

$inputFileType = 'Excel5'; 
$inputFileName = './sampleData/example1.xls';
$sheetnames = array('Data Sheet #1','Data Sheet #3'); 
/** Create a new Reader of the type defined in $inputFileType **/ 
$objReader = PHPExcel_IOFactory::createReader($inputFileType);
/** Advise the Reader of which WorkSheets we want to load **/ 
$objReader->setLoadSheetsOnly($sheetnames); 
/**  Load $inputFileName to a PHPExcel Object  **/
$objPHPExcel = $objReader->load($inputFileName);

如果您只需要访问工作表的一部分,那么您可以定义一个读取过滤器来识别您实际想要加载的单元格:

$inputFileType = 'Excel5'; 
$inputFileName = './sampleData/example1.xls';
$sheetname = 'Data Sheet #3'; 

/**  Define a Read Filter class implementing PHPExcel_Reader_IReadFilter  */ 
class MyReadFilter implements PHPExcel_Reader_IReadFilter {
    public function readCell($column, $row, $worksheetName = '') {
        //  Read rows 1 to 7 and columns A to E only 
        if ($row >= 1 && $row <= 7) {
           if (in_array($column,range('A','E'))) { 
              return true;
           }
        } 
        return false;
    }
}

/**  Create an Instance of our Read Filter  **/ 
$filterSubset = new MyReadFilter(); 
/** Create a new Reader of the type defined in $inputFileType **/ 
$objReader = PHPExcel_IOFactory::createReader($inputFileType);
/**  Advise the Reader of which WorkSheets we want to load 
     It's more efficient to limit sheet loading in this manner rather than coding it into a Read Filter  **/ 
$objReader->setLoadSheetsOnly($sheetname); 
echo 'Loading Sheet using filter';
/**  Tell the Reader that we want to use the Read Filter that we've Instantiated  **/ 
$objReader->setReadFilter($filterSubset); 
/**  Load only the rows and columns that match our filter from $inputFileName to a PHPExcel Object  **/
$objPHPExcel = $objReader->load($inputFileName);

使用读取过滤器,您还可以读取“块”中的工作簿,以便在任何时候只有一个块驻留在内存中:

$inputFileType = 'Excel5'; 
$inputFileName = './sampleData/example2.xls';

/**  Define a Read Filter class implementing PHPExcel_Reader_IReadFilter  */ 
class chunkReadFilter implements PHPExcel_Reader_IReadFilter {
    private $_startRow = 0;
    private $_endRow = 0;

    /**  Set the list of rows that we want to read  */ 
    public function setRows($startRow, $chunkSize) { 
        $this->_startRow    = $startRow; 
        $this->_endRow      = $startRow + $chunkSize;
    } 

    public function readCell($column, $row, $worksheetName = '') {
        //  Only read the heading row, and the rows that are configured in $this->_startRow and $this->_endRow 
        if (($row == 1) || ($row >= $this->_startRow && $row < $this->_endRow)) { 
           return true;
        }
        return false;
    } 
}

/**  Create a new Reader of the type defined in $inputFileType  **/
$objReader = PHPExcel_IOFactory::createReader($inputFileType);
/**  Define how many rows we want to read for each "chunk"  **/ 
$chunkSize = 20;
/**  Create a new Instance of our Read Filter  **/ 
$chunkFilter = new chunkReadFilter(); 
/**  Tell the Reader that we want to use the Read Filter that we've Instantiated  **/ 
$objReader->setReadFilter($chunkFilter); 

/**  Loop to read our worksheet in "chunk size" blocks  **/ 
/**  $startRow is set to 2 initially because we always read the headings in row #1  **/
for ($startRow = 2; $startRow <= 65536; $startRow += $chunkSize) { 
    /**  Tell the Read Filter, the limits on which rows we want to read this iteration  **/ 
    $chunkFilter->setRows($startRow,$chunkSize); 
    /**  Load only the rows that match our filter from $inputFileName to a PHPExcel Object  **/ 
    $objPHPExcel = $objReader->load($inputFileName); 
    //    Do some processing here 

    //    Free up some of the memory 
    $objPHPExcel->disconnectWorksheets(); 
    unset($objPHPExcel); 
}

如果您不需要加载格式信息,而只需要加载工作表数据,那么 setReadDataOnly() 方法将告诉读者只加载单元格值,而忽略任何单元格格式:

$inputFileType = 'Excel5';
$inputFileName = './sampleData/example1.xls';
/** Create a new Reader of the type defined in $inputFileType **/ 
$objReader = PHPExcel_IOFactory::createReader($inputFileType);
/** Advise the Reader that we only want to load cell data, not formatting **/ 
$objReader->setReadDataOnly(true);
/**  Load $inputFileName to a PHPExcel Object  **/
$objPHPExcel = $objReader->load($inputFileName);

使用单元缓存。这是一种减少每个单元所需的 PHP 内存的方法,但会以速度为代价。它通过以压缩格式存储单元对象或在 PHP 内存(例如磁盘、APC、memcache)之外存储单元对象来工作……但是您节省的内存越多,脚本执行的速度就越慢。但是,您可以将每个单元所需的内存减少到大约 300 字节,因此假设的 5M 单元将需要大约 1.4GB 的 PHP 内存。

单元缓存在开发者文档的第 4.2.1 节中描述

编辑

查看您的代码,您正在使用不是特别有效的迭代器,并构建了一个单元格数据数组。您可能想查看已内置在 PHPExcel 中的 toArray() 方法,并为您执行此操作。还可以看看最近关于 SO 的讨论,关于新的变体方法 rangeToArray() 来构建行数据的关联数组。

于 2011-01-27T14:41:31.883 回答
10

我对 PHPExcel 以及实际上所有其他库都有同样的内存问题。正如 Mark Ba​​ker 建议的那样,分块读取数据可以解决问题(缓存也可以),但事实证明内存问题变成了时间问题。读写时间是指数级的,因此对于大型电子表格来说,它并不适合。

PHPExcel 和其他软件不适合处理大文件,所以我创建了一个库来解决这个问题。你可以在这里查看:https ://github.com/box/spout

希望有帮助!

于 2015-01-27T18:46:14.813 回答
5

在使用 PHPExcel 时,您可以采取很多措施来减少内存。我建议您在 Apache 中修改服务器的内存限制之前采取以下措施来优化内存使用。

/* Use the setReadDataOnly(true);*/
    $objReader->setReadDataOnly(true);

/*Load only Specific Sheets*/
    $objReader->setLoadSheetsOnly( array("1", "6", "6-1", "6-2", "6-3", "6-4", "6-5", "6-6", "6-7", "6-8") );

/*Free memory when you are done with a file*/
$objPHPExcel->disconnectWorksheets();
   unset($objPHPExcel);

避免使用非常大的 Exel 文件,记住是文件大小使进程运行缓慢并崩溃。

避免使用 getCalculatedValue(); 读取单元格时的功能。

于 2015-06-22T12:44:33.727 回答
2

Ypu 可以尝试 PHP Excel http://ilia.ws/archives/237-PHP-Excel-Extension-0.9.1.html它是 php 的 C 扩展,速度非常快。(也比 PHP 实现使用更少的内存)

于 2011-01-27T14:38:25.877 回答
1

就我而言,phpexcel 总是遍历 19999 行。无论如何,实际上填充了多少行。所以 100 行数据总是以内存错误告终。

也许您只需要检查当前行中的单元格是否为空,然后“继续”或打破循环,即迭代行。

于 2012-04-08T16:52:08.043 回答
1

只是从另一个线程重新发布我的帖子。它描述了应考虑的服务器端生成或编辑 Excel 电子表格的不同方法。对于大量数据,我不推荐 PHPExcel 或 ApachePOI(用于 Java)等工具,因为它们需要内存。还有另一种非常方便(虽然可能有点繁琐)的方法可以将数据注入电子表格。可以在服务器端生成或更新 Excel 电子表格,从而进行简单的 XML 编辑。您可以将 XLSX 电子表格放在服务器上,每次从 dB 收集数据时,您都可以使用 php 解压缩它。然后,您访问特定的 XML 文件,这些文件包含需要手动注入和插入数据的工作表内容。之后,您压缩电子表格文件夹,以便将其作为常规 XLSX 文件分发。整个过程非常快速和可靠。显然,与 XLSX/Open XML 文件的内部组织相关的问题和故障很少(例如 Excel 倾向于将所有字符串存储在单独的表中,并在工作表文件中使用对该表的引用)。但是当只注入像数字和字符串这样的数据时,这并不难。如果有人有兴趣,我可以提供一些代码。

于 2012-05-31T10:07:34.007 回答
1

我遇到了这个问题,不幸的是,没有一个建议的解决方案可以帮助我。我需要 PHPExcel 提供的功能(公式、条件样式等),因此不能选择使用不同的库。

我最终所做的是将每个工作表写入一个单独的(临时)文件,然后将这些单独的文件与我编写的一些特殊软件结合起来。这将我的内存消耗从 > 512 Mb 减少到远低于 100 Mb。如果您有同样的问题,请参阅https://github.com/infostreams/excel-merge 。

于 2016-02-15T11:47:51.373 回答
0

PHPExcel 已存档,截至今天的其他选项是:

  • box/spout(或 Laravel 的 FastExcel 包装器)
  • PhpSpreadsheet

对于非常大的数据集(5-20​​k 行等),您需要 spout 中不存在的分块支持。您必须自己实现一些解决方案(例如将自定义限制写入文件,在下一次迭代中打开该文件,创建一个附加新数据的新文件......)

或者,PhpSpreadsheet 默认支持分块。但是,它比 spout 花费更多的资源。

于 2021-11-19T06:03:39.487 回答