0

在运行将大数据导入 mysql 的 PHP 脚本时，我遇到了以下错误：

memory exhausted near ''$GPGGA','130735.000','60.15751','N','24.74303','E','1','05','1.6','8.7','M','35' at line 1

我之前在我的 PHP INI 文件中分配了 256M 的内存限制。到目前为止，这个内存已经足够我的脚本了，到目前为止我还没有遇到任何问题。我已导入大小为 1MB 和 2.84MB 的文件，同时将内存限制保持在 256MB。当我运行大约 1MB 的文本文件时发生此错误。

我假设错误所指的内存是 PHP 内存限制。是否可以设置任何其他内存限制？我会很感激一些解决这个问题的建议。非常感谢。

新编辑

...
...
if (is_array($inFile)) {

foreach($inFile as $inFileName) {

    $newFilePath = $upload_directory."/".$inFileName;

    if($inFileName != "")

    $handle = fopen($newFilePath,"r");
    $numlines =1;

    $query = "INSERT INTO gga_raw_data(device_id, gga_date,  nmea, gga_time, latitude, north, longitude, east, fixed_quality, no_of_satelites, hdop, altitude, meters, height_of_geoid, metres, check_sum, test_case_id) values";
    while (($data = fgetcsv($handle)) !== FALSE)
    {
        $numlines++;

        $myDay=substr($data[1], 0,2);
        $myMonth=substr($data[1], 2,2);
        $myYear=substr($data[1], 4,2);

        $gga_date = convertToNiceDate($myDay, $myMonth, 2000+$myYear);

        $longitude = convertToDegrees($data[6]);
        $latitude  = convertToDegrees($data[4]);


        if (!isset($data[16])) {
            $data[16] = '';
        }

        $query .="('$data[0]','$gga_date','$data[2]','$data[3]','$latitude','$data[5]','$longitude','$data[7]','$data[8]','$data[9]','$data[10]','$data[11]','$data[12]','$data[13]','$data[14]', '$data[15]', '$data[16])',";


    }

    $query = substr($query, 0,-1);

我不想开始一个新问题，因为它仍然在这个问题上。我已经解决了“内存耗尽”问题，但现在有一个 mySQL 查询错误让我的生活非常痛苦，我需要帮助。

这是来自文本文件的输入数据示例：

1,070610,$GPGGA,080323.460,6013.45368,N,02445.28396,E,1,04,4.6,18.3,M,35.0,M,,*67
1,070610,$GPGGA,080327.000,6013.44424,N,02445.31214,E,1,05,1.9,30.8,M,35.0,M,,*66

这是 echo $query 的结果：

INSERT INTO gga_raw_data(device_id, gga_date, nmea, gga_time, latitude, north, longitude, east, fixed_quality, no_of_satelites, hdop, altitude, meters, height_of_geoid, metres,check_sum) values('1','2010,06,07','$GPGGA','080323.460','60.22423','N','24.75473','E','1','04','4.6','18.3','M','35.0','M','')('1','2010,06,07','$GPGGA','080327.000','60.22407','N','24.7552','E','1','05','1.9','30.8','M','35.0','M','')
)('1','2010,06,07','$GPGGA','053416.000','0','','0','','0','','','','','','','')('1','2010,06,07','$GPGGA','053431.000','0','','0','','0','','','','','','','')('1','2010,06,07','$GPGGA','062929.000','0','','0','','0','','','','','','','')('1','2010,06,07','$GPGGA','080250.000','0','','0','','0','','','','','','','')('1','2010,06,07','$GPGGA','080305.000','0','','0','','0','','','','','','','')('1','2010,06,07','$GPGGA','080305.000','0','','0','','0','','','','','','','')('1','2010,06,07','$GPGGA','080320.000','0','','0','','0','','','','','','','')


You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near '('1','2010,06,07','$GPGGA','080327.000','60.22407','N','24.7552','E','1','05','1' at line 1

我注意到，输入数据中的最后一个变量“* 67”没有被查询解析​​。我不确定它是否不被识别，因为它以 * 开头。

4

2 回答 2

2

一次插入一行或将它们批量插入，例如一次 50 行...

$gen_query=$query; // keep $query as the stub

while (($data = fgetcsv($handle)) !== FALSE)
{
    $numlines++;

    ...
    $gen_query .="('$data[0]','$gga_date','$data[2]','$data[3]','$latitude','$data[5]','$longitude','$data[7]','$data[8]','$data[9]','$data[10]','$data[11]','$data[12]','$data[13]','$data[14]', '$data[15]', '$data[16])',";
   if ($numlines % 50 == 0) {
      mysql_query(substr($gen_query,0,-1));
      $gen_query=$query;
   }
}
if ($gen_query!=$query) mysql_query(substr($gen_query,0,-1));
于 2010-11-11T13:40:36.930 回答
0

您可以在 php.ini 中设置其他限制，例如最大帖子大小、最大上传大小等。但该错误看起来是由其他原因引起的。阅读上传的文件后，您是否正在构建非常大的对象[在 php 中，最有可能是数组]？昨晚我遇到了类似的问题，我所要做的就是增加我在 php.ini 中的内存限制。

当我之前遇到过这个问题而没有增加内存限制的选项时，我不得不重写我的代码，这样很多对象就不会同时存储在内存中。你可以发布一些代码吗？

于 2010-11-11T12:31:43.123 回答