1

好的,所以我得到了大约 100k-1M 行的文本,我总是将它们导入数据库。我使用的代码如下:

$lines = new SplFileObject('/home/file.txt');
while(!$lines->eof()) {
    $lines->next();       //Skipping first line
    $row = explode(',',$lines);
    for($i = 0; $i<4; $i++){
        if(!isset($row[$i])){
            $row[$i] = null;
        }
    }
    $y = (float) $row[1];
    $z = (float) $row[2];
    $load_query = "INSERT IGNORE INTO new (datetime_gmt,field2,field3)
    VALUES ('".$row[0]."','".$y."','".$z."');";

    if(!$mysqli->query($load_query)){
      die("CANNOT EXECUTE".$mysqli->error."\n");
    }
}
$lines = null;

但是,它需要很长时间。有没有更快的方法来做到这一点,还是我坚持使用这种方法?

PS。我不想使用 MySQL 的“INSERT DATA INFILE”。

4

1 回答 1

3

如所写,您正在为每一行运行一个插入语句。INSERT INTO table (foo, bar) VALUES (1, 2), (3, 4), (5, 6);如果您以最后执行一次的格式编译单个多插入语句,它会快得多。类似这样的东西,虽然它可以被清理得更多。

$lines = new SplFileObject('/home/file.txt');
$load_query = "INSERT IGNORE INTO new (datetime_gmt,field2,field3)
    VALUES ";
while(!$lines->eof()) {
    $lines->next();       //Skipping first line
    $row = explode(',',$lines);
    for($i = 0; $i<4; $i++){
        if(!isset($row[$i])){
            $row[$i] = null;
        }
    }
    $y = (float) $row[1];
    $z = (float) $row[2];
    $load_query .= "('".$row[0]."','".$y."','".$z."'),";
}

if(!$mysqli->query(rtrim($load_query, ','))) {
    die("CANNOT EXECUTE".$mysqli->error."\n");
}
$lines = null;

还要确保数据是可信的。如果文件可以来自外部用户,则直接附加到查询字符串会创建一个 SQL 注入向量。

于 2017-06-06T14:51:39.887 回答