我们正在使用 C# oracleDataReader 将数据从 oracle 数据库提取到文件中,我们正在使用多个线程,我发现读取 clob 以外的数据非常快,比如说 1 GB 需要 4 分钟。但是当数据包含 clob 时,它非常非常慢,即使是 12 MB 的 clob 数据也需要大约 3 个小时。
我尝试将缓冲区从 64 KB 增加到 5MB。
请建议如何提高将 clob 写入文件的速度。
源代码
我们使用 2 个文件,1 个用于实际 csv,1 个用于 clob。我们在csv文件中写recordpointer代替clob,在clob文件中我们写recordpointer,clob值。
else if (objVal is OracleClob)
{
OracleClob oraVal = (OracleClob)objVal;
if (oraVal.IsEmpty)
sw.Write("");
else
{
// using (StreamWriter writer = new StreamWriter(fileName, true))
{
Interlocked.Increment(ref recordPointer);
if (recordPointer == 1)
{
string fileName = outputFileName.Remove(outputFileName.LastIndexOf("."));
fileName = fileName + ".clobcsv";
clobWriter = new StreamWriter(fileName, true);
log.Info("CLOB data is found in this file " + outputFileName + " and clob data is stored in " + fileName + " file");
clobWriter.WriteLine("Id," + cols[i]);
}
StringBuilder sb = new StringBuilder("\"");
StringBuilder value = new StringBuilder();
value.Append(oraVal.Value);
//CsvEscape(value.ToString());
value.Replace("\"", "\"\"");
sb.Append(recordPointer);
sb.Append("\"");
sb.Append(delimiter);
sb.Append("\"");
//sb.Append(oraVal.Value.Replace("\"", "\"\""));
sb.Append(value);
value.Clear();
sb.Append("\"");
clobWriter.WriteLine(sb);
//clobWriter.WriteLine("\"" + recordPointer + "\"" + delimiter + "\"" + oraVal.Value.Replace("\"", "\"\"") + "\"");
}
sw.Write(recordPointer);
}
}