Jangan mengesampingkan kemungkinan solusi berdasarkan asumsi yang tidak berdasar. Saya baru saja menguji penyisipan 100.000 baris dari System.Data.DataTable
ke dalam tabel MySQL menggunakan MySqlDataAdapter#Update()
standar di dalam Transaction
. Secara konsisten membutuhkan waktu sekitar 30 detik untuk dijalankan:
using (MySqlTransaction tran = conn.BeginTransaction(System.Data.IsolationLevel.Serializable))
{
using (MySqlCommand cmd = new MySqlCommand())
{
cmd.Connection = conn;
cmd.Transaction = tran;
cmd.CommandText = "SELECT * FROM testtable";
using (MySqlDataAdapter da = new MySqlDataAdapter(cmd))
{
da.UpdateBatchSize = 1000;
using (MySqlCommandBuilder cb = new MySqlCommandBuilder(da))
{
da.Update(rawData);
tran.Commit();
}
}
}
}
(Saya mencoba beberapa nilai berbeda untuk UpdateBatchSize
tetapi mereka tampaknya tidak memiliki dampak yang signifikan pada waktu yang telah berlalu.)
Sebaliknya, kode berikut menggunakan MySqlBulkLoader
hanya butuh 5 atau 6 detik untuk menjalankan ...
string tempCsvFileSpec = @"C:\Users\Gord\Desktop\dump.csv";
using (StreamWriter writer = new StreamWriter(tempCsvFileSpec))
{
Rfc4180Writer.WriteDataTable(rawData, writer, false);
}
var msbl = new MySqlBulkLoader(conn);
msbl.TableName = "testtable";
msbl.FileName = tempCsvFileSpec;
msbl.FieldTerminator = ",";
msbl.FieldQuotationCharacter = '"';
msbl.Load();
System.IO.File.Delete(tempCsvFileSpec);
... termasuk waktu untuk membuang 100.000 baris dari DataTable ke file CSV sementara (menggunakan kode yang mirip dengan ini ), memuat secara massal dari file itu, dan menghapus file setelahnya.