不管是日常業(yè)務(wù)數(shù)據(jù)處理中，還是數(shù)據(jù)庫的導(dǎo)入導(dǎo)出，都可能遇到需要處理大量數(shù)據(jù)的插入。插入的方式和數(shù)據(jù)庫引擎都會(huì)對(duì)插入速度造成影響，這篇文章旨在從理論和實(shí)踐上對(duì)各種方法進(jìn)行分析和比較，方便以后應(yīng)用中插入方法的選擇。
插入分析
MySQL中插入一個(gè)記錄需要的時(shí)間由下列因素組成，其中的數(shù)字表示大約比例：
連接：（3）
發(fā)送查詢給服務(wù)器：（2）
分析查詢：（2）
插入記錄：（1x記錄大小）
插入索引：（1x索引）
關(guān)閉：（1）
如果我們每插入一條都執(zhí)行一個(gè)SQL語句，那么我們需要執(zhí)行除了連接和關(guān)閉之外的所有步驟N次，這樣是非常耗時(shí)的，優(yōu)化的方式有一下幾種：
在每個(gè)insert語句中寫入多行，批量插入
將所有查詢語句寫入事務(wù)中
利用Load Data導(dǎo)入數(shù)據(jù)
每種方式執(zhí)行的性能如下。
Innodb引擎
InnoDB 給 MySQL 提供了具有事務(wù)(commit)、回滾(rollback)和崩潰修復(fù)能力(crash recovery capabilities)的事務(wù)安全(transaction-safe (ACID compliant))型表。InnoDB 提供了行鎖(locking on row level)以及外鍵約束(FOREIGN KEY constraints)。
InnoDB 的設(shè)計(jì)目標(biāo)是處理大容量數(shù)據(jù)庫系統(tǒng)，它的 CPU 利用率是其它基于磁盤的關(guān)系數(shù)據(jù)庫引擎所不能比的。在技術(shù)上，InnoDB 是一套放在 MySQL 后臺(tái)的完整數(shù)據(jù)庫系統(tǒng)，InnoDB 在主內(nèi)存中建立其專用的緩沖池用于高速緩沖數(shù)據(jù)和索引。
測(cè)試環(huán)境
Macbook Air 12mid apache2.2.26 php5.5.10 mysql5.6.16
總數(shù)100W條數(shù)據(jù)
插入完后數(shù)據(jù)庫大小38.6MB（無索引），46.8（有索引）
無索引單條插入 總耗時(shí)：229s 峰值內(nèi)存：246KB
有索引單條插入 總耗時(shí)：242s 峰值內(nèi)存：246KB
無索引批量插入 總耗時(shí)：10s 峰值內(nèi)存：8643KB
有索引批量插入 總耗時(shí)：16s 峰值內(nèi)存：8643KB
無索引事務(wù)插入 總耗時(shí)：78s 峰值內(nèi)存：246KB
有索引事務(wù)插入 總耗時(shí)：82s 峰值內(nèi)存：246KB
無索引Load Data插入 總耗時(shí)：12s 峰值內(nèi)存：246KB
有索引Load Data插入 總耗時(shí)：11s 峰值內(nèi)存：246KB
MyIASM引擎
MyISAM 是MySQL缺省存貯引擎。設(shè)計(jì)簡(jiǎn)單，支持全文搜索。
測(cè)試環(huán)境
Macbook Air 12mid apache2.2.26 php5.5.10 mysql5.6.16
總數(shù)100W條數(shù)據(jù)
插入完后數(shù)據(jù)庫大小19.1MB（無索引），38.6（有索引）
無索引單條插入 總耗時(shí)：82s 峰值內(nèi)存：246KB
有索引單條插入 總耗時(shí)：86s 峰值內(nèi)存：246KB
無索引批量插入 總耗時(shí)：3s 峰值內(nèi)存：8643KB
有索引批量插入 總耗時(shí)：7s 峰值內(nèi)存：8643KB
無索引Load Data插入 總耗時(shí)：6s 峰值內(nèi)存：246KB
有索引Load Data插入 總耗時(shí)：8s 峰值內(nèi)存：246KB
總結(jié)
我測(cè)試的數(shù)據(jù)量不是很大，不過可以大概了解這幾種插入方式對(duì)于速度的影響，最快的必然是Load Data方式。這種方式相對(duì)比較麻煩，因?yàn)樯婕暗搅藢懳募强梢约骖檭?nèi)存和速度。
測(cè)試代碼
以上就是MySQL大量數(shù)據(jù)插入各種方法性能分析與比較，希望能幫到你。
京公網(wǎng)安備 11010502049343號(hào)