MYSQL批量插入数据库实现语句性能分析

批量插入数据到mysql数据库的方法有很多种,但都离不开insert into了,下面我来给大家介绍不同中批量插入mysql数据库性能分析.

假定我们的表结构如下:

1. CREATETABLEexample(
2. example_idINTNOTNULL,
3. nameVARCHAR(50)NOTNULL,
4. valueVARCHAR(50)NOTNULL,
5. other_valueVARCHAR(50)NOTNULL
6. )

通常情况下单条插入的sql语句我们会这么写:

1. INSERTINTOexample
2. (example_id,name,value,other_value)
3. VALUES
4. (100,'Name1','Value1','Other1');

mysql允许我们在一条sql语句中批量插入数据,如下sql语句:

1. INSERTINTOexample
2. (example_id,name,value,other_value)
3. VALUES
4. (100,'Name1','Value1','Other1'),
5. (101,'Name2','Value2','Other2'),
6. (102,'Name3','Value3','Other3'),
7. (103,'Name4','Value4','Other4');

如果我们插入列的顺序和表中列的顺序一致的话,还可以省去列名的定义,如下sql:

1. INSERTINTOexample
2. VALUES
3. (100,'Name1','Value1','Other1'),
4. (101,'Name2','Value2','Other2'),
5. (102,'Name3','Value3','Other3'),
6. (103,'Name4','Value4','Other4');

上面看上去没什么问题,下面我来使用sql语句优化的小技巧,下面会分别进行测试,目标是插入一个空的数据表200W条数据.

第一种方法:使用insert into 插入,代码如下:

1. $params=array('value'=>'50');
2. set_time_limit(0);
3. echodate("H:i:s");
4. for($i=0;$i<2000000;$i++){
5. $connect_mysql->insert($params);
6. };
7. echodate("H:i:s");

最后显示为:23:25:05 01:32:05 也就是花了2个小时多！

第二种方法:使用事务提交,批量插入数据库,每隔10W条提交下,最后显示消耗的时间为:22:56:13 23:04:00,一共8分13秒,代码如下:

1. echodate("H:i:s");
2. $connect_mysql->query('BEGIN');
3. $params=array('value'=>'50');
4. for($i=0;$i<2000000;$i++){
5. $connect_mysql->insert($params);
6. if($i%100000==0){
7. $connect_mysql->query('COMMIT');
8. $connect_mysql->query('BEGIN');
9. }//phpfensi.com
10. }
11. $connect_mysql->query('COMMIT');
12. echodate("H:i:s");

第三种方法:使用优化SQL语句,将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL，在mysql 命令行中运行 ：set global max_allowed_packet = 2*1024*1024*10;消耗时间为:11:24:06 11:25:06;

插入200W条测试数据仅仅用了1分钟,代码如下:

1. $sql="insertintotwenty_million(value)values";
2. for($i=0;$i<2000000;$i++){
3. $sql.="('50'),";
4. }; //phpfensi.com
5. $sql=substr($sql,0,strlen($sql)-1);
6. $connect_mysql->query($sql);

最后总结下,在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快.