问题描述:
普通台式机,采集数据,表中已经有>1000万数据量。
采集回来的数据插入表中的时候很慢,每条约100毫秒。
解决方法:
1、加大mysql配置中的bulk_insert_buffer_size,这个参数默认为8M
bulk_insert_buffer_size=100M
2、改写所有insert语句为insert delayed
insert delayed不同之处在于:
立即返回结果,后台进行处理插入。
技巧:
在一条insert中插入多条数据,类似insert into tablename values('xxx','xxx'),('yyy','yyy'),('zzz','zzz')...;
在采集程序中修改sql程序比较麻烦,慎用。