mysql⼤数据优化⽅法
当mysql数据量过⼤的时候，⽤⼀般的查询语句会相对较慢，下⾯从数据库设计、SQL语句⽅⾯来说说怎样优化提⾼查询效率，如果感觉⼩编那⾥写的不好不对或者可以进⼀步优化的地⽅，欢迎在评论区，指正留⾔。
⼀、数据库设计⽅⾯
1) 单库表别太多，⼀般保持在200以下；
2)表设计尽量⼩，不要啥都放⼀张表⾥；
3)SQL事务不能设计太⼤，⽐如⼀次性提交10W条insert，不仅性能受影响可能还会存在内存溢出。⼀般insert事务的话，5K-1W来批处理就可以了但是是字段不能太⼤；
4)设计表的时候尽量⽤"⼩数据类型"，尽量避免text、blob等，优先使⽤enum、set（⼩，范围有限）；
5)设计表字段能⽤数字类型就不要⽤字符类型，⽐如存储⼿机号，⽤int就可以了不要去⽤varchar 。⽤varchar 这会降低查询和连接的性能，并会增加存储开销。这是因为引擎在处理查询和连 接时会逐个⽐较字符串中每⼀个字符，⽽对于数字型⽽⾔只需要⽐较⼀次就够了；
6)最好避免null字段，定义时尽量使⽤not null 。因为字段允许为null时不⽅便查询优化，复合索引也会失效，⽽且如果列有索引时会额外占⽤空间：a int(10) not null DEFAULT 0 ；
7)图⽚不要存DB ，⽤ fastdfs等中间件或者直接使⽤七⽜等云存储也可以，反正不是很贵；
8)事务尽可能的⼩，全加到⼀个transaction中；
9)存储过程，触发器之类的能避免就避免吧，因为维护不⽅便；
10)并不是所有索引对查询都有效，SQL是根据表中数据来进⾏查询优化的，当索引列有⼤量数据重复时，SQL查询可能不会去利⽤索引；
11)索引并不是越多越好，索引固然可以提⾼相应的 select 的效率，但同时也降低了 insert 及 update 的效率，因为 insert 或 update 时有可能会重建索引，所以怎样建索引需要慎重考虑，视具体情况⽽定。⼀个表的索引数最好不要超过6个，若太多则应考虑⼀些不常使⽤到的列上建的索引是否有 必要；
12)应尽可能的避免更新 clustered 索引数据列，因为 clustered 索引数据列的顺序就是表记录的物理存储顺序，⼀旦该列值改变将导致整个表记录的顺序的调整，会耗费相当⼤的资源。若应⽤系统需要频繁更新 clustered 索引数据列，那么需要考虑是否应将该索引建为clustered 索引；
13)尽可能的使⽤ varchar/nvarchar 代替 char/nchar ，因为⾸先变长字段存储空间⼩，可以节省存储空间，其次对于查询来说，在⼀个相对较⼩的字段内搜索效率显然要⾼些；
14)尽量使⽤表变量来代替临时表。如果表变量包含⼤量数据，请注意索引⾮常有限（只有主键索引）；
15) 避免频繁创建和删除临时表，以减少系统表资源的消耗；
16)临时表并不是不可使⽤，适当地使⽤它们可以使某些例程更有效，例如，当需要重复引⽤⼤型表或常⽤表中的某个数据集时。但是，对于⼀次性事件， 最好使⽤导出表；
17) 在新建临时表时，如果⼀次性插⼊数据量很⼤，那么可以使⽤ select into 代替 create table，避免造成⼤量 log ，以提⾼速度；如果数据量不⼤，为了缓和系统表的资源，应先create table，然后insert；
18)如果使⽤到了临时表，在存储过程的最后务必将所有的临时表显式删除，先 truncate table ，然后 drop table ，这样可以避免系统表的较长时间锁定；
19)尽量避免使⽤游标，因为游标的效率较差，如果游标操作的数据超过1万⾏，那么就应该考虑改写；
20)使⽤基于游标的⽅法或临时表⽅法之前，应先寻基于集的解决⽅案来解决问题，基于集的⽅法通常更有效；
21)与临时表⼀样，游标并不是不可使⽤。对⼩型数据集使⽤ FAST_FORWARD 游标通常要优于其他逐⾏处理⽅法，尤其是在必须引⽤⼏个表才能获得所需的数据时。在结果集中包括“合计”的例程通常要⽐使⽤游标执⾏的速度快。如果开发时 间允许，基于游标的⽅法和基于集的⽅法都可以尝试⼀下，看哪⼀种⽅法的效果更好；
22)在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ，在结束时设置 SET NOCOUNT OFF 。⽆需在执⾏存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC 消息；
23)尽量避免⼤事务操作，提⾼系统并发能⼒；
24)只要能满⾜你的需求，应尽可能使⽤更⼩的数据类型：例如使⽤MEDIUMINT代替INT；
25)尽量把所有的列设置为NOT NULL，如果你要保存NULL，⼿动去设置它，⽽不是把它设为默认值；
26)如果你的数据只有你所知的少量的⼏个。最好使⽤ENUM类型；
idea创建springboot定时任务⼆、sql语句优化
1)⼤SQL尽量拆分，多核CPU每个CPU只能执⾏⼀个SQL，所以并发时，⼀堆⼩的可能效率更⾼⼀些，并且容易命中缓存，⽽且不容易长时间锁表（⽆论什么锁都是时间越短越好），当然这个要结合实际情况分析了，⼀⼤堆⼩的万⼀增加IO负担呢
2)避免 “% 前缀”模糊查询 。因为会导致索引失效，从⽽导致全表扫描；
select id from t where name like '%abc%’
若要提⾼效率，可以考虑全⽂检索。
3)分页时：Select a from A limit 10000,10; 这种⼤偏移量下效率⾮常低。
可以考虑如下⼏个⽅案：
select a from A WHERE id>=xxxx limit 11;(将上⼀页的最⼤值通过where id> 进⾏预处理，然后分页)
select a from A WHERE id >= ( select a from A limit 10000,1 ) limit 10;
select a from A inner join (select a from A limit 10000,10) using (id) ;
4)避免使⽤count(*)，查询速度较慢1000W数据⾄少要⼏秒。作为替代⽅案，考虑使⽤nosql例如redis，
memcached存下来，但是要定时校对。还有⼀个办法，直接做⼀个表存下来，每次增加或者减少都在这个表做update增减；
5)应尽量避免在 where ⼦句中使⽤!=或<>操作符，否则将引擎放弃使⽤索引⽽进⾏全表扫描；
6)这个在上⾯提过，对查询进⾏优化，应尽量避免全表扫描，⾸先应考虑在 where 及 order by 涉及的列上建⽴索引；
7)应尽量避免在 where ⼦句中对字段进⾏ null 值判断，否则将导致引擎放弃使⽤索引⽽进⾏全表扫描，如：
select id from t where num is null
可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：
select id from t where num=0
8)应尽量避免在 where ⼦句中使⽤ or 来连接条件，否则将导致引擎放弃使⽤索引⽽进⾏全表扫描，如：
select id from t where num=10 or num=20
可以这样查询：
select id from t where num=10
union all
select id from t where num=20
9)or尽量不⽤，改为in()，当然in的范围太多也不⾏，尽量别超100；
10)当然 in 和 not in 也要慎⽤，否则会导致全表扫描，如：
select id from t where num in(1,2,3)
对于连续的数值，能⽤ between 就不要⽤ in 了：
select id from t where num between 1 and 3
11)尽量避免SQL中出现运算，例如select a+5 from A，让DB功能单⼀化；
12)UNION ALL ⽽⾮ UNION ，看需要啦，⼀般不⽤去重的业务的话去重压⼒不⼩，能省则省；
13)尽量不⽤ INSERT SELECT，数据量⼤有延迟，同步完了可能有错误；
14)如果在 where ⼦句中使⽤参数，也会导致全表扫描。因为SQL只有在运⾏时才会解析局部变量，但优化程序不能将访问计划的选择推迟到运⾏时；它必须在编译时进⾏选择。然 ⽽，如果在编译时建⽴访问计划，变量的值还是未知的，因⽽⽆法作为索引选择的输⼊项。如下⾯语句将进⾏全表扫描：
select id from t where [email=num=@num]num=@num[/email]
可以改为强制查询使⽤索引：
select id from t with(index(索引名)) where [email=num=@num]num=@num[/email]
15)应尽量避免在 where ⼦句中对字段进⾏表达式操作，这将导致引擎放弃使⽤索引⽽进⾏全表扫描。如：
select id from t where num/2=100
应改为:
select id from t where num=100*2
api设计
16)应尽量避免在where⼦句中对字段进⾏函数操作，这将导致引擎放弃使⽤索引⽽进⾏全表扫描。如：
select id from t where substring(name,1,3)='abc'–name以abc开头的id
select id from t where datediff(day,createdate,'2005-11-30')=0–'2005-11-30'⽣成的id
应改为:
select id from t where name like 'abc%'
select id from t where createdate>='2005-11-30' and createdate<'2005-12-1'
17)不要在 where ⼦句中的“=”左边进⾏函数、算术运算或其他表达式运算，否则系统将可能⽆法正确使⽤索引；
18)在使⽤索引字段作为条件时，如果该索引是复合索引，那么必须使⽤到该索引中的第⼀个字段作为条件时才能保证系统使⽤该索引，否则该索引将不会被使 ⽤，并且应尽可能的让字段顺序与索引顺序相⼀致；
19)不要写⼀些没有意义的查询，如需要⽣成⼀个空表结构：
select col1,col2 into #t from t where 1=0
这类代码不会返回任何结果集，但是会消耗系统资源的，应改成这样：delay英文
create table #t(…)
20)很多时候⽤ exists 代替 in 是⼀个好的选择：
select num from a where num in(select num from b)
⽤下⾯的语句替换：
select num from a where exists(select 1 from b where num=a.num)
21)缺省情况下建⽴的索引是⾮集索引，但有时它并不是最佳的。在⾮集索引下，数据在物理上随机存放在数据页上。合理的索引设计要建⽴在对各种查询的分析和预测上。⼀般来说：
a.有⼤量重复值、且经常有范围查询( > ,< ，> =,< =)和order by、group by发⽣的列，可考虑建⽴集索引;
b.经常同时存取多列，且每列都含有重复值可考虑建⽴组合索引;
c.组合索引要尽量使关键查询形成索引覆盖，其前导列⼀定是使⽤最频繁的列。索引虽有助于提⾼性能但不是索引越多越好，恰好相反过多的索引会导致系统低效。⽤户在表中每加进⼀个索引，维护索引集合就要做相应的更新⼯作；
22)在海量查询时尽量少⽤格式转换；
23)ORDER BY和GROPU BY：使⽤ORDER BY和GROUP BY短语，任何⼀种索引都有助于SELECT的性能提⾼；
24)任何对列的操作都将导致表扫描，它包括数据库教程函数、计算表达式等等，查询时要尽可能将操作移⾄等号右边；
25)IN、OR⼦句常会使⽤⼯作表，使索引失效。如果不产⽣⼤量重复值，可以考虑把⼦句拆开。拆开的⼦句中应该包含索引；
读写分离
⽤两台或者多台主机做集，⼀般是⼀写多读（⼀台mysql只写⼊，剩下的⽤来读取，写⼊的数据要实时的从写库同步到读库）这个配置起来也⽐较简单，唯⼀要说的是代理插件的选择，推荐360开源的atlas，⽤法很简单，实际使⽤中也没有太多bug。
手机mysql安装配置教程要说坑的话：运维要多练练，中间万⼀出错的情况下，导致数据不同步！matrix multiplication
另外，因为写库与读库之间同步难免有毫秒级误差，所以某些数据刚写⼊⽴即就要读的情况下，就不能从读库⾥读取了，atlas⾥⾯有⽅案！
分库
⼀般，数据库是安装在⼀台机器上，⼀个Mysql实例，我们就这么在这个Mysql上创建⼀个数据库，然后在⾥⾯弄⼀堆表做业务。
优化的话尽量分拆⼏个库，根据业务，⽐如订单库、⽤户库、⽇志库等等。
这样什么好处呢？
你把不同的库分别安装到不同的机器上啊，每个库由⼀台专门的Dell⾼配服务器来跑。
不过这样的话也还是会有很多副作⽤，⽐如原来都在⼀个库⾥，做事务很简单，现在弄了⼀⼤堆库事务不好办，另外如果考虑到数据库之外的因素，⽐如代码跟着做了微服务，那事务可能要考虑分布式事务了，各种补偿机制难免了。
优点和缺点总是相辅相成！
⽔平拆分表
单表太⼤了，怎么办？可以把这个表的数据分成多个表，但是这⾥有个原则，⼀定不能给编码造成额外的负担，原来写 select a from A，还得是这个！不能变！不然⼀切都没意义了。好在Mysql本⾝就有这个机制。拆分时，有很多拆分原则，有根据hash的，有根据时间的。
看业务需要，⽐如说⼀个表，我们只关注当年度数据，那么根据时间拆分就⾏；如果使⽤索引查询，那么hash的不错。
有利有弊：拆分完了，你备份个表看看时间消耗吧。
另外，拆分以后最⼤的弊端是拆分原则与⽤法的匹配，如果没有严格设计好，后⾯的⽤法跟拆分原则不⼀致，这绝对是个灾难！耗时百倍甚⾄千倍。
版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。
发表评论