MySQL优化之如何写出高质量sql语句

前言

关于数据库优化,网上有不少资料和方法,但是不少质量参差不齐,有些总结的不够到位,内容冗杂。这篇文章就来给大家详细介绍了26条优化建议,下面来一起看看吧

1. 查询SQL尽量不要使用全查 select *,而是 select + 具体字段。

反例:

select * from student;

正例:

select id,name, age from student;

理由:

  • 只取需要的字段,可以节省资源、减少CPU和IO以及网络开销。
  • select * 进行查询时,无法使用到覆盖索引,就会造成回表查询。
  • 使用具体字段可以减少表结构变动带来的影响。

2. 使用预编译语句进行数据库操作

理由:

  • 预编译语句可以重复使用计划,减少SQL编译所需要的时间
  • 可以解决动态SQL所带来的SQL注入的问题
  • 只传参数,比传递SQL语句更高效
  • 相同语句可以一次解析,多次使用,提高处理效率

3. 禁止使用不含字段列表的 insert 语句

反例:

insert into values ('a', 'b', 'c');

正例:

insert into t(a, b, c) values ('a','b','c');

理由:

  • 不含字段名的 insert 语句,很难区分到底对应的是什么字段,而且只能全值插入,可读性差。
  • 一旦表结构发生改变,很难修改。

4. 尽量避免在 where 子句中使用 or 来连接条件

案例:新建一个user表,它有一个普通索引userId,表结构如下:

CREATE TABLE `user` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`user_id` int(11) NOT NULL,
`age` int(11) NOT NULL,
`name` varchar(30) NOT NULL,
PRIMARY KEY (`id`),
KEY `idx_userId` (`userId`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

查询userid为1 或者 年龄为 18 岁的用户

反例:

select id, user_id, age, name from user where userid=1 or age =18

正例:

# 使用union all
select id, user_id, age, name from user where userid=1 union all select * from user where age = 18
# 或者分开两条sql写
select id, user_id, age, name from user where userid=1; select * from user where age = 18

理由:

  • 使用or可能会使索引失效,从而全表扫描。
  • 对于 or + 没有索引 的字段,如上面的 age 这种情况,假设它走了userId 的索引,但是走到 age 查询条件时,它还得全表扫描,也就是需要三步过程:全表扫描+索引扫描+合并,如果它一开始就走全表扫描,直接一遍扫描就完事。
  • mysql是有优化器的,处于效率与成本考虑,遇到or条件,索引可能失效,看起来也合情合理。

5. 使用 where 条件查询,要限定要查询的数据,避免返回多余的行,同时避免数据类型的隐式转换

假设 id 为 int 类型,查询 id = 1 的数据

反例:

select id, name from student where id = '1';

正例:

select id, name from student where id = 1;

理由:

  • 需要什么数据,就去查什么数据,避免返回不必要的数据,节省开销。
  • 隐式转换会导致索引失效

6. 静止在 where 子句中对字段进行表达式操作或函数转换,这将导致系统放弃使用索引而进行全表扫描

假设 user 表的 age 字段,加了索引,对其进行数据查询

反例:

select name, age from user where age - 1 = 20;

正例:

select name, age from user where age = 21;

理由:

  • age 加了索引,但是因为对它进行运算查询,导致索引不生效,大大的降低效率。

7. 尽量避免在 where 子句中使用 != 或 <> 操作符,否则将引擎放弃使用索引而进行全表扫描。

(Mysql中适用)

反例:

select age,name from user where age <> 18;

正例:

# 可以考虑分开两条sql写
select age,name from user where age < 18;
select age,name from user where age > 18;

理由:

  • 使用!=和<>很可能会让索引失效

8. 对查询优化,应考虑在where及order by涉及的列上建立索引,尽量避免全表扫描。

反例:

select name, age, address from user where address ='深圳' order by age ;

正例:添加索引再查询

alter table user add index idx_address_age (address,age)

9. where子句中考虑使用默认值代替 null

反例:(这种会全查所有数据)

select user_id, name, age from user where age is not null;

正例:

# 表字段age设置0为默认值代替null
select user_id, name, age from user where age > 0;
1
2

理由:

  • 并不是说使用了 is null 或者 is not null 就会不走索引了,这个跟mysql版本以及查询成本都有关。
  • 如果mysql优化器发现,走索引比不走索引成本还要高,肯定会放弃索引,这些条件 !=,> isnull,is not null 经常让索引失效,其实是因为一般情况下,查询的成本高,优化器自动放弃索引的。
  • 如果把 null 值,换成默认值,很多时候让走索引成为可能,同时,表达意思会相对清晰一点。

10. 如果查询结果只有一条或者只需要一条记录(可能最大/小值),建议使用 limit 1

假设现在有student学生表,要找出一个名字叫 Tom 的人.

CREATE TABLE `student` (
`id` int(11) NOT NULL,
`name` varchar(50) DEFAULT NULL,
`age` int(11) DEFAULT NULL,
`date` datetime DEFAULT NULL,
`sex` int(1) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

反例:

select id,name from student where name='Tom '

正例

select id,name from employee where name='Tom ' limit 1;

理由:

加上 limit 1 分页后,只要找到了对应的一条记录,就不会继续向下扫描了,效率将会大大提高。
如果name是唯一索引的话,是不必要加上 limit 1 了,因为limit的存在主要就是为了防止全表扫描,从而提高性能,如果一个语句本身可以预知不用全表扫描,有没有limit ,性能的差别并不大。

11. 优化 limit 分页语句

我们日常做分页需求时,一般会用 limit 实现,但是当偏移量特别大的时候,查询效率就变得低下

反例:

select id,name,age from student limit 10000,10

正例:

# 方案一 :返回上次查询的最大记录(偏移量)
select id,name from student where id > 10000 limit 10;
# 方案二:order by + 索引
select id,name from student order by id  limit 10000,10;
# 方案三:在业务允许的情况下限制页数:

理由:

  • 当偏移量大的时候,查询效率就会越低,因为Mysql并非是跳过偏移量直接去取后面的数据,而是先把偏移量 + 要取的条数,然后再把前面偏移量这一段的数据抛弃掉再返回的。
  • 如果使用优化方案一,返回上次最大查询记录(偏移量),这样可以跳过偏移量,效率提升不少。
  • 方案二使用 order by+索引,也是可以提高查询效率的。
  • 方案三的话,建议跟业务讨论,有没有必要查这么后的分页。因为绝大多数用户都不会往后翻太多页。

12. 尽量避免向客户端返回过多数据量,使用limit分页

假设业务需求是,用户请求查看自己最近一年观看过的电影数据。

反例:

# 一次性查询所有数据回来
select * from LivingInfo
where watchId =useId
and watchTime >= Date_sub(now(),Interval 1 Y)

正例:

# 分页查询
select * from LivingInfo
where watchId =useId
and watchTime>= Date_sub(now(),Interval 1 Y)
limit offset,pageSize

# 如果是前端分页,可以先查询前两百条记录,因为一般用户应该也不会往下翻太多页
select * from LivingInfo
where watchId =useId
and watchTime>= Date_sub(now(),Interval 1 Y)
limit 200 ;

13. 优化 like 语句

当用到模糊关键字查询使用 like 时,like很可能让索引失效。

反例:

SELECT * FROM student
WHERE name LIKE '%strive_day';
-- 或者使用 % 包裹
SELECT * FROM student
WHERE name LIKE '%strive_day%';

正例:

SELECT * FROM student
WHERE name LIKE 'strive_day%';

理由:

  • 把 % 放前面,不会走索引查询。
  • 把 % 放关键字后面,会走索引进行查询。
  • 将 % 包裹关键字,也不会走索引查询。
  • 无前置 %,只有后置 % 才会走索引查询

14. 尽量避免在索引列上使用mysql的内置函数

案例:查询最近七天内登陆过的用户(假设 loginTime 字段加了索引)

反例:

SELECT * FROM system_user user
WHERE Date_ADD(user.loginTime,Interval 7 DAY) >= now();

正例:

SELECT * FROM system_user user
WHERE user.loginTime >=Date_ADD(NOW(),INTERVAL - 7 DAY);

理由:

  • 索引列上使用mysql的内置函数,索引会失效
  • 如果索引列不加内置函数,会走索引查询

15. 使用联合索引时,注意索引列的顺序,一般遵循 最左匹配原则

假设有一个联合索引 (user_id, age),user_id 在前,age 在后。

反例:

select user_id, name, age from user where age = 10;

正例:

# 符合最左匹配原则
select user_id, name, age from user where userid = 1 and age = 21;
# 符合最左匹配原则
select user_id, name, age from user where userid = 1;

理由:

  • 当我们创建一个联合索引的时候,如(k1,k2,k3),相当于创建了(k1)、(k1,k2)和(k1,k2,k3)三个索引,这就是最左匹配原则。
  • 联合索引不满足最左原则,索引一般会失效,但是这个还跟Mysql优化器有关的。

16. 在适当时候,使用覆盖索引。

覆盖索引能够使得你的SQL语句不需要 回表,仅仅访问索引就能够得到所有需要的数据,大大提高了查询效率。

反例:

# like模糊查询,不走索引
select user_id, name, age from user where user_id like '%123%'
# id为主键,那么为普通索引,即覆盖索引。
select user_id, name, age from user where userid like '%123%';

17. 删除冗余和重复索引

反例:

  KEY `idx_userId` (`userId`)
  KEY `idx_userId_age` (`userId`,`age`)

正例:

  KEY `idx_userId_age` (`userId`,`age`)
#  删除 userId 的索引(KEY `idx_userId_age` (`userId`,`age`))
#  因为组合索引(A,B)相当于创建了(A)和(A,B)索引。

理由:

  • 重复的索引需要维护,并且优化器在优化查询的时候也需要逐个地进行考虑,这会影响性能

18. Inner join 、left join、right join,优先使用Inner join,如果是left join,左边表结果尽量小

Inner join 内连接,在两张表进行连接查询时,只保留两张表中完全匹配的结果集

left join 在两张表进行连接查询时,会返回左表所有的行,即使在右表中没有匹配的记录。

right join 在两张表进行连接查询时,会返回右表所有的行,即使在左表中没有匹配的记录。

都满足SQL需求的前提下,优先使用Inner join(内连接),如果要使用left join,左边表数据结果尽量小,如果有条件的尽量放到左边处理。

反例:

select name, age from tab1 t1 left join tab2 t2  on t1.age = t2.age where t1.id = 2;

正例:

select name, age from (select * from tab1 where id = 2) t1 left join tab2 t2 on t1.age = t2.age;

理由:

  • 如果 inner join 是等值连接,或许返回的行数比较少,所以性能相对会好一点
  • 使用了左连接,左边表数据结果尽量小,条件尽量放到左边处理,意味着返回的行数可能比较少

19. 如果插入数据过多,考虑 批量插入

反例:

for(User u :list)
{ INSERT into user(name,age) values(name, age)}

正例:

//一次500批量插入,分批进行
insert into user(name,age) values
<foreach collection="list" item="item" index="index" separator=",">
 (#{item.name},#{item.age})
</foreach>

理由:

  • 批量插入性能好,减少时间损耗。

20. 尽量少用 distinct 关键字

distinct 关键字一般用来过滤重复记录,以返回不重复的记录。在查询一个字段或者很少字段的情况下使用时,给查询带来优化效果。但是在字段很多的时候使用,却会大大降低查询效率。

反例:

# 去重多个字段
SELECT DISTINCT * from  user;

正例:

select DISTINCT name from user;

理由:

  • 带 distinct 的语句 cpu 时间和占用时间都高于不带distinct的语句。
  • 因为当查询很多字段时,如果使用distinct,数据库引擎就会对数据进行比较,过滤掉重复数据,然而这个比较、过滤的过程会占用系统资源,cpu时间。

21. 不要有超过5个以上的表连接

理由:

  • 连表越多,编译的时间和开销也就越大
  • 连表可读性差,把连接表拆开成较小的几个执行,可读性更高

22. 数据量大的时候,如何优化更新语句。

数据量大的时候,需要避免同时修改或删除过多数据,同时会造成cpu利用率过高,从而影响别人对数据库的访问。

反例:

# 一次删除10万或者100万+条数据
delete from user where id < 1000000;
# 或者采用单一循环操作,效率低,时间漫长
for(User user:list){delete from user;}

正例:

# 分批进行删除,如每次500
delete user where id < 500
delete user where id >= 500 and id < 1000;
...
delete user where id >= 999500 and id < 1000000;

理由:

  • 一次性 删除/更新 太多数据,可能会有 lock wait timeout exceed 的错误,所以建议分批操作。

23. 合理使用 exist 和 in

假设表A表示某企业的员工表,表B表示部门表,查询所有部门的所有员工SQL

反例::

select * from A where deptId in (select deptId from B);

这样写等价于:

先查询部门表B
select deptId from B
再由部门deptId,查询A的员工
select * from A where A.deptId = B.deptId

可以抽象成这样的一个循环语句:

List<> resultSet ;
for(int i = 0; i < B.length; i ++) {
 for(int j = 0; j < A.length; j ++) {
     if(A[i].id == B[j].id) {
         resultSet.add(A[i]);
            break;
        }
     }
 }

我们也可以用exists实现一样的查询功能

select * from A where exists (select 1 from B where A.deptId = B.deptId);

上述代码等价于:

select * from A,先从A表做循环
select * from B where A.deptId = B.deptId,再从B表做循环.

因为exists查询的理解就是,先执行主查询,获得数据后,再放到子查询中做条件验证,根据验证结果(true或者false),来决定主查询的数据结果是否得以保留。

同理,可以抽象成这样一个循环:

List<> resultSet;
for(int i = 0; i < A.length; i ++) {
 for(int j = 0; j < B.length; j ++) {
     if(A[i].deptId == B[j].deptId) {
         resultSet.add(A[i]);
            break;
            }
        }
    }

理由:

  • 数据库最费劲的就是跟程序链接释放。假设链接了两次,每次做上百万次的数据集查询,查完就走,这样就只做了两次;相反如果每次单独查询,建立了上百万次链接,申请链接释放反复重复
  • mysql优化原则,就是小表驱动大表,小的数据集驱动大的数据集,从而让性能更优
  • 我们要选择最外层循环小的,也就是,如果B的数据量小于A,适合使用 in,如果B的数据量大于A,即适合选择exist

24. 尽量使用数字型字段,若只含数值信息的字段尽量不要设计为字符型

反例:

`king_id` varchar(20) NOT NULL COMMENT '123'

正例:

 `king_id` int(11) NOT NULL COMMENT '123'

理由:

  • 相对于数字型字段,字符型会降低查询和连接的性能,并会增加存储开销。

25. 尽量用 union all 替换 union

如果检索结果中不会有重复的记录,推荐 union all 替换 union

反例:

select * from user where userid = 1
union
select * from user where age = 20

正例:

select * from user where userid = 1
union all
select * from user where age = 20

理由:

  • 如果使用union,不管检索结果有没有重复,都会尝试进行合并,然后在输出最终结果前进行排序。
  • 如果已知检索结果没有重复记录,使用 union all 代替 union,这样会提高效率。

26. 如果字段类型是字符串,where时一定用引号括起来,否则将导致索引失效

反例:

select * from user where userid = 1;

正例:

select * from user where userid ='1';

理由:

第一条语句未加单引号就不走索引,这是因为不加单引号时,是字符串跟数字的比较,它们类型不匹配,MySQL会做隐式的类型转换,把它们转换为浮点数再做比较。

总结

到此这篇关于MySQL优化之如何写出高质量sql语句的文章就介绍到这了,更多相关MySQL优化sql语句内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • Mysql查询最近一条记录的sql语句(优化篇)

    下策--查询出结果后将时间排序后取第一条 select * from a where create_time<="2017-03-29 19:30:36" order by create_time desc limit 1 这样做虽然可以取出当前时间最近的一条记录,但是一次查询需要将表遍历一遍,对于百万以上数据查询将比较费时:limit是先取出全部结果,然后取第一条,相当于查询中占用了不必要的时间和空间:还有如果需要批量取出最近一条记录,比方说:"一个订单表,有用户,订

  • 浅谈MySQL中优化sql语句查询常用的30种方法

    1.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引. 2.应尽量避免在 where 子句中使用!=或<>操作符,否则将引擎放弃使用索引而进行全表扫描. 3.应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索引而进行全表扫描,如: select id from t where num is null 可以在num上设置默认值0,确保表中num列没有null值,然后这样查询: select id from

  • MySQL中索引优化distinct语句及distinct的多字段操作

    MySQL通常使用GROUPBY(本质上是排序动作)完成DISTINCT操作,如果DISTINCT操作和ORDERBY操作组合使用,通常会用到临时表.这样会影响性能. 在一些情况下,MySQL可以使用索引优化DISTINCT操作,但需要活学活用.本文涉及一个不能利用索引完成DISTINCT操作的实例. 实例1 使用索引优化DISTINCT操作 create table m11 (a int, b int, c int, d int, primary key(a)) engine=INNODB;

  • MYSQL WHERE语句优化

    但请注意,下面的优化并不是完全的.MYSQL实施了许多优化,但我没时间全部测试. MySQL的一些优化列在下面: 删除不必要的括号: ((a AND b) AND c OR (((a AND b) AND (c AND d)))) -> (a AND b AND c) OR (a AND b AND c AND d) 常数调入: (a<b AND b=c) AND a=5 -> b>5 AND b=c AND a=5 删除常数条件: (B>=5 AND B=5) OR (B=

  • 提升MYSQL查询效率的10个SQL语句优化技巧

    MySQL数据库执行效率对程序的执行速度有很大的影响,有效的处理优化数据库是非常有用的.尤其是大量数据需要处理的时候. 1. 优化你的MySQL查询缓存 在MySQL服务器上进行查询,可以启用高速查询缓存.让数据库引擎在后台悄悄的处理是提高性能的最有效方法之一.当同一个查询被执行多次时,如果结果是从缓存中提取,那是相当快的. 但主要的问题是,它是那么容易被隐藏起来以至于我们大多数程序员会忽略它.在有些处理任务中,我们实际上是可以阻止查询缓存工作的. // query cache does NOT

  • Mysql查询语句优化技巧

    索引优化,查询优化,查询缓存,服务器设置优化,操作系统和硬件优化,应用层面优化(web服务器,缓存)等等.这里的记录的优化技巧更适用于开发人员,都是从网络上收集和自己整理的,主要是查询语句上面的优化,其它层面的优化技巧在此不做记录. 查询的开销指标: 执行时间 检查的行数 返回的行数 建立索引的几个准则: (1).合理的建立索引能够加速数据读取效率,不合理的建立索引反而会拖慢数据库的响应速度. (2).索引越多,更新数据的速度越慢. (3).尽量在采用MyIsam作为引擎的时候使用索引(因为My

  • mysql in语句子查询效率慢的优化技巧示例

    表结构如下,文章只有690篇. 文章表article(id,title,content) 标签表tag(tid,tag_name) 标签文章中间表article_tag(id,tag_id,article_id) 其中有个标签的tid是135,查询标签tid是135的文章列表. 690篇文章,用以下的语句查询,奇慢: select id,title from article where id in( select article_id from article_tag where tag_id=

  • MySQL Order by 语句用法与优化详解

    MySQL Order By keyword是用来给记录中的数据进行分类的.MySQL Order By Keyword根据关键词分类ORDER BY keyword是用来给记录中的数据进行分类的. 复制代码 代码如下: SELECT column_name(s) FROM table_name ORDER BY column_name 例子 SQL创建代码: 复制代码 代码如下: CREATE TABLE IF NOT EXISTS mysql_order_by_test (  uid int

  • mysql优化limit查询语句的5个方法

    mysql的分页比较简单,只需要limit offset,length就可以获取数据了,但是当offset和length比较大的时候,mysql明显性能下降 1.子查询优化法 先找出第一条数据,然后大于等于这条数据的id就是要获取的数据 缺点:数据必须是连续的,可以说不能有where条件,where条件会筛选数据,导致数据失去连续性,具体方法请看下面的查询实例: 复制代码 代码如下: mysql> set profiling=1; Query OK, 0 rows affected (0.00

  • MySQL SQL语句优化的10条建议

    1.将经常要用到的字段(比如经常要用这些字段来排序,或者用来做搜索),则最好将这些字段设为索引.2.字段的种类尽可能用int 或者tinyint类型.另外字段尽可能用NOT NULL.3.当然无可避免某些字段会用到text ,varchar等字符类型,最好将text字段的单独出另外一个表出来(用主键关联好)4.字段的类型,以及长度,是一个很考究开发者优化功力的一个方面.如果表数据有一定的量了,不妨用PROCEDURE ANALYSE()命令来取得字段的优化建议!(在phpmyadmin里可以在查

随机推荐