Mysql优化神器(推荐)

前言

今天逛github时,发现了这款对 sql 进行优化和改写的自动化工具sora。感觉挺不错的,就下载学习了一下。这个工具支持的功能比较多,可以作为我们日常开发中的一款辅助工具,现在我就把它推荐给你们~~~

github传送门:https://github.com/xiaomi/soar

背景

在我们日常开发中,优化sql总是我们日常开发任务之一。例行 sql 优化,不仅可以提升程序性能,还能够降低线上故障的概率。

目前常用的 sql 优化方式包括但不限于:业务层优化、sql逻辑优化、索引优化等。其中索引优化通常通过调整索引或新增索引从而达到 sql 优化的目的。索引优化往往可以在短时间内产生非常巨大的效果。如果能够将索引优化转化成工具化、标准化的流程,减少人工介入的工作量,无疑会大大提高我们的工作效率。

soar(sql optimizer and rewriter) 是一个对 sql 进行优化和改写的自动化工具。由小米人工智能与云平台的数据库团队开发与维护。

与业内其他优秀产品对比如下:

soar sqlcheck pt-query-advisor sql advisor inception sqlautoreview
启发式建议
索引建议
查询重写
执行计划展示
profiling
trace
sql在线执行
数据备份

从上图可以看出,支持的功能丰富,其功能特点如下:

  • 跨平台支持(支持 linux, mac 环境,windows 环境理论上也支持,不过未全面测试)
  • 目前只支持 mysql 语法族协议的 sql 优化
  • 支持基于启发式算法的语句优化
  • 支持复杂查询的多列索引优化(update, insert, delete, select)
  • 支持 explain 信息丰富解读
  • 支持 sql 指纹、压缩和美化
  • 支持同一张表多条 alter 请求合并
  • 支持自定义规则的 sql 改写

就介绍这么多吧,既然是sql优化工具,光说是没有用的,我们还是先用起来看看效果吧。

安装

这里有两种安装方式,如下:

下载二进制安装包

$ wget https://github.com/xiaomi/soar/releases/download/0.11.0/soar.linux-amd64 -o soar
chmod a+x soar

这里建议直接下载最新版,要不会有bug。

下载好的二进制文件添加到环境变量中即可(不会的谷歌一下吧,这里就不讲了)。

测试一下:

$ echo 'select * from user' | soar.darwin-amd64(根据你自己的二进制文件名来输入)
# query: ac4262b5af150cb5
 
     75分
 
```sql
select
 *
from
 user
```
 
## 最外层 select 未指定 where 条件
 
* **item:** cla.001
 
* **severity:** l4
 
* **content:** select 语句没有 where 子句,可能检查比预期更多的行(全表扫描)。对于 select count(\*) 类型的请求如果不要求精度,建议使用 show table status 或 explain 替代。
 
## 不建议使用 select * 类型查询
 
* **item:** col.001
 
* **severity:** l1
 
* **content:** 当表结构变更时,使用 \* 通配符选择所有列将导致查询的含义和行为会发生更改,可能导致查询返回更多的数据。

源码安装

依赖环境:

1. go 1.10+
2. git

高级依赖(仅面向开发人员)

  • mysql 客户端版本需要与容器中mysql版本相同,避免出现由于认证原因导致无法连接问题
  • docker mysql server测试容器管理
  • govendor go包管理
  • retool 依赖外部代码质量静态检查工具二进制文件管理

生成二进制文件:

go get -d github.com/xiaomi/soar
cd ${gopath}/src/github.com/xiaomi/soar && make
生成的二进制文件与上面一样,直接放入环境变量即可,这里我没有尝试,靠你们自己踩坑了呦~~~

简单使用

0. 前置准备

准备一个table,如下:

create table `users` (
 `id` bigint(20) unsigned not null auto_increment,
 `username` varchar(64) not null default '',
 `nickname` varchar(255) default '',
 `password` varchar(256) not null default '',
 `salt` varchar(48) not null default '',
 `avatar` varchar(128) default null,
 `uptime` datetime default null,
 primary key (`id`),
 unique key `username` (`username`)
) engine=innodb auto_increment=11 default charset=utf8mb4

1. 直接输入sql语句(不运行)

$ echo "select * from users" | soar.darwin-amd64
$ # query: 30afcb1e1344bebd
 
     75分
 
```sql
select
 *
from
 users
```
## 最外层 select 未指定 where 条件
 
* **item:** cla.001
 
* **severity:** l4
 
* **content:** select 语句没有 where 子句,可能检查比预期更多的行(全表扫描)。对于 select count(\*) 类型的请求如果不要求精度,建议使用 show table status 或 explain 替代。
 
## 不建议使用 select * 类型查询
 
* **item:** col.001
 
* **severity:** l1
 
* **content:** 当表结构变更时,使用 \* 通配符选择所有列将导致查询的含义和行为会发生更改,可能导致查询返回更多的数据。

现在是完全根据sql语句进行分析的,因为没有连接到mysql。可以看到,给出的报告也很详细,但是只是空壳子,仅凭sql语句给出的分析并不是准确的,所以我们开始接下来的应用。

2. 连接mysql生成explain分析报告

我们可以在配置文件中配置好mysql相关的配置,操作如下:

vi soar.yaml
# yaml format config file
online-dsn:
  addr:   127.0.0.1:3306
  schema:  asong
  user:   root
  password: root1997
  disable: false
 
test-dsn:
  addr:   127.0.0.1:3306
  schema:  asong
  user:   root
  password: root1997
  disable: false

配置好了,我们来实践一下子吧:

$ echo "select id,username,nickname,password,salt,avatar,uptime from users where username = 'asong1111'" | soar.darwin-amd64 -test-dsn="root:root1997@127.0.0.1:3306/asong" -allow-online-as-test -log-output=soar.log
$ # query: d12a420193ad1674
 
     100分
 
```sql
select
 id, username, nickname, password, salt, avatar, uptime
from
 users
where
 username = 'asong1111'
```
 
## explain信息
 
| id | select\_type | table | partitions | type | possible_keys | key | key\_len | ref | rows | filtered | scalability | extra |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1 | simple | *users* | null | const | username | username | 258 | const | 1 | ️ **100.00%** | ️ **o(n)** | null |
 
### explain信息解读
 
#### selecttype信息解读
 
* **simple**: 简单select(不使用union或子查询等).
 
#### type信息解读
 
* **const**: const用于使用常数值比较primary key时, 当查询的表仅有一行时, 使用system. 例:select * from tbl where col = 1.

这回结果中多了explain信息分析报告。这对于刚开始入门的小伙伴们是友好的,因为我们对explain解析的字段并不熟悉,有了它我们可以完美的分析sql中的问题,是不是很棒。

3. 语法检查

soar工具不仅仅可以进行sql语句分析,还可以进行对sql语法进行检查,找出其中的问题,来看个例子:

$ echo "selec * from users" | soar.darwin-amd64 -only-syntax-check
at sql 1 : line 1 column 5 near "selec * from users" (total length 18)

这里select关键字少了一个t,运行该指令帮助我们一下就定位了问题,当我们的sql语句很长时,就可以使用该指令来辅助我们检查sql语句是否正确。

4. sql美化

我们日常开发时,经常会看其他人写的代码,因为水平不一样,所以有些sql语句会写的很乱,所以这个工具就派上用场了,我们可以把我们的sql语句变得漂亮一些,更容易我们理解哦。

$ echo "select id,username,nickname,password,salt,avatar,uptime from users where username = 'asong1111'" | soar.darwin-amd64 -report-type=pretty
 
select
 id, username, nickname, password, salt, avatar, uptime
from
 users
where
 username = 'asong1111';

这样看起来是不是更直观了呢~~。

结尾

因为我也才是刚使用这个工具,更多的玩法我还没有发现,以后补充。更多玩法可以自己研究一下,github传送门:https://github.com/xiaomi/soar。官方文档其实很粗糙,更多方法解锁还要靠自己研究,毕竟源码已经给我们了,对于学习go也有一定帮助,当作一个小项目慢慢优化岂不是更好呢~~。

到此这篇关于mysql优化神器(推荐)的文章就介绍到这了,更多相关mysql优化内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持www.887551.com!

(0)
上一篇 2022年3月21日
下一篇 2022年3月21日

相关推荐