SwiftyJSONSwiftyJSON11-17 00:48

MySQL事务、锁、SQLMode、分区

MySQL学习笔记(5)

本文主要内容:事务、锁、SQL Mode、分区(这个有点意思)

事务控制和锁定语句

LOCK TABLE和UNLOCK TABLE

  • LOCK TABLES可锁定用于当前线程的表,如果表被其他线程锁定,则当前线程会等待知道可以获取所有锁定为止。
  • UNLOCK TABLES可以释放当前线程获得的任何锁定。
LOCK TABLES
    tab_name [AS alias]{READ [LOCAL]|[LOW_PRIORITY] WRITE}
    [,tbl_name [AS alias] {READ [LOCAL]|[LOW_PRIOEITY] WRITE}]...
    
UNLOCK TABLES

在数据导出时加-x参数可以锁全表

事务控制

START TRANSACTION |BEGIN [WORK]
COMMIT [WORK] [AND [NO] CHAIN] [[NO] RELEASE]
ROLLBACK [WORK] [AND [NO] CHAIN] [[NO] RELEASE]
SET AUTOCOMMIT={0|1} 

默认情况下MySQL是自动提交的

  • START TRANSACTION或BEGIN开始一项事务
  • COMMIT和ROLLBACK用于提交或者回滚事务
  • CHAIN和RELEASE字句用来定义事务提交或者回滚之后的操作,CHAIN会立即开启一个新事务,并和刚才的事务具有相同的隔离级别,RELEASE则会断开和客户端的连接
  • SET AUTOCOMMIT修改当前连接提交方式

在进行一些敏感操作时,可是开个事务,以防删库跑路的风险。

敏感操作请记得在终端操作之前
start transaction;
...
commit / rollback;

分布式事务

MySQL使用分布式事务的应用程序涉及一个或多个资源管理器和一个事务管理器

  • 资源管理器(RM)用于提供通向事务资源的途径,数据库服务器就是一个资源管理器。
  • 事务管理器(TM)用于协调作为一个分布式事务一部分的事务。

执行分布式事务过程使用两阶段提交

  • 第一阶段,所有分支被预备好。即他们被TM告知要准备提交。通常以为着用于管理分支的每个RM会记录对于被稳定保存的分支的行动。
  • 第二阶段,TM告知RMs是否要提交或回滚

如果一个事务资源只由一个事务资源组成(单一分支),则该资源可以被告知同事进行预备和提交

分布式事务(XA事务)的SQL语法:

XA {START|BEGIN} xid [JOIN|RESUME]

xid: gtrid [,bqual[,formatID]]

使事务进入PREPARE状态,两阶段提交的第一个提交阶段
XA END xid [SUSPEND[FOR MIGRATE]]
XA PREPARE xid

提交或者回滚分布式事务,为第二阶段
XA COMMIT xid [ONE PHASE]
XA ROLLBACK xid

返回当前数据库中处于PREPARE状态的分支事务的详细信息
XA RECOVER

eg:
xa start 'test','dept';

insert into dept values(3,'xiaobai');

xa end 'test','dept';

xa prepare 'test','dept';

xa recover \G

xa commit 'test','dept'

启用mysqlbinlog,用于恢复数据用

SQL中的安全问题

在日常开发中,开发人员一般只关心SQL是否能实现预期的功能,而对于SQL的安全问题一般不太重视。最常见的就是SQL注入的安全威胁。

预防SQL注入措施:

  • 使用预编译语句绑定变量
  • 使用应用程序提供的转换函数
  • 自己定义函数进行校验
    • 整理数据使之有效
    • 拒绝已知的非法数据
    • 只接受已知的合法输入

SQL Model及相关问题

SQL Mode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。

在MySQL中,SQL Model常用来解决以下问题:

  • 通过设置SQL Model,可以完成不同严格程度的数据校验,有效地保障数据准确性
  • 通过设置SQL Model为ANSI模式,来保证大多数SQL符合标准的SQL语法,这样应用在不同数据库之间进行迁移时,不需要对业务SQL进行较大修改
  • 不同数据库间迁移,通过设置SQL Mode可以使MySQL上的数据更方便地迁移到目标数据库中

查看SQL Mode:select @@sql_mode

修改sql_mode:SET [SESSION|GLOBAL] sql_mode='modes'

启动时指定:--sql-mode="modes"

SQL Mode的常见功能

  • 检验日期数据合法性,在ANSI模式下,非法日期可以插入,但值为"0000-00-00 00:00:00",系统提示warning,在TRADITIONAL模式下,会拒绝插入并报错。
  • 在INSERT或UPDATE过程中,如果SQL Mode处于TRADITIONAL严格模式,运行MOD(x,0)会产生错误,而在非严格该模式返回NULL
  • 启用NO_BACKSLASH_ESCAPES模式,使反斜线成为普通字符,在导入数据时或许会用到。
  • 启用PIPES_AS_CONCAT模式,将“||”视为字符串连接操作符,在Oracle数据库中“||”被作为连接操作符,在其他数据库中则无法执行。

常见的SQL Mode

MySQL的SQL Mode(具体版本建议参考相关版本官方网文档)

sql_mode值 描述
ANSI 等同于REAL_AS_FLOAT、PIPES_AS_CONCAT、ANSI_QUOTES、IGNORE_SPACE和ANSI组合模式,该模式使语法和行为更符合标准的SQL
STRICT_TRANS_TABLES 适用于事务表和非事务表,它是严格模式,不允许非法日期,也不允许超过字段长度的值插入字段中,对于插入不正确的值给出错误而不是警告
TRADITIONAL 等同于STRICT_TRANS_TABLES、STRICT_ALL_TABLES、NO_ZERO_IN_DATE、NO_ZERO_DATE、ERROR_FOR_DIVISION_BY_ZERO、TRANDITIONAL和NO_AUTO_CREATE_USER组合模式,也为严格模式。可应用在事务表和非事务表,用于事务表时,只要出现错误就会立即回滚

SQL Mode在迁移中如何使用

MySQL提供了很多数据库的组合模式名称,在异构数据库之间迁移数据时可以尝试使用这些模式来导出适合于目标数据库格式的数据

组合后的模式名称 组合中的各个sql_mode
DB2 PIPLES_AS_CONCAT 、ANSI_QUOTES、IGNORE_SPACE、NO_KEY_OPTIONS、NO_TABLE_OPTIONS、NO_FIELD_OPTIONS
MAXDB PIPES_AS_CONCAT、ANSI_QUOTES、IGNORE_SPACE、NO_KEY_OPTIONS、NO_TABLE_OPTIONS、NO_FIELD_OPTIONS、NO_AUTO_CREATE_USER
MSSQL PIPES_AS_CONCAT、ANSI_QUOTES、IGNORE_SPACE、NO_KEY_OPTIONS、NO_TABLE_OPTIONS、NO_FIELD_OPTIONS、NO_AUTO_CREATE_USER
ORACLE PIPES_AS_CONCAT、ANSI_QUOTES、IGNORE_SPACE、NO_KEY_OPTIONS、NO_TABLE_OPTIONS、NO_FIELD_OPTIONS、NO_AUTO_CREATE_USER、NO_AUTO_CREATE_USER
POSTGRESQL PIPES_AS_CONCAT、ANSI_QUOTES、IGNORE_SPACE、NO_KEY_OPTIONS、NO_TABLE_OPTIONS、NO_FIELD_OPTIONS

SQL Mode的严格模式为MySQL提供了很好的数据校验功能,保证了数据的准确性,TRANDITIONAL和STRICT_TRANS_TABLES是常用的两种严格模式。

MySQL分区

MySQL从5.1开始支持分区。分区指根据一定规则,数据库把一个表分解成多个更小更容易管理的部分。就数据库的应用而言,逻辑上只有一个表或一个索引,但实际该表可能由多个物理分区对象组成,每个分区都是一个独立对象,可以独自处理,可以作为表的一部分处理。

MySQL分区优点:

  • 和单磁盘或文件系统分区比,可以存储更多数据
  • 优化查询,在Where字句中包含分区条件时,可以只扫描必要的一个或多个分区;同时在涉及SUM()和COUNT()这类聚合函数的查询时,可以容易地在每个分区上并行处理。
  • 对已过期或不需要的数据,可以通过删除分区来快速删除
  • 跨磁盘分散数据查询,获得更大的查询吞吐量

分区概述

分区有利管理大表,引入了分区键的概念,分区键用于根据区间值、特定值列表或HASH函数值执行数据的聚集,让数据更具规则分布在不同的分区中,让大对象变成一些小对象。

查看MySQL是否支持分区:SHOW variables like %partition%

和非分区表设置存储引擎一样,分区表设置存储引擎,只能用[STORAGE] ENGINE字句。如下创建一个使用InnoDB引擎并有6个HASH分区的表:

create table emp(empid int,salary decimal(7,2),birth_date DATE)
engine=innodb
prrtition by hash(month(birth_date))
partition 6;

分区类型(MySQL5.1)

  • RANGE分区:给予一个给定连续区间范围,吧数据分配到不同分区。
  • LIST分区:类似RANGE分区,LIST分区是基于枚举出的值列表分区,RANGE是基于给定的连续区间范围分区。
  • HASH分区:基于给定的分区个数,把数据分配到不同的分区。
  • KEY分区:类似HASH分区。

在MySQL5.1版本中,RANGE、LIST、HASH要求分区键必须是INT,KEY可以是其他类型(BLOB或TEXT除外)。无论哪种MySQL分区类型,不能使用主键/唯一键字段之外的其他字段分区。

Range分区

区间连续不能互相重叠,使用VALUES LESS THAN操作符进行分区定义。

CREATE TABLE emp(
id int not null,
ename varchar(30),
hired date not null default '1970-01-01',
separated date not null default '9999-12-31',
job varchar(30) not null,
store_id int not null
)
partition by range (store_id)(
    partition p0 values less than (10),
    partition p1 values less than (20),
    partition p2 values less than (30)
)

以上在store_id在1~9的在分区p0中,以此类推,每个分区按顺序进行定义,从最低到最高。如出现id大于30的商品,会报错,服务器不知道把记录保存在哪里

可以在设置分区使用VALUES LESS THAN MAXVALUE子句,该子句提供给所有大于明确指定的最高值的值,MAXVALUE表示最大的可能的整数值。

MySQL支持在VALUES LESS THAN子句中使用表达式,如:

CREATE TABLE emp_date(
id int not null,
ename varchar(30),
separated date not null default '9999-12-31',
job varchar(30) not null,
store_id int not null
)
partition by range(YEAR(separated))(
    partition p0 values less than (1995),
    partition p1 values less than (2000),
    partition p2 values less than (2005)
)

MySQL5.1要在日期或者字符串上进行分区,需要使用函数转换,5.5改进了功能,提供RANGE COLUMNS分区支持非整数分区,创建日期分区就不需要转换了。

RANGE分区功能特别适用于以下情况:

  • 当数据过期删除时,只需要简单ALTER TABLE emp DROP PARTITION p0来删除p0分区数据
  • 经常运行包括分区键的查询,如检索商品ID大于25的记录,MySQL扫描p2分区即可。

List分区

LIST分区是建立离散的值来分区,LIST分区是一个枚举列表的值得集合,RANGE分区是一个连续区间值得集合。例如:

CREATE TABLE expenses(
expense_date DATE NOT NULL,
category INT,
amount DECIMAL(10,3)
)PARTITION BY LIST(category)(
    PARTITION p0 VALUES IN (3,5),
    PARTITION p1 VALUES IN (1,10),
    PARTITION p2 VALUES IN (4,9),
    PARTITION p3 VALUES IN (2),
    PARTITION p4 VALUES IN (6)
)

如果插入的列值不在包含分区值列表中,那么INSERT操作会失败并报错。

5.5版本支持非整数分区,如:

CREATE TABLE expenses(
    expense_date DATE NOT NULL,
    category VARCHAR(30),
    amount DECIMAL(10,3)
)PARTITION BY LIST COLUMNS(category)(
    PARTITION p0 VALUES IN ('loding','food'),
    PARTITION p1 VALUES IN ('flights','ground transportation'),
    PARTITION p2 VALUES IN ('lesiure','customer entertainment'),
    PARTITION p3 VALUES IN ('communications'),
    PARTITION p4 VALUES IN ('fees')
)

Columns分区

Columns分区在MySQL5.5引入的分区类型,结局了RANGE和LIST只支持整数分区的问题,除此之外,Columns分区还支持多列分区。如:

CREATE TABLE rc3(
    a INT,
    b INT
)
PARTITION BY RANGE COLUMNS(a,b)(
    PARTITION p01 VALUES LESS THAN (0,10),
    PARTITION p02 VALUES LESS THAN (10,10),
    PARTITION p03 VALUES LESS THAN (10,20),
    PARTITION p03 VALUES LESS THAN (10,MAXVALUE),
    PARTITION p03 VALUES LESS THAN (MAXVALUES,MAXVALUE),
)

其中元组分开比较大小 (10,9)<(10,10) 

Hash分区

HASH分区主要用来分散热点度,确保数据在预先确定个数的分区中尽可能平均分布。MySQL支持常规HASH分区线性HASH分区,常规使用取模算法,线性使用一个线性的2的幂的运算法则。如:

CREATE TABLE emp(
    id INT NOT NULL,
    ename VARCHAR(30),
    hired DATE NOT NULL DEFAULT '1970-01-01',
    separated DATE NOT NULL DEFAULT '9999-12-31',
    job VARCHAR(30) NOT NULL,
    store_id INT NOT NULL
)
PARTITION BY HASH(store_id) PARTITIONS 4;

以上表有4个分区,数据将保存记录的分区编号为N,N=MOD(expr,num)。以上expr为store_id,num为4。

常规HASH在新增分区或者合并分区时候,大部分数据需要重新计算,管理代价太大,不适合灵活变动的需求,这个时候就有了线性的分区PARTITION BY LINEAR,其在分区维护时能处理更加迅速。但是数据分布不如常规HASH分布不太均匀。

Key分区

类似于HASH分区,只不过HASH分区允许使用用户自定义的表达式,而Key分区需要使用MySQL服务器提供的HASH函数;KEY分区支持除BLOB or Text类型外其他类型的列作为分区键。如:

CREATE TABLE emp(
    id int not null,
    ename varchar(30),
    hired date nogt null default '1970-01-01',
    separated date not null default '9999-12-31',
    job varchar(30) not null
)
PARTITION BY KEY(job) PARTITIONS 4;

创建Key分区不指定分区键时默认首先使用主键作为分区键,没有主键时,选择非空唯一键作为分区键。没有主键和唯一键时,必须指定分区键。

和HASH分区类似,在KEY分区中使用LINEAR可通过取模算法分散热点数据读写。

子分区和分区中处理NULL值方式

分区表中对每个分区的再次分割,即复合分区。适合保存非常大量的数据记录。如:

CREATE TABLE ts(id int,purchased date)
partition by range(year(purchased))
subpartition by hash(to_days(purchased))
subpartitions 2
(
    partition p0 values less than (1999),
    partition p1 values less than (2000),
    partition p2 values less than maxvalue
)

在RANGE分区中,NULL作为最小值处理;LIST必须出现在枚举列表中;HASH/KEY分区,NULL值被当做零值处理。

分区管理

MySQL提供添加、删除、重定义、合并、拆分分区命令。

  • RANGE & LIST分区管理

    • 删除分区:ALTER TABLE tablename DROP PARTITION pname
    • 增加分区:ALTER TABLE tbl_name ADD PARTITION(expr)
    • 重新定义分区:ALTER TABLE REORGANIZE PARTITION INFO
    删除分区:
    alter table emp_date drop partition p2;
    增加分区:
    alter table emp_date add partition (aprtititon p4 values less than (2030))
    
    alter table expenses add partition(partition p6 values in (6,11))
    重定义分区合并:
    alter table emp_date reorganize partition p1,p2,p3 into (
    partition p1 values less than (2015)
    )
    

重新定义分区只能重新定义相邻的分区,重新定义的分区区间必须和原来分区区间覆盖相同,也不能使用重新定义分区来改变表分区的类型。

HASH & KEY分区

修改操作:ALTER TABLE COALESCE PARTITION

减少分区:
alter table emp coalesce partition 2
增加8个分区:
alter table emp add partititon partititons 8

[Github传送门][1]
[1]: https://github.com/Melody12ab/db_mysql_note

官场书屋二维码

小额赞赏

000
评论