|
|
|
|
公众号矩阵

懵了!女朋友突然问我MVCC实现原理

本文内容从浅到深,从什么是 MVCC 到 MVCC 的底层实现,一步一步地陈述了 MVCC 的实现原理。

作者:咔咔来源:51CTO技术栈|2021-04-06 06:23

【51CTO.com原创稿件】都知道事务的可重复读级别实现原理是使用 MVCC 实现的,那么你对 MVCC 的底层实现原理知道多少呢!面试高频点,你值得拥有。

图片来自 Pexels

MVCC 到底是什么?

MVCC 即多版本控制器,其特点就是在同一时间,不同事务可以读取到不同版本的数据,从而去解决脏读和不可重复读的问题。

这样的解释你看了不下几十遍了吧!但是你真的理解什么是多版本控制器吗?

①生活案例:搬家

最近小 Q 跟自己的女朋友需要搬到新家,由于出小区的的时候需要支付当月的物业费。于是小 Q 跟自己的女朋友同时登陆了小区提供的物业缴费系统。

②悲观并发控制

假设小 Q 正在查当月需要缴纳的费用是多少,然后进行支付的时候,此时小 Q 查询的这条数据是已经被锁定的。

那么小 Q 女朋友是无法访问该数据的,直至小 Q 支付完成或者退出系统将悲观锁释放,小 Q 的女朋友才可以查询到数据。

悲观锁保证在同一时间只能有一个线程访问,默认数据在访问的时候会产生冲突,然后在整个过程都加上了锁。

这样的系统对于站在程序员的角度看就是毫无用户体验感,如果多个人需要同时访问一条信息,只能在一台设备上看喽!

③乐观并发控制

在小 Q 查看物业费欠费情况,并且支付的同时,小 Q 的女朋友也可以访问到该数据。

乐观锁认为即使在并发环境下,也不会产生冲突问题,所以不会去做加锁操作。而是在数据提交的时候进行检测,如果发现有冲突则返回冲突信息。

小结:Innodb 的 MVCC 机制就是乐观锁的一种体现,读不加锁,读写不冲突,在不加锁的情况下能让多个事务进行并发读写,并且解决读写冲突问题,极大的提高系统的并发性。

悲观锁、乐观锁

锁按照粒度分为表锁、行锁、页锁;按照使用方式分为共享锁、排它锁;根据思想分为乐观锁、悲观锁。

无论是乐观锁、悲观锁都只是一种思想而已,并不是实际的锁机制,这点一定要清楚。

①悲观锁(悲观并发控制)

悲观锁实际为悲观并发控制,缩写 PCC。

悲观锁持消极态度,认为每一次访问数据时,总是会发生冲突,因此,每次访问必须先锁住数据,完成访问后在释放锁。

保证在同一时间只有单个线程可以访问,实现数据的排它性。同时悲观锁使用数据库自身的锁机制实现,可以解决读-写,写-写的冲突。

那么在什么场景下可以使用悲观锁呢?悲观锁适用于在写多读少的并发环境下使用,虽然并发效率不高,但是保证了数据的安全性。

②乐观锁(乐观并发控制)

跟悲观锁一样,乐观锁实际为乐观并发控制,缩写为OCC。

乐观锁相对于悲观锁而言,认为即使在并发环境下,外界对数据的操作不会产生冲突,所以不会去加锁,而是会在提交更新的时候才会正式的对数据的冲突与否进行检测。

如果发现冲突,要么再重试一次,要么切换为悲观的策略。乐观并发控制要解决的是数据库并发场景下的写-写冲突,指用无锁的方式去解决。

MVCC 解决了哪些问题

在事务并发的情况下会产生以下问题:

  • 脏读:读取其他事务未提交的数据。
  • 不可重复读:一个事务在读取一条数据时,由于另一个事务修改了这条数据,导致前后读取的数据不一致。
  • 幻读:一个事务先读取了某个范围的数量,同时另一个事务新增了这个范围的数据,再次读取发现俩次得到的结果不一致。

MVCC 在 Innodb 存储引擎的实现主要是为了提高数据库并发能力,用更好的方式去处理读–写冲突,同时做到不加锁、非阻塞并发读写。

但是 MVCC 可以解决脏读,不可重复读,MVCC 使用快照读解决了部分幻读问题,但是在修改时还是使用的当前读,所以还是存在幻读问题,幻读的问题最终就是使用间隙锁解决。

当前读、快照读

在了解 MVCC 是如何解决事务并发带来的问题之前,需要先明白俩个概念,当前读、快照读。

①当前读

给读操作加上共享锁、排它锁,DML 操作加上排它锁,这些操作就是当前读。

共享锁、排它锁也被称之为读锁、写锁。共享锁与共享锁是共存的,但是如果要修改、添加、删除时,必须等到共享锁释放才可进行操作。

因为在 Innodb 存储引擎中,DML 操作都会隐式添加排它锁。所以说当前读所读取的记录就是最新的记录,读取数据时加上锁,保证其他事务不能修改当前记录。

②快照读

如果你看到这里就默认你对隔离级别有一定的了解哈!快照读的前提是隔离级别不是串行级别,串行级别的快照读会退化成当前读。

快照读的出现旨在提高事务并发性,其实现基于本文的主角 MVCC 即多版本控制器。

MVCC 可以认为就是行锁的一个变种,但是它在很多情况下避免了加锁操作。所以说快照读读取的数据有可能不是最新的,而是之前版本的数据。

为什么要提到快照读呢!因为在 read-view 就是通过快照读生成的,为了防止后文概念模糊,所以在这里进行说明。

③如何区分当前读、快照读

不加锁的简单的 select 都属于快照读:

  1. select id name user where id = 1

与之对应的则是当前读,给 select 加上共享锁、排它锁:

  1. select id name from user where id = 1 lock in share mode; 
  2.  
  3. select id name from user where id = 1 for update; 

MVCC 实现三大要素

终于来到本文最终要的部分了,前边的叙述都是为了原理这一块做的铺垫。

在这之前需要知道 MVCC 只在 REPEATABLE READ(可重复读) 和 READ COMMITTED(已读提交)这俩种隔离级别下适用。

MVCC 实现原理是由俩个隐式字段、undo 日志、Read view 来实现的。

①隐式字段

在 Innodb 存储引擎中,在有聚簇索引的情况下每一行记录中都会隐藏俩个字段,如果没有聚簇索引则还有一个 6byte 的隐藏主键。

这俩个隐藏列一个记录的是何时被创建的,一个记录的是什么时候被删除。这里不要理解为是记录的是时间,存储的是事务 ID。

俩个隐式字段为 DB_TRX_ID,DB_ROLL_PTR,没有聚簇索引还会有 DB_ROW_ID 这个字段:

  • DB_TRX_ID:记录创建这条记录上次修改他的事务 ID。
  • DB_ROLL_PTR:回滚指针,指向这条记录的上一个版本。

隐式字段实际还有一个 delete flag 隐藏字段,即记录被更新或删除,这里的删除并不代表真的删除,而是将这条记录的 delete flag 改为 true(这里埋下一个伏笔,数据库的删除是真的删除吗?)

②undo log(回滚日志)

之前对 undo log 的作用只提到了回滚操作实现原子性,现在需要知道的另一个作用就是实现 MVCC 多版本控制器。

undo log 细分为俩种:

  • insert 时产生的 undo log、update
  • delete 时产生的 undo log

在 Innodb 中 insert 产生的 undo log 在提交事务之后就会被删除,因为新插入的数据没有历史版本,所以无需维护 undo log。

update 和 delete 操作产生的 undo log 都属于一种类型,在事务回滚时需要,而且在快照读时也需要,则需要维护多个版本信息。

只有在快照读和事务回滚不涉及该日志时,对应的日志才会被 purge 线程统一删除。

purge 线程会清理 undo log 的历史版本,同样也会清理 del flag 标记的记录。

写到这里关于 undo log 在 MVCC 中的作用估计还是蒙圈的。

undo log 在 MVCC 中的作用:undo log 保存的是一个版本链,也就是使用 DB_ROLL_PTR 这个字段来连接的。当数据库执行一个 select 语句时会产生一致性视图 read view。

那么这个 read view 是由在查询时所有未提交事务 ID 组成的数组,数组中最小的事务 ID 为 min_id 和已创建的最大事务 ID 为 max_id 组成,查询的数据结果需要跟 read-view 做比较从而得到快照结果。

所以说 undo log 在 MVCC 中的作用就是为了根据存储的事务 ID 做比较,从而得到快照结果。

③undo log 底层实现

假设一开始的数据为下图:

此时执行了一条更新的 SQL 语句:

  1. update user set name = 'niuniu where id = 1' 

那么 undo log 的记录就会发生变化,也就是说当执行一条更新语句时会把之前的原有数据拷贝到 undo log 日志中。

同时你可以看见最新的一条记录在末尾处连接了一条线,也就是说 DB_ROLL_PTR 记录的就是存放在 undo log 日志的指针地址。

最终有可能需要通过指针来找到历史数据:

④read-view

当执行 SQL 语句查询时会产生一致性视图,也就是 read-view,它是由查询的那一时间所有未提交事务 ID 组成的数组,和已经创建的最大事务 ID 组成的。

在这个数组中最小的事务 ID 被称之为 min_id,最大事务 ID 被称之为 max_id,查询的数据结果要根据 read-view 做对比从而得到快照结果。

于是就产生了以下的对比规则,这个规则就是使用当前的记录的 trx_id 跟 read-view 进行对比,对比规则如下。

⑤版本链对比规则

如果落在 trx_id

如果落在 trx_id>max_id,表示此版本是由将来启动的事务生成的,是肯定不可见的。

如果落在 min_id<=trx_id<=max_id 会存在俩种情况:

  • 如果 row 的 trx_id 在数组中,表示此版本是由还没提交的事务生成的,不可见,但是当前自己的事务是可见的。
  • 如果 row 的 trx_id 不在数组中,表明是提交的事务生成了该版本,可见。

在这里还有一个特殊情况那就是对于已经删除的数据,在之前的 undo log 日志讲述时说了 update 和 delete 是同一种类型的 undo log,同样也可以认为 delete 就是 update 的特殊情况。

当删除一条数据时会将版本链上最新的数据复制一份,然后将 trx_id 修改为删除时的 trx_id,同时在该记录的头信息中存在一个 delete flag 标记,将这个标记写上 true,用来表示当前记录已经删除。

在查询时按照版本链的规则查到对应的记录,如果 delete flag 标记位为 true,意味着数据已经被删除,则不返回数据。

如果你对这里的 read-view 的生成和版本链对比规则不懂,不要着急,也不要在这里浪费时间,请继续往下看,我会使用一个简单的案例和一个复杂的案例给大家重现上述的规则。

MVCC 底层原理

案例一

下图是准备的素材,这里应该都理解 select 返回的结果为 niuniu,即事务 102 修改后的结果:

在上图中可以看到有三个事务在进行。事务 ID 为 100、101 是修改的其他表,只有事务 ID 为 102 修改的需要查询的这张表。

接下来看看 select 这一列查询返回的结果是不是就是事务 ID 为 102 修改的结果。

此时生成的 read-view 为 [100,101],102,那么现在就可以返回去看一下 read-view 规则,在这里事务 ID100 就是 min_id,事务 ID102 就是 max_id。

这个 select 语句返回结果肯定是 niuniu。那么接下来看一下在 MVCC 中是如何查找数据的。

当前版本链:

那么就会拿着这个 trx_id 为 102 进行比对,会发现这个 102 就是 max_id,然后你再看一下版本链的对比规则中第三种情况。

如果落在 min_id<=trx_id<=max_id 会存在俩种情况。此时信息就已经非常明确了,事务 ID102 是没有在数组中的,所以表示这个版本是已经提交的事务生成的,那么就是可见的呗!

毫无疑问查询会返回 niuniu 这个值,先通过这个简单的案例让你对版本链有一个简单的理解,接下来将使用一个比较繁琐的案例再来跟大家演示一遍。

案例二

本例要求知道 select 的第二次查询结果。深黑色字体。同样是在 kaka 那一条记录的基础上。

当事务 ID100 俩次更新后,版本链也会改变,此时的版本链如下图。红色部分为最新数据,蓝色数据为 undo log 的版本链数据。

对于此时生成的 read-view 你会有什么疑问,在 RR 级别也就是可重复读的隔离级别下。

当在一个事务下执行查询时,所有的 read-view 都是沿用的第一条查询语句生成的。

那此时的 read-view 也就是[100,101],102。

看一下底层查找步骤:

  • 当前数据的事务 ID 为 100
  • 根据规则会落在 min_id<=trx_id<=max_id 这个区间
  • 并且当前行的事务 ID100 是在 read-view 的数组中的,表示此时的事务还没有提交则不可见
  • 继续在版本链中往下寻找,此时找到的事务 ID 还是 100,跟上述流程一致
  • 通过查找版本链,将发现事务 ID 为 102
  • 102 是 read-view 的 max_id,同样也会落在 min_id<=trx_id<=max_id 这个区间,但是跟之前不同的是,事务 102 是没有在数组中的,表示这个版本事务已经提交了所以是可见的
  • 最后返回的是 niuniu

案例三

为了让大家体会一下可重复读级别生成的 read-view 是根据在同一事务中第一条快照读产生的,再来看一个案例。

此时的事务 ID101 也再对数据更新两次,然后在进行查询看一下会返回什么值:

经过案例一、案例二的熟悉,现在对 undo log 的版本链和对比规则已经有了一定的了解了吧!

案例三就不在那么详细的说明了,此时的版本链如下:

此时的 read-view 依然为[100,101],102。

那么首先会根据事务 101 去版本链对比,事务 101 和事务 100 都会落在 min_id<=trx_id<=max_id 这个区间,并且还都在数组中,所以数据是不可见的。

那么继续往版本链中寻找就会到事务 102,这个是最大的事务 ID 并且不在数组中,所以是可见的。

于是最终的返回结果还是 niuniu。

案例四

可以看到个案例三的图不同的是新增了一个查询语句,那么假设这两条语句执行的时间都是一致的,它们返回的结果会相同吗?

案例三查询到的值为 niuniu:

其实现在版本链跟案例三也是一致的:

那么来理一下寻找过程:

  • 首先这里的 read-view 发生了变化,此时的 read-view 为[101],102。
  • 拿着当前的事务 ID101 跟版本链规则进行对比,落盘在 min_id<=trx_id<=max_id,并且在数组中,则数据不可见。
  • 然后进入版本链,找到下一个数据的事务 ID,还是 101,与上一个一致。
  • 接下来是事务 ID100。
  • 事务 ID100 是落在 trx_id
  • 所以最终返回结果为 niuniu2。

小结:在同一个事务中进行查询,会沿用第一次查询语句生成的 read-view(前提是隔离级别是在可重复读)。

通过以上的四个案例,在版本链寻找过程中,可以总结出一个小技巧:

根据这个小技巧你可以很快的得知此版本是否可见:

  • 如果当前的事务 ID 在绿色部分,是已经提交事务,则数据可见。
  • 如果当前的事务 ID 在蓝色部分,会有两种情况,如果当前事务 ID 在 read-view 数组内,是没有提交的事务不可见,如果不在数组内数据可见。
  • 如果落在红色部分,则不考虑,对于未来的事情不去想即可。

总结

阅读本文后,在面试过程中极大可能会遇到的问题就是聊聊你对 MVCC 的认识。

本文内容从浅到深,从什么是 MVCC 到 MVCC 的底层实现,一步一步地陈述了 MVCC 的实现原理。

本文简单总结:

  • MVCC 在不加锁的情况下解决了脏读、不可重复读和快照读下的幻读问题,一定不要认为幻读完全是 MVCC 解决的。
  • 对当前读、快照读理解,简单点说加锁就是当前读,不加锁的就是快照读。
  • MVCC 实现的三大要素:两个隐式字段、回滚日志、read-view。
  • 两个隐式字段:DB_TRX_ID:记录创建这条记录最后一次修改该记录的事务ID;DB_ROLL_PTR:回滚指针,指向这条记录的上一个版本。
  • undo log 在更新数据时会产生版本链,是 read-view 获取数据的前提。
  • read-view 当 SQL 执行查询语句时产生的,是由为提交的事务 ID 组成的数组和创建的最大事务 ID 组成的。
  • 版本链规则看第六节的小结即可。

作者:咔咔

编辑:陶家龙

征稿:有投稿、寻求报道意向技术人请添加小编微信 gordonlonglong

【51CTO原创稿件,合作站点转载请注明原文作者和出处为51CTO.com】

【编辑推荐】

  1. 谷歌 Chrome 浏览器画中画新曝光:视频会议支持一键静音 / 挂断 / 开关摄像头
  2. 好望新一代摄像机,定义图像未来
  3. GOlang基础-Go语言实战:并发爬虫
  4. 并发编程?-?深入解析Java内存模型JMM与volatile关键字
  5. 70元10个ID,全国数万家庭摄像头遭入侵,按刺激程度标价,物联网安全如此不堪一击?
【责任编辑:赵宁宁 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

数据湖与数据仓库的分析实践攻略

数据湖与数据仓库的分析实践攻略

助力现代化数据管理:数据湖与数据仓库的分析实践攻略
共3章 | 创世达人

7人订阅学习

云原生架构实践

云原生架构实践

新技术引领移动互联网进入急速赛道
共3章 | KaliArch

37人订阅学习

数据中心和VPDN网络建设案例

数据中心和VPDN网络建设案例

漫画+案例
共20章 | 捷哥CCIE

231人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微