Mysql insert on duplicate key 死锁问题定位与解决

前言

最近在监测线上日志时发现我们一个Mysql业务db时常出现 dead lock，频次不高但却一直出现，定位后发现是在并发场景下的 insert on duplicate key update sql 出现的死锁。经过分析发现这种sql确实比较容易造成死锁，不太适用于我们目前的业务场景，于是更换后解决问题。

这篇文章就从分析死锁展开，到最终如何解决这样的问题 分享相应的思路。

正文

死锁定位

我们目前生产环境使用Mysql版本为5.7，默认事务隔离级别为RR，以下为我们的大致table结构（字段已经完全脱敏，使用非业务字段）。

CREATE TABLE IF NOT EXISTS `user_info` (
        id BIGINT UNSIGNED NOT NULL AUTO_INCREMENT,
        name VARCHAR(20) NOT NULL,
        phone BIGINT(20) UNSIGNED NOT NULL,
        update_time timestamp  NOT NULL,
        UNIQUE KEY phone (phone)
?) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

造成死锁的sql如下：

insert into user_info (name, phone, update_time) values (X,Y,Z) on duplicate key update update_time=Z;

当我们看到死锁后，在对应数据库中进行分析，”show engine innodb status“，就发现这样的报错信息"lock_mode X locks gap before rec insert intention waiting"。意思就是在等待gap lock（间隙锁）。

于是我们开始分析on duplicate key这个关键字的sql所可能引入的锁，以及对应我们业务场景中可能触发死锁的问题。

insert on duplicate key的锁

首先insert on duplicate key 这条sql的语义是：如果insert中的对应键值在数据库中没有找到对应的唯一索引记录，即进行插入；如果对表中唯一索引记录冲突，便进行更新，能够很轻松的达到一种效果： 有则直接更新，无则插入。而我们业务中的sql是自增主键id，这样一来冲突的只有可能是 phone这个唯一索引了。

首先，在RR的事务隔离级别下，insert on duplicate key这个sql与普通insert只插入意向锁和记录锁不同，insert on duplicate key sql如果没有找到对应的会在唯一键上插入gap lock和插入意向锁（如果有对应记录则会获取next key lock，next key lock 比gap lock多了一个边缘的记录锁）。Mysql sql lock。

gap lock即间隙锁，假设目前表中唯一键的数据有以下几个，1，5，10。那么insert的key如果是4,在1-5之间，则获取的gap lock的区间就是（1，5）；如果插入的数据是15，则在10-正无穷之间，因此gap lock的区间就是（10，正无穷），这个gap lock。

插入意向锁也是类似于gap lock的一种，生效的范围也一致，只是对应锁上相同范围或者有交集的。横轴为已持有，纵轴为后续申请，是否互斥或兼容。

兼容性

插入意向锁

行锁

gap lock

插入意向锁

兼容

互斥

互斥

行锁

兼容

互斥

兼容

gap lock

兼容

兼容

兼容

因此可以看到，在持有gap lock时，在插入的时候如果申请插入意向锁，便会需要等待，而insert on duplicate key的sql在执行时一般就是gap lock和插入意向锁。那么造成死锁的问题就定位到了，肯定是同一时间多个insert事务到来，并且所插入的记录对应的唯一键范围基本一致，所拥有的gap lock和插入意向锁的范围有交集，便可以出现共同持有锁反而造成死锁的问题。

那我们大致还原一下对应场景，以下是目前数据库中的数据

id

name

phone

timestamp

1

jack

15500000000

1970.1.1

2

tom

15600000000

1970.1.1

3

hurry

15700000000

1970.1.1

阶段

tx1

tx2

tx3

1

insert into user_info (name, phone, update_time) values (test1,15700000001,1970.1.1) on duplicate key update update_time=now();

1

持有（15700000001，正无穷）的插入意向锁以及gap lock

2

insert into user_info (name, phone, update_time) values (test2,15700000002,1970.1.1) on duplicate key update update_time=now();

2

申请（15700000002，正无穷）的插入意向锁失败，申请gap lock成功，等待中

3

insert into user_info (name, phone, update_time) values (test3,15700000004,1970.1.1) on duplicate key update update_time=now();

3

申请（15700000003，正无穷）的插入意向锁失败，申请gap lock成功，等待中

4

commit 提交事务，释放锁

5

申请插入意向锁成功

申请插入意向锁成功

6

死锁

死锁

因此形成死锁，其中一个事务回滚。

问题解决

可以看到，在我们的业务场景中，并没有特别复杂的sql，但是仍然会导致死锁，主要是插入数据的有序性以及高并发性，因此我们的解决思路也相对简单。

针对我们业务的几个思路：

1. 取消使用insert on duplicate key sql，换用普通insert sql，然后捕获对应dupicate 异常，进行异常重试和插入；
2. 业务上进行接口限流，并且入参数据的insert on duplicate key 数据list大小在事务中进行控制，分批执行，可以减少死锁的情况。

先自我介绍一下，小编13年上师交大毕业，曾经在小公司待过，去过华为OPPO等大厂，18年进入阿里，直到现在。深知大多数初中级java工程师，想要升技能，往往是需要自己摸索成长或是报班学习，但对于培训机构动则近万元的学费，着实压力不小。自己不成体系的自学效率很低又漫长，而且容易碰到天花板技术停止不前。因此我收集了一份《java开发全套学习资料》送给大家，初衷也很简单，就是希望帮助到想自学又不知道该从何学起的朋友，同时减轻大家的负担。添加下方名片，即可获取全套学习资料哦