前言
接口冪等性
問題乏盐,對(duì)于開發(fā)人員來說佳窑,是一個(gè)跟語(yǔ)言無關(guān)的公共問題。本文分享了一些解決這類問題非常實(shí)用的辦法丑勤,絕大部分內(nèi)容我在項(xiàng)目中實(shí)踐過的华嘹,給有需要的小伙伴一個(gè)參考。
不知道你有沒有遇到過這些場(chǎng)景:
- 我們?cè)谔顚懩承?code>form表單時(shí)法竞,保存按鈕不小心快速點(diǎn)了兩次耙厚,表中竟然產(chǎn)生了兩條重復(fù)的數(shù)據(jù),只是id不一樣岔霸。
- 我們的項(xiàng)目中為了解決
接口超時(shí)
問題薛躬,引入了重試機(jī)制
。第一次請(qǐng)求接口超時(shí)了呆细,請(qǐng)求方?jīng)]能及時(shí)獲取返回結(jié)果(此時(shí)有可能已經(jīng)成功了)型宝,為了避免返回錯(cuò)誤的結(jié)果(這種情況不可能直接返回失敗吧?)絮爷,于是對(duì)該請(qǐng)求重試幾次趴酣,這樣也會(huì)產(chǎn)生重復(fù)的數(shù)據(jù)。 - mq消費(fèi)者在讀取消息時(shí)坑夯,有時(shí)候會(huì)讀取到
重復(fù)消息
(至于什么原因這里先不說)岖寞,從而導(dǎo)致產(chǎn)生了重復(fù)的數(shù)據(jù)。
沒錯(cuò)柜蜈,這些都是冪等性問題仗谆。
接口冪等性
是指用戶對(duì)于同一操作發(fā)起的一次請(qǐng)求或者多次請(qǐng)求的結(jié)果是一致的指巡,不會(huì)因?yàn)槎啻吸c(diǎn)擊而產(chǎn)生了副作用。
這類問題多發(fā)于接口的:
-
insert
操作隶垮,這種情況下多次請(qǐng)求藻雪,可能會(huì)產(chǎn)生重復(fù)數(shù)據(jù)。 -
update
操作狸吞,如果只是單純的更新數(shù)據(jù)勉耀,比如:update user set status=1 where id=1
,是沒有問題的捷绒。如果還有計(jì)算瑰排,比如:update user set status=status+1 where id=1
,這種情況下多次請(qǐng)求暖侨,可能會(huì)導(dǎo)致數(shù)據(jù)錯(cuò)誤椭住。
那么我們要如何保證接口冪等性?本文將會(huì)告訴你答案字逗。
1. insert前先select
通常情況下京郑,在保存數(shù)據(jù)接口中,我們?yōu)榱朔乐巩a(chǎn)生重復(fù)的數(shù)據(jù)葫掉,一般會(huì)在insert
前些举,先根據(jù)name
或code
字段select
一下數(shù)據(jù)。如果該數(shù)據(jù)已存在俭厚,則執(zhí)行update
操作户魏,如果不存在,才執(zhí)行 insert
操作挪挤。
該方案可能是我們平時(shí)在防止產(chǎn)生重復(fù)數(shù)據(jù)時(shí)叼丑,使用最多的方案。但是在并發(fā)場(chǎng)景中扛门,要配合其他方案一起使用鸠信,否則同樣會(huì)產(chǎn)生重復(fù)數(shù)據(jù)。
2. 加悲觀鎖
在支付場(chǎng)景中论寨,用戶A的賬號(hào)余額有150元星立,想轉(zhuǎn)出100元,正常情況下用戶A的余額只剩50元葬凳。一般情況下绰垂,sql是這樣的:
update user amount = amount-100 where id=123;
如果出現(xiàn)多次相同的請(qǐng)求,可能會(huì)導(dǎo)致用戶A的余額變成負(fù)數(shù)火焰。這種情況劲装,用戶A來可能要哭了。于此同時(shí)荐健,系統(tǒng)開發(fā)人員可能也要哭了酱畅,因?yàn)檫@是很嚴(yán)重的系統(tǒng)bug。
為了解決這個(gè)問題江场,可以加悲觀鎖纺酸,將用戶A的那行數(shù)據(jù)鎖住,在同一時(shí)刻只允許一個(gè)請(qǐng)求獲得鎖址否,更新數(shù)據(jù)餐蔬,其他的請(qǐng)求則等待。
通常情況下通過如下sql鎖住單行數(shù)據(jù):
select * from user id=123 for update;
具體流程如下:
具體步驟:
- 多個(gè)請(qǐng)求同時(shí)根據(jù)id查詢用戶信息佑附。
- 判斷余額是否不足100樊诺,如果余額不足,則直接返回余額不足音同。
- 如果余額充足词爬,則通過for update再次查詢用戶信息,并且嘗試獲取鎖权均。
- 只有第一個(gè)請(qǐng)求能獲取到行鎖顿膨,其余沒有獲取鎖的請(qǐng)求,則等待下一次獲取鎖的機(jī)會(huì)叽赊。
- 第一個(gè)請(qǐng)求獲取到鎖之后恋沃,判斷余額是否不足100,如果余額足夠必指,則進(jìn)行update操作囊咏。
- 如果余額不足,說明是重復(fù)請(qǐng)求塔橡,則直接返回成功梅割。
需要特別注意的是:如果使用的是mysql數(shù)據(jù)庫(kù),存儲(chǔ)引擎必須用innodb谱邪,因?yàn)樗胖С质聞?wù)炮捧。此外,這里id字段一定要是主鍵或者唯一索引惦银,不然會(huì)鎖住整張表咆课。
3. 加樂觀鎖
悲觀鎖需要在同一個(gè)事務(wù)操作過程中鎖住一行數(shù)據(jù),如果事務(wù)耗時(shí)比較長(zhǎng)扯俱,會(huì)造成大量的請(qǐng)求等待书蚪,影響接口性能。
為了提升接口性能迅栅,我們可以使用樂觀鎖殊校。需要在表中增加一個(gè)timestamp
或者version
字段,這里以version
字段為例读存。
在更新數(shù)據(jù)之前先查詢一下數(shù)據(jù):
select id,amount,version from user id=123;
如果數(shù)據(jù)存在为流,假設(shè)查到的version
等于1
呕屎,再使用id
和version
字段作為查詢條件更新數(shù)據(jù):
update user set amount=amount+100,version=version+1 where id=123 and version=1;
更新數(shù)據(jù)的同時(shí)version+1,然后判斷update
操作的影響行數(shù)如果大于0敬察,說明本次更新成功秀睛,如果等于0,說明本次更新失敗莲祸。
由于第一次請(qǐng)求version
等于1
是可以成功的蹂安,操作成功后version
變成2
了。這時(shí)如果并發(fā)的請(qǐng)求過來锐帜,再執(zhí)行如下sql:
update user set amount=amount+100,version=version+1 where id=123 and version=1;
該update
操作不會(huì)真正更新數(shù)據(jù)田盈,最終sql的執(zhí)行結(jié)果影響行數(shù)是0
,因?yàn)?code>version已經(jīng)變成2
了缴阎,where
中的version=1
肯定無法滿足條件允瞧。但為了保證接口冪等性,接口可以直接返回成功蛮拔,因?yàn)?code>version值已經(jīng)修改了瓷式,那么前面必定已經(jīng)成功過一次,后面都是重復(fù)的請(qǐng)求语泽。
具體流程如下:
具體步驟:
- 先根據(jù)id查詢用戶信息贸典,包含version字段
- 根據(jù)id和version字段值作為where條件的參數(shù),更新用戶信息踱卵,同時(shí)version+1
- 判斷操作影響行數(shù)廊驼,如果影響1行,則說明是一次請(qǐng)求惋砂,可以做其他數(shù)據(jù)操作妒挎。
- 如果影響0行黑竞,說明是重復(fù)請(qǐng)求缕粹,則直接返回成功茴扁。
4. 加唯一索引
絕大數(shù)情況下酌畜,為了防止重復(fù)數(shù)據(jù)的產(chǎn)生,我們都會(huì)在表中加唯一索引辅甥。
alter table `order` add UNIQUE KEY `un_code` (`code`);
加了唯一索引之后驴一,第一次請(qǐng)求數(shù)據(jù)可以插入成功踊淳。但后面的相同請(qǐng)求驯嘱,插入數(shù)據(jù)時(shí)會(huì)報(bào)Duplicate entry '002' for key 'order.un_code
異常镶苞,表示唯一索引有沖突。雖說拋異常對(duì)數(shù)據(jù)來說沒有影響鞠评,不會(huì)造成錯(cuò)誤數(shù)據(jù)茂蚓。但是為了保證接口冪等性,我們需要對(duì)該異常進(jìn)行捕獲,然后返回成功聋涨。
如果是java
程序需要捕獲:DuplicateKeyException
異常晾浴,如果使用了spring
框架還需要捕獲:MySQLIntegrityConstraintViolationException
異常。
具體流程圖如下:
具體步驟:
- 用戶通過瀏覽器發(fā)起請(qǐng)求牍白,服務(wù)端收集數(shù)據(jù)怠肋。
- 將該數(shù)據(jù)插入mysql
- 判斷是否執(zhí)行成功,如果成功淹朋,則操作其他數(shù)據(jù)(可能還有其他的業(yè)務(wù)邏輯)。
- 如果執(zhí)行失敗钉答,捕獲唯一索引沖突異常础芍,直接返回成功。
5. 建防重表
有時(shí)候表中并非所有的場(chǎng)景都不允許產(chǎn)生重復(fù)的數(shù)據(jù)数尿,只是有某些場(chǎng)景才不允許仑性。這時(shí)候,直接在表中加唯一索引右蹦,顯然是不太合適的诊杆。
針對(duì)這種情況,我們可以通過建防重表
來解決問題何陆。
該表可以只包含兩個(gè)字段:id
和 唯一索引
晨汹,唯一索引
可以是多個(gè)字段比如:name、code等組合起來的唯一標(biāo)識(shí)贷盲,例如:susan_0001淘这。
具體流程圖如下:
具體步驟:
- 用戶通過瀏覽器發(fā)起請(qǐng)求,服務(wù)端收集數(shù)據(jù)巩剖。
- 將該數(shù)據(jù)插入mysql防重表
- 判斷是否執(zhí)行成功铝穷,如果成功,則做mysql其他的數(shù)據(jù)操作(可能還有其他的業(yè)務(wù)邏輯)佳魔。
- 如果執(zhí)行失敗曙聂,捕獲唯一索引沖突異常,直接返回成功鞠鲜。
需要特別注意的是:防重表和業(yè)務(wù)表必須在同一個(gè)數(shù)據(jù)庫(kù)中宁脊,并且操作要在同一個(gè)事務(wù)中。
6. 根據(jù)狀態(tài)機(jī)
很多時(shí)候業(yè)務(wù)表是有狀態(tài)的贤姆,比如訂單表中有:1-下單朦佩、2-已支付、3-完成庐氮、4-撤銷等狀態(tài)语稠。如果這些狀態(tài)的值是有規(guī)律的,按照業(yè)務(wù)節(jié)點(diǎn)正好是從小到大,我們就能通過它來保證接口的冪等性仙畦。
假如id=123的訂單狀態(tài)是已支付
输涕,現(xiàn)在要變成完成
狀態(tài)。
update `order` set status=3 where id=123 and status=2;
第一次請(qǐng)求時(shí)慨畸,該訂單的狀態(tài)是已支付
莱坎,值是2
,所以該update
語(yǔ)句可以正常更新數(shù)據(jù)寸士,sql執(zhí)行結(jié)果的影響行數(shù)是1
檐什,訂單狀態(tài)變成了3
。
后面有相同的請(qǐng)求過來弱卡,再執(zhí)行相同的sql時(shí)乃正,由于訂單狀態(tài)變成了3
,再用status=2
作為條件婶博,無法查詢出需要更新的數(shù)據(jù)瓮具,所以最終sql執(zhí)行結(jié)果的影響行數(shù)是0
,即不會(huì)真正的更新數(shù)據(jù)凡人。但為了保證接口冪等性名党,影響行數(shù)是0
時(shí),接口也可以直接返回成功挠轴。
具體流程圖如下:
具體步驟:
- 用戶通過瀏覽器發(fā)起請(qǐng)求传睹,服務(wù)端收集數(shù)據(jù)。
- 根據(jù)id和當(dāng)前狀態(tài)作為條件岸晦,更新成下一個(gè)狀態(tài)
- 判斷操作影響行數(shù)蒋歌,如果影響了1行,說明當(dāng)前操作成功委煤,可以進(jìn)行其他數(shù)據(jù)操作堂油。
- 如果影響了0行,說明是重復(fù)請(qǐng)求碧绞,直接返回成功府框。
主要特別注意的是,該方案僅限于要更新的
表有狀態(tài)字段
讥邻,并且剛好要更新狀態(tài)字段
的這種特殊情況迫靖,并非所有場(chǎng)景都適用。
7. 加分布式鎖
其實(shí)前面介紹過的加唯一索引
或者加防重表
兴使,本質(zhì)是使用了數(shù)據(jù)庫(kù)的分布式鎖
系宜,也屬于分布式鎖的一種。但由于數(shù)據(jù)庫(kù)分布式鎖
的性能不太好发魄,我們可以改用:redis
或zookeeper
盹牧。
鑒于現(xiàn)在很多公司分布式配置中心改用apollo
或nacos
俩垃,已經(jīng)很少用zookeeper
了,我們以redis
為例介紹分布式鎖汰寓。
目前主要有三種方式實(shí)現(xiàn)redis的分布式鎖:
- setNx命令
- set命令
- Redission框架
每種方案各有利弊口柳,具體實(shí)現(xiàn)細(xì)節(jié)我就不說了,有興趣的朋友可以加我微信找我私聊有滑。
具體流程圖如下:
具體步驟:
- 用戶通過瀏覽器發(fā)起請(qǐng)求跃闹,服務(wù)端會(huì)收集數(shù)據(jù),并且生成訂單號(hào)code作為唯一業(yè)務(wù)字段毛好。
- 使用redis的set命令望艺,將該訂單code設(shè)置到redis中,同時(shí)設(shè)置超時(shí)時(shí)間肌访。
- 判斷是否設(shè)置成功找默,如果設(shè)置成功,說明是第一次請(qǐng)求场靴,則進(jìn)行數(shù)據(jù)操作。
- 如果設(shè)置失敗港准,說明是重復(fù)請(qǐng)求旨剥,則直接返回成功。
需要特別注意的是:分布式鎖定一要設(shè)置一個(gè)合理的過期時(shí)間浅缸,如果設(shè)置過短轨帜,無法有效的防止重復(fù)請(qǐng)求。如果設(shè)置過長(zhǎng)衩椒,可能會(huì)浪費(fèi)
redis
的存儲(chǔ)空間蚌父,需要根據(jù)實(shí)際業(yè)務(wù)情況而定。
8. 獲取token
除了上述方案之外毛萌,還有最后一種使用token
的方案苟弛。該方案跟之前的所有方案都有點(diǎn)不一樣,需要兩次請(qǐng)求才能完成一次業(yè)務(wù)操作阁将。
- 第一次請(qǐng)求獲取
token
- 第二次請(qǐng)求帶著這個(gè)
token
膏秫,完成業(yè)務(wù)操作。
具體流程圖如下:
第一步做盅,先獲取token缤削。
第二步,做具體業(yè)務(wù)操作吹榴。
具體步驟:
- 用戶訪問頁(yè)面時(shí)亭敢,瀏覽器自動(dòng)發(fā)起獲取token請(qǐng)求。
- 服務(wù)端生成token图筹,保存到redis中帅刀,然后返回給瀏覽器。
- 用戶通過瀏覽器發(fā)起請(qǐng)求時(shí),攜帶該token劝篷。
- 在redis中查詢?cè)搕oken是否存在哨鸭,如果不存在,說明是第一次請(qǐng)求娇妓,做則后續(xù)的數(shù)據(jù)操作像鸡。
- 如果存在,說明是重復(fù)請(qǐng)求哈恰,則直接返回成功只估。
- 在redis中token會(huì)在過期時(shí)間之后,被自動(dòng)刪除着绷。
在這里順便說一下蛔钙,防重設(shè)計(jì) 和 冪等設(shè)計(jì),其實(shí)是有區(qū)別的荠医。
防重設(shè)計(jì)主要為了避免產(chǎn)生重復(fù)數(shù)據(jù)吁脱,對(duì)接口返回沒有太多要求。而冪等設(shè)計(jì)除了避免產(chǎn)生重復(fù)數(shù)據(jù)之外彬向,還要求每次請(qǐng)求都返回一樣的結(jié)果兼贡。
以上方案是針對(duì)冪等設(shè)計(jì)的。
如果是防重設(shè)計(jì)娃胆,流程圖可以改成如下:
需要特別注意的是:token必須是全局唯一的遍希。