Redis緩存策略:緩存穿透、擊穿、雪崩摘要: 本篇講解Redis緩存三大經(jīng)典問(wèn)題的解決方案包括布隆過(guò)濾器防緩存穿透、singleflight防緩存擊穿、隨機(jī)過(guò)期時(shí)間加多級(jí)緩存防緩存雪崩分享熱點(diǎn)key過(guò)期瞬間大量請(qǐng)求打到數(shù)據(jù)庫(kù)的踩坑經(jīng)歷對(duì)比三種緩存問(wèn)題的現(xiàn)象、原因與解決方案。開篇故事去年雙11零點(diǎn)我們的商品詳情頁(yè)接口直接被打爆了。數(shù)據(jù)庫(kù)CPU瞬間飆到100%連接池滿載整個(gè)服務(wù)雪崩。事后排查發(fā)現(xiàn)一個(gè)熱門商品的緩存剛好在零點(diǎn)過(guò)期那一瞬間所有請(qǐng)求全打到數(shù)據(jù)庫(kù)上數(shù)據(jù)庫(kù)扛不住服務(wù)連鎖崩潰。緩存用得好能給數(shù)據(jù)庫(kù)擋掉90%的流量用不好反而放大風(fēng)險(xiǎn)。穿透、擊穿、雪崩是緩存的三個(gè)經(jīng)典問(wèn)題每個(gè)都有成熟的應(yīng)對(duì)方案。這篇我把三者的原理和代碼實(shí)現(xiàn)講透。一、緩存穿透與布隆過(guò)濾器緩存穿透是指查詢一個(gè)根本不存在的數(shù)據(jù)。緩存里沒有數(shù)據(jù)庫(kù)里也沒有每次請(qǐng)求都打到數(shù)據(jù)庫(kù)。惡意攻擊者可以用大量不存在的ID來(lái)壓垮數(shù)據(jù)庫(kù)。方案一:緩存空值最簡(jiǎn)單的方案查不到的數(shù)據(jù)在緩存里存一個(gè)空值標(biāo)記。packagemainimport(contextencoding/jsonfmttimegithub.com/redis/go-redis/v9)// 緩存空值防穿透funcgetUserWithNullCache(ctx context.Context,rdb*redis.Client,idint64)(*User,error){key:fmt.Sprintf(user:%d,id)// 先查緩存val,err:rdb.Get(ctx,key).Result()iferrnil{ifvalNULL{returnnil,fmt.Errorf(用戶不存在)// 緩存了空值標(biāo)記}varuser User json.Unmarshal([]byte(val),user)returnuser,nil}// 緩存未命中查數(shù)據(jù)庫(kù)user,err:queryUserFromDB(id)iferr!nil{// 數(shù)據(jù)庫(kù)也沒有緩存空值防穿透過(guò)期時(shí)間設(shè)短rdb.Set(ctx,key,NULL,5*time.Minute)returnnil,fmt.Errorf(用戶不存在)}// 數(shù)據(jù)庫(kù)有寫入緩存data,_:json.Marshal(user)rdb.Set(ctx,key,data,30*time.Minute)returnuser,nil}緩存空值的缺點(diǎn)是大量不存在的ID會(huì)占滿Redis內(nèi)存。方案二:布隆過(guò)濾器布隆過(guò)濾器是概率型數(shù)據(jù)結(jié)構(gòu)能判斷一個(gè)元素肯定不存在或可能存在。用它過(guò)濾掉不存在的ID請(qǐng)求根本不會(huì)到數(shù)據(jù)庫(kù)。// 布隆過(guò)濾器防穿透需要Redis安裝RedisBloom模塊funcgetUserWithBloom(ctx context.Context,rdb*redis.Client,idint64)(*User,error){// 第一步:布隆過(guò)濾器判斷說(shuō)不存在就是真不存在exists,_:rdb.Do(ctx,BF.EXISTS,user_ids,id).Int()ifexists0{returnnil,fmt.Errorf(用戶不存在)// 直接攔截}// 第二步:可能存在繼續(xù)查緩存和數(shù)據(jù)庫(kù)key:fmt.Sprintf(user:%d,id)val,_:rdb.Get(ctx,key).Result()ifval!{varuser User json.Unmarshal([]byte(val),user)returnuser,nil}returnqueryUserFromDB(id)}布隆過(guò)濾器的特點(diǎn)要記住。說(shuō)不存在就是真不存在說(shuō)存在可能誤判。新增數(shù)據(jù)要同步加入過(guò)濾器刪除數(shù)據(jù)不建議移除(會(huì)影響其他元素的判斷)。二、緩存擊穿與singleflight緩存擊穿是指某個(gè)熱點(diǎn)key過(guò)期的瞬間大量并發(fā)請(qǐng)求同時(shí)打到數(shù)據(jù)庫(kù)。和穿透的區(qū)別是穿透是查不存在的數(shù)據(jù)擊穿是查存在但緩存剛過(guò)期的數(shù)據(jù)。方案一:互斥鎖用Redis分布式鎖只讓一個(gè)請(qǐng)求查數(shù)據(jù)庫(kù)其他請(qǐng)求等待。// 互斥鎖防擊穿funcgetUserWithMutex(ctx context.Context,rdb*redis.Client,idint64)(*User,error){key:fmt.Sprintf(user:%d,id)lockKey:fmt.Sprintf(lock:%s,key)// 先查緩存val,_:rdb.Get(ctx,key).Result()ifval!{varuser User json.Unmarshal([]byte(val),user)returnuser,nil}// 緩存未命中嘗試獲取鎖ok,_:rdb.SetNX(ctx,lockKey,1,10*time.Second).Result()if!ok{time.Sleep(50*time.Millisecond)// 沒拿到鎖等一會(huì)兒重試returngetUserWithMutex(ctx,rdb,id)}deferrdb.Del(ctx,lockKey)// 拿到鎖查數(shù)據(jù)庫(kù)并寫回緩存user,err:queryUserFromDB(id)iferr!nil{returnnil,err}data,_:json.Marshal(user)rdb.Set(ctx,key,data,30*time.Minute)returnuser,nil}方案二:singleflightGo標(biāo)準(zhǔn)庫(kù)golang.org/x/sync/singleflight更優(yōu)雅。同一個(gè)key的并發(fā)調(diào)用只有一個(gè)會(huì)真正執(zhí)行其他等結(jié)果。vargroup singleflight.Group// singleflight防擊穿funcgetUserWithSingleflight(ctx context.Context,rdb*redis.Client,idint64)(*User,error){key:fmt.Sprintf(user:%d,id)// 先查緩存val,err:rdb.Get(ctx,key).Result()iferrnil{varuser User json.Unmarshal([]byte(val),user)returnuser,nil}// 同一個(gè)key的并發(fā)調(diào)用只執(zhí)行一次其他等結(jié)果result,err,_:group.Do(key,func()(interface{},error){// 雙重檢查前一個(gè)請(qǐng)求可能已經(jīng)寫好緩存ifval,err:rdb.Get(ctx,key).Result();errnil{varuser User json.Unmarshal([]byte(val),user)returnuser,nil}user,err:queryUserFromDB(id)iferr!nil{returnnil,err}data,_:json.Marshal(user)rdb.Set(ctx,key,data,30*time.Minute)returnuser,nil})iferr!nil{returnnil,err}returnresult.(*User),nil}singleflight比互斥鎖的優(yōu)勢(shì)在于不需要管理鎖的獲取釋放不處理死鎖和鎖過(guò)期Go原生支持。缺點(diǎn)是只防當(dāng)前進(jìn)程內(nèi)的并發(fā)多實(shí)例部署時(shí)每個(gè)實(shí)例都會(huì)有一個(gè)請(qǐng)求打到數(shù)據(jù)庫(kù)。三、緩存雪崩與多級(jí)緩存緩存雪崩是指大量key同時(shí)過(guò)期或Redis整體宕機(jī)所有請(qǐng)求全打到數(shù)據(jù)庫(kù)。和擊穿的區(qū)別是規(guī)模擊穿是一個(gè)熱點(diǎn)key雪崩是一批key。方案一:隨機(jī)過(guò)期時(shí)間給每個(gè)key的過(guò)期時(shí)間加隨機(jī)值避免同時(shí)過(guò)期。// 隨機(jī)過(guò)期時(shí)間防雪崩funcsetCacheWithRandomTTL(ctx context.Context,rdb*redis.Client,users[]User){pipe:rdb.Pipeline()for_,u:rangeusers{key:fmt.Sprintf(user:%d,u.ID)data,_:json.Marshal(u)// 基礎(chǔ)30分鐘 0到10分鐘隨機(jī)偏移ttl:30*time.Minutetime.Duration(rand.Intn(600))*time.Second pipe.Set(ctx,key,data,ttl)}pipe.Exec(ctx)}方案二:多級(jí)緩存本地緩存加Redis兩級(jí)緩存Redis掛了本地緩存還能扛一陣。// 多級(jí)緩存:本地緩存 RedistypeMultiLevelCachestruct{localCache*cache.Cache// 進(jìn)程內(nèi)緩存redis*redis.Client// 分布式緩存}func(c*MultiLevelCache)Get(ctx context.Context,idint64)(*User,error){key:fmt.Sprintf(user:%d,id)// 第一級(jí):本地緩存最快ifval,ok:c.localCache.Get(key);ok{returnval.(*User),nil}// 第二級(jí):Redisval,err:c.redis.Get(ctx,key).Result()iferrnil{varuser User json.Unmarshal([]byte(val),user)c.localCache.Set(key,user,5*time.Minute)// 回填本地returnuser,nil}// 第三級(jí):數(shù)據(jù)庫(kù)查到后回填兩級(jí)緩存user,err:queryUserFromDB(id)iferr!nil{returnnil,err}data,_:json.Marshal(user)ttl:30*time.Minutetime.Duration(rand.Intn(600))*time.Second c.redis.Set(ctx,key,data,ttl)c.localCache.Set(key,user,5*time.Minute)returnuser,nil}四、獨(dú)家踩坑:熱點(diǎn)key過(guò)期瞬間打穿數(shù)據(jù)庫(kù)這個(gè)坑和開篇的故事是同一個(gè)。我們有個(gè)熱門商品詳情頁(yè)緩存放了1小時(shí)定時(shí)刷新。問(wèn)題出在刷新邏輯上刷新時(shí)先刪舊緩存再寫新緩存中間有幾百毫秒空窗期。// 問(wèn)題代碼:刷新緩存時(shí)的空窗期funcrefreshCacheBad(ctx context.Context,rdb*redis.Client,productIDstring){key:fmt.Sprintf(product:%s,productID)rdb.Del(ctx,key)// 刪舊緩存// 查數(shù)據(jù)庫(kù)耗時(shí)200ms這段時(shí)間所有請(qǐng)求查不到緩存product,_:queryProductFromDB(productID)data,_:json.Marshal(product)rdb.Set(ctx,key,data,time.Hour)// 寫新緩存}零點(diǎn)活動(dòng)前運(yùn)營(yíng)手動(dòng)觸發(fā)了一次刷新。刪緩存和寫緩存之間200ms空窗幾萬(wàn)個(gè)請(qǐng)求全打到數(shù)據(jù)庫(kù)連接池瞬間打滿服務(wù)雪崩。修復(fù)用邏輯過(guò)期代替物理過(guò)期。緩存不設(shè)TTL在value里存過(guò)期時(shí)間字段。讀到過(guò)期時(shí)間到了異步刷新緩存當(dāng)前請(qǐng)求返回舊數(shù)據(jù)。// 邏輯過(guò)期方案:緩存不設(shè)TTL過(guò)期判斷在應(yīng)用層typeCacheItemstruct{Data[]byte// 實(shí)際數(shù)據(jù)ExpireAt time.Time// 邏輯過(guò)期時(shí)間}funcgetWithLogicalExpire(ctx context.Context,rdb*redis.Client,productIDstring)([]byte,error){key:fmt.Sprintf(product:%s,productID)val,err:rdb.Get(ctx,key).Result()iferrredis.Nil{returnloadAndCache(ctx,rdb,productID)// 緩存不存在加載}varitem CacheItem json.Unmarshal([]byte(val),item)// 邏輯過(guò)期沒到直接返回iftime.Now().Before(item.ExpireAt){returnitem.Data,nil}// 過(guò)期了但數(shù)據(jù)還能用異步刷新當(dāng)前請(qǐng)求返回舊數(shù)據(jù)gofunc(){lockKey:fmt.Sprintf(lock:%s,key)ifok,_:rdb.SetNX(context.Background(),lockKey,1,30*time.Second).Result();ok{loadAndCache(ctx,rdb,productID)rdb.Del(context.Background(),lockKey)}}()returnitem.Data,nil}funcloadAndCache(ctx context.Context,rdb*redis.Client,productIDstring)([]byte,error){product,err:queryProductFromDB(productID)iferr!nil{returnnil,err}data,_:json.Marshal(product)item:CacheItem{Data:data,ExpireAt:time.Now().Add(time.Hour)}itemData,_:json.Marshal(item)rdb.Set(ctx,fmt.Sprintf(product:%s,productID),itemData,0)// TTL設(shè)0表示永不過(guò)期returndata,nil}邏輯過(guò)期的核心是緩存永不過(guò)期(物理層面)過(guò)期判斷在應(yīng)用層。過(guò)期后返回舊數(shù)據(jù)加異步刷新用戶感知不到延遲。代價(jià)是短時(shí)間內(nèi)返回舊數(shù)據(jù)強(qiáng)一致性場(chǎng)景不適用。五、對(duì)比分析問(wèn)題現(xiàn)象原因解決方案緩存穿透查不存在的數(shù)據(jù)每次打到DB數(shù)據(jù)不存在緩存無(wú)法命中緩存空值、布隆過(guò)濾器緩存擊穿熱點(diǎn)key過(guò)期瞬間DB壓力驟增單個(gè)熱點(diǎn)key過(guò)期并發(fā)涌入互斥鎖、singleflight、邏輯過(guò)期緩存雪崩大量key同時(shí)過(guò)期或Redis宕機(jī)過(guò)期時(shí)間相同、Redis故障隨機(jī)TTL、多級(jí)緩存、熔斷降級(jí)三個(gè)問(wèn)題的區(qū)別在于規(guī)模和觸發(fā)條件。穿透是數(shù)據(jù)不存在擊穿是單key過(guò)期雪崩是批量key過(guò)期。穿透用布隆過(guò)濾器擊穿用singleflight雪崩用隨機(jī)TTL加多級(jí)緩存。實(shí)際項(xiàng)目中三種方案經(jīng)常組合使用。總結(jié)與預(yù)告緩存策略的核心是減少數(shù)據(jù)庫(kù)壓力。布隆過(guò)濾器攔截不存在的請(qǐng)求singleflight合并并發(fā)請(qǐng)求隨機(jī)TTL和邏輯過(guò)期避免同時(shí)失效。熱點(diǎn)key一定要做特殊處理邏輯過(guò)期方案雖然會(huì)短暫返回舊數(shù)據(jù)但能保證服務(wù)不雪崩。下一篇我們換個(gè)數(shù)據(jù)庫(kù)講MongoDB在Go中的實(shí)戰(zhàn)操作。