免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

深入拆解ThreadLocal:線程隔離、弱引用、內(nèi)存泄漏與OOM排查

深入拆解ThreadLocal:線程隔離、弱引用、內(nèi)存泄漏與OOM排查 并發(fā)編程系列寫到這一篇前面的內(nèi)容基本都在圍繞一個詞打轉(zhuǎn)共享。鎖、原子類、并發(fā)容器本質(zhì)上都是想讓多個線程更安全、更高效地協(xié)作同一份數(shù)據(jù)。而ThreadLocal的思路是反著來的——既然共享這么容易出問題那干脆每個線程各存一份誰也別碰誰的。這個思路聽著簡單但背后牽扯到弱引用、內(nèi)存泄漏、線程池上下文傳遞一系列坑值得用一整篇來拆。ThreadLocal解決的是線程隔離問題不是并發(fā)原子性問題搞清楚這一點后面所有原理和實戰(zhàn)姿勢才立得住。這一篇我打算從最經(jīng)典的SimpleDateFormat翻車現(xiàn)場切入先讓你明白ThreadLocal到底解決了什么問題然后進(jìn)源碼拆一遍set/get/remove的完整鏈路重點講ThreadLocalMap的哈希設(shè)計和弱引用機(jī)制接著把內(nèi)存泄漏的形成鏈路徹底還原說清楚為什么線程池是重災(zāi)區(qū)再給出實戰(zhàn)層面的使用規(guī)范包括remove的幾種姿勢和上下文封裝思路最后記錄一次線上OOM排查實錄手把手走一遍jmap加MAT的定位流程。適合剛學(xué)并發(fā)編程的同學(xué)建立正確認(rèn)知也適合被ThreadLocal泄漏或臟數(shù)據(jù)坑過的人對照著排查。1. 從SimpleDateFormat翻車現(xiàn)場切入ThreadLocal到底解決了什么問題1.1 SimpleDateFormat在多線程下的崩潰如果你在Java后端寫過日期格式化大概率見過這個經(jīng)典事故一個SimpleDateFormat實例被多個線程同時調(diào)用parse()或format()結(jié)果日期串錯位、數(shù)字亂掉甚至直接拋NumberFormatException。private static final SimpleDateFormat SDF new SimpleDateFormat(yyyy-MM-dd HH:mm:ss); public String formatDate(Date date) { return SDF.format(date); // 并發(fā)調(diào)用時偶發(fā)錯亂 }根因不復(fù)雜SimpleDateFormat內(nèi)部維護(hù)了一個Calendar對象format()和parse()過程中要反復(fù)讀寫這個共享的Calendar。多個線程同時操作同一份可變狀態(tài)又沒有同步數(shù)據(jù)被互相覆蓋自然就亂了。你單獨跑單測永遠(yuǎn)復(fù)現(xiàn)不出來一壓測就現(xiàn)原形。1.2 加鎖、每次新建和ThreadLocal三條路的取舍解決這個線程安全問題通常有三條路。第一條是給format()加synchronized或使用ReentrantLock。這能保證正確性但等于把并發(fā)的日期格式化全部串行化。想象一個支付系統(tǒng)每秒鐘幾千筆訂單都要格式化時間所有請求擠在同一把鎖上性能損耗肉眼可見。第二條是每次調(diào)用都new SimpleDateFormat()。這條路避免了共享可變狀態(tài)但頻繁創(chuàng)建對象會增加GC壓力。雖然JIT的逃逸分析在部分場景能把對象優(yōu)化到棧上但依賴編譯器優(yōu)化本身不可靠尤其在對象構(gòu)造較重、調(diào)用頻繁時效果并不穩(wěn)定。第三條就是用ThreadLocal給每個線程緩存一個SimpleDateFormat實例private static final ThreadLocalSimpleDateFormat DATE_FORMAT ThreadLocal.withInitial(() - new SimpleDateFormat(yyyy-MM-dd HH:mm:ss)); public String formatDate(Date date) { return DATE_FORMAT.get().format(date); }每個線程第一次get()時通過withInitial創(chuàng)建自己的實例之后一直復(fù)用。線程之間互不干擾不需要加鎖也不存在頻繁創(chuàng)建對象的開銷。這也直接點出了ThreadLocal的核心定位給每個線程一份獨立的私有副本把共享問題轉(zhuǎn)化成隔離問題。方案是否線程安全并發(fā)度對象創(chuàng)建開銷代碼侵入synchronized加鎖安全低串行無額外對象低每次new實例安全高高依賴GC兜底低ThreadLocal緩存安全高每個線程僅一次中需注意清理1.3 ThreadLocal解決的是線程隔離不是并發(fā)修改不少初學(xué)者把ThreadLocal當(dāng)成線程安全的Map來用這是個危險的誤解。ThreadLocal并不保證你對某個對象內(nèi)部狀態(tài)的修改是原子的它只是讓每個線程看到不同的對象實例。你往ThreadLocal里放一個共享的ArrayList再讓100個線程同時往這個List里add那該出事還是出事因為List本身還是同一個。所以在實踐中ThreadLocal的典型場景是那種每個線程天然該有一份但又不方便作為參數(shù)層層傳遞的東西事務(wù)連接、用戶登錄上下文、traceId、請求級別的緩存、框架層面的上下文對象。Spring的RequestContextHolder、MyBatis的SqlSessionTemplate在底層都用ThreadLocal綁定當(dāng)前線程的資源。理解這點你才不會被后續(xù)的內(nèi)存泄漏問題帶偏思路——它存儲的本質(zhì)是線程級上下文而不是并發(fā)安全容器。2. ThreadLocal的源碼級拆解線程本地變量是怎么存進(jìn)去、取出來的2.1 每個線程都自帶了兩個Map字段很多人以為ThreadLocal是把數(shù)據(jù)存在ThreadLocal對象里這是錯的。真正存儲數(shù)據(jù)的地方是Thread類內(nèi)部的兩個字段threadLocals和inheritableThreadLocals??碕DK源碼里Thread.java的字段定義一目了然ThreadLocal.ThreadLocalMap threadLocals null; ThreadLocal.ThreadLocalMap inheritableThreadLocals null;每個線程對象自帶一個ThreadLocalMap。當(dāng)你調(diào)用ThreadLocal.set(value)的時候本質(zhì)是把當(dāng)前線程的threadLocals這個Map取出來往里面塞了一條記錄key是ThreadLocal對象自身value是你傳入的數(shù)據(jù)。不同ThreadLocal實例就是同一個線程Map里不同的key。所以線程隔離的準(zhǔn)確含義是數(shù)據(jù)分散存儲在各個線程自己的Map里而不是存在ThreadLocal對象上。inheritableThreadLocals則是給子線程用的后面講子線程傳遞時再細(xì)說。這里先記住getMap(t)方法本身沒做什么高深的事它就是返回t.threadLocals這個字段。很多人在看源碼時卡在這個方法上其實它就是個訪問器熱詞里那句threadlocal getmap指的就是這一步。ThreadLocalMap getMap(Thread t) { return t.threadLocals; }2.2 set、get、remove的完整調(diào)用鏈先看set()在JDK 8里的實現(xiàn)public void set(T value) { Thread t Thread.currentThread(); ThreadLocalMap map getMap(t); if (map ! null) map.set(this, value); else createMap(t, value); }流程很直白拿到當(dāng)前線程取出它的threadLocals如果Map已經(jīng)存在就直接往里放不存在就創(chuàng)建一個新Map并塞入第一條記錄。createMap內(nèi)部會new一個初始容量16的ThreadLocalMap并把當(dāng)前ThreadLocal和value作為第一個Entry放進(jìn)去。再看get()public T get() { Thread t Thread.currentThread(); ThreadLocalMap map getMap(t); if (map ! null) { ThreadLocalMap.Entry e map.getEntry(this); if (e ! null) return (T)e.value; } return setInitialValue(); }線程的Map存在并且能找到以當(dāng)前ThreadLocal為key的Entry就返回里面的value找不到就調(diào)用setInitialValue()——它會執(zhí)行initialValue()方法默認(rèn)返回nullwithInitial就是重寫這個方法把初始值塞進(jìn)Map再返回。remove()更直接public void remove() { ThreadLocalMap m getMap(Thread.currentThread()); if (m ! null) m.remove(this); }看到這里你應(yīng)該已經(jīng)發(fā)現(xiàn)一個關(guān)鍵點ThreadLocal的線程隔離能力完全建立在每個Thread對象內(nèi)部的Map之上。這意味著只要線程還活著它Map里所有的value都不會被自動釋放。這條結(jié)論是理解內(nèi)存泄漏的起點。2.3 哈希散列為什么ThreadLocal敢用線性探測硬扛沖突ThreadLocalMap底層是個Entry數(shù)組初始容量16負(fù)載因子是2/3。每個ThreadLocal實例在創(chuàng)建時都會通過一個全局的AtomicInteger累加得到一個threadLocalHashCode增量是那個著名的魔數(shù)0x61c88647源碼里叫HASH_INCREMENT。private final int threadLocalHashCode nextHashCode(); private static int nextHashCode() { return nextHashCode.getAndAdd(HASH_INCREMENT); }為什么要定這個增量它和黃金分割比例有關(guān)對應(yīng)的是斐波那契散列。簡單說0x61c88647能保證ThreadLocal的哈希值在數(shù)組長度是2的冪時均勻地散布在槽位上最大程度避免多個ThreadLocal擠在同一條探測序列上。你不需要深挖數(shù)學(xué)推導(dǎo)只要記住結(jié)論ThreadLocalMap的鑰匙分布是經(jīng)過精心設(shè)計的所以在ThreadLocal數(shù)量不多的前提下用開放地址法線性探測解決沖突就夠了不需要像HashMap那樣掛鏈表、轉(zhuǎn)紅黑樹。定位槽位的語句是這樣的int i key.threadLocalHashCode (table.length - 1);table.length永遠(yuǎn)是2的冪所以按位與等價于取模而且比取模快。如果槽位被占就往后找空位找的時候如果遇到key為null的過期Entry還會順手做清理。這套機(jī)制讓ThreadLocalMap在低沖突場景下性能非常好代價是它不適合存儲大量key——如果你在一個線程里new了幾百個ThreadLocal線性探測的性能就會明顯劣化。這也是為什么實戰(zhàn)規(guī)范里強(qiáng)調(diào)能復(fù)用的ThreadLocal盡量復(fù)用。3. 弱引用不等于安全ThreadLocal內(nèi)存泄漏的完整鏈路分析3.1 Entry的引用鏈key是弱引用value是強(qiáng)引用先看ThreadLocalMap.Entry的定義static class Entry extends WeakReferenceThreadLocal? { Object value; Entry(ThreadLocal? k, Object v) { super(k); value v; } }注意Entry繼承自WeakReference也就是說Entry本身是個弱引用引用的是key也就是ThreadLocal對象。而value字段是一個普通強(qiáng)引用。整條引用鏈畫出來是這樣Thread 對象 └─ ThreadLocalMap └─ Entry[] └─ Entry (弱引用 - ThreadLocal key) └─ value (強(qiáng)引用 - 你塞進(jìn)去的數(shù)據(jù))弱引用的語義是當(dāng)GC發(fā)生時如果一個對象只被弱引用指向沒有任何強(qiáng)引用它就會被回收。也就是說ThreadLocal對象一旦在業(yè)務(wù)代碼里失去外部強(qiáng)引用比如方法局部變量用完了GC就有資格回收它Entry的key就變成null。這看起來是個保護(hù)機(jī)制框架不知道業(yè)務(wù)什么時候不再需要ThreadLocal所以用弱引用保證ThreadLocal實例本身可以被回收。但value沒有這層保護(hù)。value是強(qiáng)引用只要Entry還在value就一直在。而Entry被線程的ThreadLocalMap持有ThreadLocalMap又被線程對象持有。只要線程還活著這條鏈就斷不開。3.2 泄漏的完整形成條件我見過很多人把ThreadLocal內(nèi)存泄漏簡單歸結(jié)為用了弱引用這其實是誤解。弱引用恰恰是為了避免ThreadLocal對象本身泄漏真正的問題出在value的強(qiáng)引用鏈上。一個完整的泄漏需要同時滿足三個條件ThreadLocal對象失去外部強(qiáng)引用。最常見的是在方法內(nèi)部直接new ThreadLocal()使用方法執(zhí)行完局部變量沒了ThreadLocal實例只剩Entry里的弱引用GC一發(fā)生就被回收。線程是長生命周期的。線程池里的worker線程、Tomcat的請求處理線程都是長期存活的只要線程不死它的ThreadLocalMap就一直在。沒有后續(xù)操作觸發(fā)清理。如果后面再也不碰這個ThreadLocalMap底層的expungeStaleEntry()清理邏輯永遠(yuǎn)不會執(zhí)行value就變成永遠(yuǎn)無法訪問但一直被強(qiáng)引用的垃圾。典型的業(yè)務(wù)場景長這樣public void handleRequest(Request req) { ThreadLocalbyte[] holder new ThreadLocal(); holder.set(new byte[1024 * 1024]); // 1MB // 業(yè)務(wù)處理... // 忘記remove方法結(jié)束后holder失去外部引用 }如果這個handleRequest被丟進(jìn)一個線程池執(zhí)行每個請求都new一個ThreadLocal并set入大對象那么每次請求都會在線程的Map里留下一個key為null、value為1MB數(shù)組的過期Entry。線程池線程不死這些Entry就永遠(yuǎn)躺在那里。QPS稍微高一點內(nèi)存漲起來非??臁?.3 線程池既是泄漏放大器也是臟數(shù)據(jù)制造機(jī)線程池把線程長生命周期這個條件放大了。普通線程執(zhí)行完一個任務(wù)就結(jié)束整個ThreadLocalMap隨著線程銷毀被回收根本談不上泄漏。但線程池的worker線程是復(fù)用的它們一直在等新任務(wù)threadLocals這個Map也跟著一直存活。線程池還會帶來第二個問題臟數(shù)據(jù)串線。假設(shè)你寫了一個登錄用戶信息上下文private static ThreadLocalUser currentUser new ThreadLocal();任務(wù)A里執(zhí)行了currentUser.set(userA)但忘了remove任務(wù)A跑完worker線程回到池子里待命。任務(wù)B被分配到同一個worker線程如果任務(wù)B的代碼路徑在某個分支沒有主動set用戶信息它currentUser.get()讀到的就是用戶A的信息。輕則業(yè)務(wù)數(shù)據(jù)錯亂重則出現(xiàn)越權(quán)訪問。這類問題在代碼Review里很難發(fā)現(xiàn)因為它不是必現(xiàn)的完全取決于線程池把哪個任務(wù)分配給哪個worker。所以在線程池場景下ThreadLocal的正確用法不是用完等GC而是用后必須remove甚至要在任務(wù)最外層做防御性清理。3.4 ThreadLocalMap的兜底清理機(jī)制能救命但不能依賴JDK的設(shè)計者當(dāng)然知道這個坑所以ThreadLocalMap在幾個關(guān)鍵操作里內(nèi)置了清理邏輯set()時如果發(fā)現(xiàn)相同key的Entry會用新值覆蓋并對探測路徑上的過期Entry做清理get()未直接命中時會在getEntryAfterMiss()里線性向后找遇到key為null的Entry會調(diào)用expungeStaleEntry()把value置null、槽位置空rehash()時也會先全面清理再擴(kuò)容。這套機(jī)制確實能在很多情況下兜底比如你反復(fù)set同一個ThreadLocal舊的過期Entry大概率會被順帶清掉。它的問題是一切清理都必須由后續(xù)的set/get/remove操作觸發(fā)。如果線程執(zhí)行完任務(wù)后長時間閑置沒有任何關(guān)于這個Map的操作過期Entry就一直靜止在內(nèi)存里。你指望GC救你但GC根本碰不到value——它有一條完整的強(qiáng)引用鏈。結(jié)論很明確底層清理是優(yōu)化不是保障業(yè)務(wù)側(cè)的remove()才是唯一靠得住的釋放手段。4. 實戰(zhàn)守則如何正確使用ThreadLocal而不埋雷4.1 remove是底線三種清理姿勢先說最基礎(chǔ)的姿勢也是我要求團(tuán)隊必須遵守的用完之后在finally里remove無論正常返回還是拋出異常都必須執(zhí)行。private static final ThreadLocalString TRACE_ID new ThreadLocal(); public void process() { try { TRACE_ID.set(generateTraceId()); doSomething(); } finally { TRACE_ID.remove(); } }為什么必須在finally而不是在方法末尾因為方法中間拋了異常末尾的remove根本執(zhí)行不到然后殘留值就留在線程里了。線上拋異常是常態(tài)不是意外。很多泄漏就是在某個異常分支里漏掉了清理。第二種姿勢是在框架的攔截器或過濾器中統(tǒng)一清理。以Spring Web應(yīng)用為例如果你需要請求級的上下文更推薦用HandlerInterceptor的afterCompletion方法public class TraceIdInterceptor implements HandlerInterceptor { Override public void afterCompletion(HttpServletRequest request, HttpServletResponse response, Object handler, Exception ex) { TraceContext.clear(); // 內(nèi)部調(diào)用ThreadLocal.remove() } }Filter或者Interceptor的好處是入口和出口都在框架層面業(yè)務(wù)代碼不需要在每個方法里try-finally漏清理的概率大大降低。第三種姿勢是封裝成AutoCloseable配合try-with-resources使用public class AutoThreadLocalT extends ThreadLocalT implements AutoCloseable { Override public void close() { remove(); } }這種寫法適合那種只在單個方法里臨時用的場景代碼會更緊湊但我個人更推薦前兩種——因為try-with-resources要求每個用到的代碼塊都正確寫語法而Filter/Interceptor是集中式治理對團(tuán)隊更友好。4.2 static修飾符到底該不該加這是一個經(jīng)常被問到的點。結(jié)論分兩種情況。如果ThreadLocal是Spring單例Bean的成員變量那實例只有一份ThreadLocal對象長期存活相當(dāng)于static。這種情況下用不用static修飾影響不大但為了語義清晰統(tǒng)一用private static final。真正危險的是在短生命周期對象里持有ThreadLocal。比如一個每次請求都new的Helper類里面定義了一個實例字段ThreadLocalString holder。Helper對象在請求結(jié)束時失去引用ThreadLocal對象也失去強(qiáng)引用GC把這key回收后Map里就剩一個value還在。如果這個請求跑在線程池里下次任務(wù)又new一個新的Helper、新的ThreadLocalMap里的過期Entry持續(xù)累積。這種寫法是我在代碼Review里看到最多的隱性雷。所以我的建議是ThreadLocal實例能定義為static final就優(yōu)先static final。它不會讓你少寫remove但能避免ThreadLocal對象本身被GC回收導(dǎo)致value失聯(lián)這條更隱蔽的泄漏路徑。4.3 統(tǒng)一封裝上下文工具類把ThreadLocal關(guān)進(jìn)籠子業(yè)務(wù)代碼里散落使用ThreadLocal最大的問題不是語法錯誤而是管理混亂。今天你在A服務(wù)里set了個用戶ID明天B服務(wù)也想用又不好意思改A的代碼于是自己又new了一個ThreadLocal。線程Map里的key越來越多清理也越來越不徹底。我建議每個項目針對線程級上下文做統(tǒng)一封裝。比如這樣一個TraceContextpublic final class TraceContext { private static final ThreadLocalString TRACE_ID new ThreadLocal(); private TraceContext() { } public static void setTraceId(String traceId) { TRACE_ID.set(traceId); } public static String getTraceId() { return TRACE_ID.get(); } public static void clear() { TRACE_ID.remove(); } }然后在整個調(diào)用鏈的最外層——Filter、Interceptor、或者異步任務(wù)的入口——統(tǒng)一調(diào)用setTraceId統(tǒng)一在finally里調(diào)用clear。業(yè)務(wù)代碼只通過靜態(tài)方法讀寫不需要知道底層的ThreadLocal長什么樣。這樣做還有一個好處以后想換成TransmittableThreadLocal只需要改這一個類不用滿項目找散落的ThreadLocal.set/get。4.4 子線程與線程池的變量傳遞InheritableThreadLocal的局限和TTL的解法很多場景需要把父線程的上下文傳到子線程比如異步任務(wù)里記錄traceId。JDK提供的原生方案是InheritableThreadLocal。它的實現(xiàn)原理是父線程創(chuàng)建子線程時把父線程的inheritableThreadLocals里的Entry復(fù)制一份給子線程。注意是創(chuàng)建線程那一刻的快照而且這個復(fù)制是淺拷貝——如果value是可變對象父子線程持有的是同一個引用并發(fā)修改照樣有競爭問題。InheritableThreadLocal最大的局限在于線程池。線程池的worker線程不是每次任務(wù)都新建的它早在提交任務(wù)之前就創(chuàng)建好了。父線程想傳值給worker線程根本不觸發(fā)線程創(chuàng)建過程InheritableThreadLocal完全無效。而且即使你第一次提交任務(wù)時值傳過去了下次提交新值也不會更新因為worker線程不會再走創(chuàng)建線程復(fù)制這條路徑。這個場景下業(yè)界更常用的方案是阿里開源的TransmittableThreadLocal簡稱TTL。它的思路是在任務(wù)提交時捕獲當(dāng)前線程TTL值的快照任務(wù)真正執(zhí)行前把快照回放到執(zhí)行線程上執(zhí)行結(jié)束后恢復(fù)執(zhí)行線程原有的值。使用方式很簡單ExecutorService executor TtlExecutors.getTtlExecutorService(executorService); executor.submit(() - { // 這里能正確讀到提交任務(wù)時的上下文 });不引入依賴包的情況下你也可以自己包裝Runnable在run()前后手動set/remove實現(xiàn)思路和TTL一致提交時快照執(zhí)行前回放執(zhí)行后清理。只不過TTL把這個邏輯封裝好了還支持Java Agent方式自動透傳。如果項目里大量使用線程池且需要傳遞traceId、用戶身份這類上下文建議直接把TTL納入基礎(chǔ)設(shè)施。5. 一次線上OOM排查實錄如何定位到ThreadLocal泄漏5.1 現(xiàn)象老年代持續(xù)上漲但GC后回不去之前接手過一個異步處理服務(wù)現(xiàn)象很典型JVM老年代使用率從啟動后一路爬升Full GC之后也只是從95%降到80%很快又漲回去。接口響應(yīng)時間越來越長最后每天固定OOM一次只能靠重啟續(xù)命。第一反應(yīng)肯定是先看GC日志和內(nèi)存曲線。用jstat看一眼jstat -gcutil pid 1000輸出里重點觀察FGCFull GC次數(shù)和O老年代使用率。如果YGC很頻繁、FGC也在持續(xù)增長但老年代使用率始終處于高位說明堆里有大量對象無法被回收。這時候就要考慮是不是有對象被長生命周期對象比如線程、類加載器、緩存持有形成了事實上的泄漏。值得提醒的是不要一看內(nèi)存高就無腦調(diào)-Xmx。調(diào)大堆只會推遲OOM時間不會解決問題。正確步驟是把堆dump下來看對象構(gòu)成。5.2 用jmap導(dǎo)出堆快照再用MAT定位可疑對象低峰期用jmap導(dǎo)出堆快照jmap -dump:live,formatb,fileheap.bin pid注意live參數(shù)會先觸發(fā)一次Full GC生產(chǎn)環(huán)境盡量在業(yè)務(wù)低谷操作或者改用jcmd pid GC.heap_dump heap.bin。dump文件通常很大本地用MATMemory Analyzer打開。打開后先看Histogram直方圖按retained heap排序。在這個服務(wù)里我很快就看到了一個熟悉的自定義類RequestContext有幾萬個實例retained heap占了差不多1GB。這個類為什么會單例持有那么多實例肯定是被某個容器類緩存了。接下來右鍵這個類選擇List objects - with incoming references看看引用它的是什么。你會看到大量引用來自java.lang.ThreadLocal$ThreadLocalMap$Entry這就基本鎖定方向了這些對象都被ThreadLocalMap里的Entry強(qiáng)引用著。5.3 順著GC Roots路徑確認(rèn)是ThreadLocal鏈確認(rèn)這一步需要右鍵對象選Path to GC Roots - exclude weak references。如果之前看過一遍ThreadLocal的引用鏈此刻再看這條路徑會非常清晰Thread (worker線程) └─ ThreadLocalMap └─ Entry[ ] └─ Entry └─ value (RequestContext實例)路徑里能看到Thread對象是GC Roots因為線程池里的worker線程都活著正等著新任務(wù)。順著路徑往下還會發(fā)現(xiàn)一個關(guān)鍵細(xì)節(jié)很多Entry的key已經(jīng)是null了。這說明ThreadLocal對象本身已經(jīng)被GC回收但value還躺在Entry里。這就是典型的key弱引用被回收、value強(qiáng)引用殘留的泄漏形態(tài)。如果只看Entry數(shù)量還不足以定位到代碼就再切到線程棧視圖把目標(biāo)Thread的線程棧打出來看看這個線程最近在執(zhí)行什么業(yè)務(wù)然后回代碼里找這個業(yè)務(wù)鏈路上的set()調(diào)用。我當(dāng)時就是從worker線程綁定的任務(wù)名一路追到一個公共的異步切面發(fā)現(xiàn)在切面里為了記錄traceId每次請求都new ThreadLocal()set完之后沒有remove方法結(jié)束ThreadLocal失去強(qiáng)引用剩下的value就全留在線程池線程的Map里了。5.4 修復(fù)與驗證一行remove解決幾百MB內(nèi)存修復(fù)方案很簡單把那個切面里的new ThreadLocal改成靜態(tài)常量并在finally塊里調(diào)用remove()。public class AsyncTraceAspect { private static final ThreadLocalString TRACE_ID new ThreadLocal(); public Object around(ProceedingJoinPoint point) throws Throwable { try { TRACE_ID.set(buildTraceId()); return point.proceed(); } finally { TRACE_ID.remove(); } } }改完之后再用jmap導(dǎo)一次堆用MAT對比修復(fù)前后的對象數(shù)量。最直觀的驗證指標(biāo)有兩個一是RequestContext的實例數(shù)從幾萬降到了和線程數(shù)同一量級二是老年代使用率在幾次Full GC后穩(wěn)定在30%左右不再持續(xù)爬坡。這個效果不是靠調(diào)參數(shù)調(diào)出來的是真正把引用鏈斷了。排查過程中還有一個容易忽略的點如果你在MAT里用exclude weak references查不到GC Roots路徑不要慌。key為null的Entry本身已經(jīng)斷開了對ThreadLocal的引用MAT的弱引用排除規(guī)則可能導(dǎo)致路徑不顯示。這時候換include all references再查或者直接在Dominator Tree里找ThreadLocalMap通常能看到完整的引用鏈。這次排查給我留下的最深印象是ThreadLocal泄漏很少是單個大對象的問題更多是業(yè)務(wù)對象被線程池線程長期持有的組合問題。你單看每個對象都不算大但線程池有幾百個線程每個線程攢幾百個過期Entry就是幾百MB甚至上GB的垃圾。它在代碼Review階段極難發(fā)現(xiàn)因為所有set/remove分散在各個方法里沒有一個集中的審視點。這也是為什么我會在前面的實戰(zhàn)部分反復(fù)強(qiáng)調(diào)統(tǒng)一封裝和攔截器清理——線上少踩一個坑比事后排查輕松太多。最后分享一個我個人的習(xí)慣線上服務(wù)里如果需要排查ThreadLocal相關(guān)的問題除了jmap和MAT也可以用Arthas的watch命令觀察某個上下文類的set和remove調(diào)用次數(shù)。如果發(fā)現(xiàn)set被瘋狂觸發(fā)但remove幾乎不觸發(fā)那基本不用dump堆也能判斷問題出在哪了。這套組合拳下來ThreadLocal這個線程私有的小籠子在你手里就不再是黑盒了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产性爱一级| 丁香五月91| www.久久久久久久久久.com| 99热在线看| 五月综合久久| 激情綜合網址| 情婷婷五月天| 六月丁香婷婷综合狠狠爱夜夜爱| 狠狠草狠狠草| 国产欧美日韩性爱| 草榴视频网| 欧美在线干| 麻豆科斗777| 1024在线观看免费视频| 少妇被下春药玩弄A片| 影音先锋777xfplay色资源网站| 亚洲色啪| 亚洲AV第二区国产精品| 色yeye欧美| 成人av免费观看| 这里只有免费的精品| 日韩 中文 欧美| 四川BBB搡BBB搡多人乱亂| 久久人人人人妻| 伊人9在线| 五月天激情综合| 亚洲AV日韩在线观看| 久热这里只有精品6| 欧美黑人大吊| 丁香五月婷婷色| 99热在线观看成人| 亚洲激情四射色| 五月婷婷啪啪啪| 五月天五月婷五月激情网| 91久久久久久久91| 成人色图情色成人网 www.5b5b5bcom 五月天 | 视频一二区| 日韩成人精品中文字幕| 五月婷婷啪啪| 天天色综网| 九九视频在线观看| AV五月婷婷露脸| 电影《战争与艾拉》免费观看| 婷婷激情四射网| seav天堂| 九97免费视频| 精品一区二区三区三区| 国产亚洲成人综合| 亚洲A色| 亚洲另类婷婷综合| 日本99热| 九九热视频首页/这里只有精品| 97碰成超视频免费视频| 综合性爱网| 2025超碰| 日本人妻操| 丁香五月婷婷啪啪视频| 丁香婷婷久久综合在线| 久久免费试看120秒| 婷婷丁香社区| 五月丁香综合久久夜夜| 婷婷天堂视频| 狠狠综合| 国产一区男女| 色丁香影院| 丁香五月婷婷综合网| 日韩狠狠色婷婷| 六月婷婷无码| 免费试看小视频 99| 欧美色狠婷久| 精品综合五月| 激情五月天婷婷丁香| 久久精品视频9| 六月色色婷婷| 99无码| 欧美超级视频97| 无码橾| 六月丁香色色| 裸睡玩奶头(高H)| 九九av| 光棍影院日韩精品| 丁香蜜臀黄色婷婷五月天| 狠狠爱综合网| 激情五月亚洲综合网| 五月天啪啪| 亚洲激情网| 久久丁香五月天| 久久婷婷精品| 五月激情网综合| 九九色综合视频| 色婷婷丁香香香蕉视频| 久久草大香蕉| 9热在线| 九九九九无码| 久青青久| 天天爽天天摸天天爱| 五月天久久91| 九九碰九九爱97超碰| 少妇出轨做爰高潮A片| av网站不卡在线| 婷婷五月丁香基| 色五月婷婷影视| 99热这里只有精| 91肏| 久久人人添人人爽添人人片αV| ww超碰在线| 久热中文字幕| 在线1青婷| 超碰成人免费| 视频1区2区| 狠狠色丁香久久久婷| 久久这里只有精彩| 色综合久久88色综合天天99| 26uuu国产| 丁香婷婷浪潮AV久久综合| 色综合中文色综合网| 成人精品一区二区三区四区五区 | 五月色婷| 亚洲国产网址| 色色网站免费观看| 丁香六月激情综合| 亚洲不卡| 丁香婷五月天开心六月| 五月丁香久久激情综合| 丁香六月av| WWW五月| 大香蕉九九| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | .精品久久久麻豆国产精品| 激情综合色婷婷啪啪五月天| 婷婷偷拍网| 色五婷婷| 久久人视频| 九九热这里都是精品6| 激情五月天婷婷丁香 | 久久免费9| 成人电影丁香六月天| 五月婷婷综合网| 色护士综合| 这里只有在线精品| 极品少妇高潮啪啪AV无码| 黄色片精品| 激情宗合网激情五月天| 人妻熟人中文字幕一区二区| 久久久久久草黄色片AV在线观看| 丁香六月激情综合| 色情五月天视频网| www.婷婷五月天| 国産精品| 亚洲天天操| 182TV大香蕉| 99性爱无码| 九九九色综合| 激情综合网丁香| 综合色播| 婷婷玖玖五月天| 欧美另类五月激情| 激情人妻蜜夜系列区| 激情五月天在线观看婷婷| 婷婷五月天伊人| 国模九区| 深爱激情五月婷婷| 亚洲色婷婷五月天| 操操国产| 丁香五月婷婷亚洲人| 玖玖五月丁香| 任你爽视频| 伊人玖玖婷婷| www.激情| 久久AAAA片一区二区| 色VA| 免费观看全黄做爰的视频| 99热 这里只有精品 国产 日韩| 99热99精品| 东京热免费视频网站| 亚洲AV色婷婷人禽五月天| 婷婷色色综合| 丁香五月婷婷五月天| 色玖玖网| 99久久网站| 成人一级片| 五月天丁香综合久久国产| 色婷婷综合综合网| 五月综合激情网| 丁香婷婷色五月| 99欧美| 五月婷婷黄色| 香港九九六区八区99| 三十路磁力链接| 久777| 日本色视| 第二色AⅤ| 99精品偷自拍| 激情五月综合亚洲另类| 热99精品视频观看| 毛片蕉地一二| 婷婷五月天av| 色婷婷激情| 日本激情91| 九九热视频在线观看| 婷五月天在线草| 26uuu成人网| 久久久久激情网| 色99视频| 9久操| 婷婷丁香色情| 亚洲免费99| 第四色五月婷婷| 这里只有精品免费| 久久久噜噜噜久久人妻| caopeng97日韩| 奇米四色五月天| 免费97碰碰| 婷婷激情五月天综合| 日韩一本操| 久久久久这里只有精品| 日本特黄aaaaa| 亚洲av电影在线| 国产avapp 网| 六月婷婷在线视频| 丁香五月 六月婷婷首页| 六月婷婷青青青视频| 久操婷婷| 天天爱天天操| 66精品成人免费网站在线观看| 99热欧美精品| 激情五月天婷婷播播久久综合91| 亚洲操操| 亚洲综合在线播放| 色色网站在线| 色五月六月婷婷| 综合AV在线| 色婷插| 99综合在线| 九九热精品视频九九| 色婷婷成人网| 久99久视频精选| 久久久精品人妻| 99热6这里只有精品| 天天久久人人| 超碰在线看| 国产婷婷五月| 91精品综合久久久久久五月天| 九九成人| 日本狠狠干| 综合色色婷婷| 色XX综合网| www.狠狠操.con| 99A级片| 五月丁香另类网| www.狠狠| 亚洲久热| 欧美性做爰大片免费看办公室| 色色色五月婷| www.色九月| 婷婷五月丁香伊人| 思思热久热| 人妻操逼| 丁香五月狠狠综合欧美| 亚洲色情激情丁香五月| 2023天天日夜夜爽| 五月天久久婷婷婷| 亚洲综合婷婷五月天| 美女五月天婷婷| 久9视频| 伊人9在线| 激情久久网 | 欧美天天搞| 国产精品成av人在线视午夜片| 天天日天天操心| 久久99热这里只有精品| 九九伊人网| 五月丁香成人| 久久伊人五月天| 可以看的AV| 九九99免费理论| 五月花婷婷| 五月丁香五月婷婷| 欧美大香蕉视频| 99A级片| 久草视频一,二三四| 五月丁香六月婷婷网| 亚洲视频图片婷婷五月| 日韩在线9| 激情综合五月| 大地资源色婷婷视频在线| 无码人妻精品一区二区蜜桃色欲| 麻豆AV一区二区三区| 青草视频在线观看视频| 色综合久久无码| 狠狠色丁香婷婷五月| 九九十99视频| 5月丁香综合网| 人人射av| 99啪啪网| 青青草视频免费观看| 丁香伍月婷电影全集| 黄色片avv| 色婷九九九| 91精品久久久久久久久久久久| 久久久999精品| 狠狠做五月| 欧美激情丁香五月天久久婷婷一区| 丁香六月 婷婷六月| 另类小说五月天激情| 99视频这里只有精品10| 婷婷亚洲综合| 青青草婷婷久久| 97资源欧美日韩大香蕉超碰一区| 热热久久久久久久久| 亚洲天堂aaa| 色综合九九色综合88| 五月丁香影视| 在线超碰91| 亚州精品色情无码A片| 午夜九九电影| 操碰99| 亚洲亚洲人成综合网络| 五月婷婷啪啪啪| 99热精品少| 深夜激情网| 日良久久| 久草五月婷| 五月丁香六月在线欧美| 婷婷五月天成人| 国产美女无遮挡裸体毛片A片| 日本天堂久久| 色色色.com| 日韩在线观看亚洲| 91狼友视频在线观看| 丁香伊人网| 小视频一区| 五月丁香香蕉| 久久综合播放| Www.激情| 91九九九九九九| 丁香五月,开心五月,成人婷婷| 婷婷亚洲色| 丁香五月成人| 色欲九区| 日本WWW九九九| 日本不卡高字幕在线2019| 91色色色18| 激情五月色综合| 丁香五月婷久久| 久久一操| 丁香五月激情啪啪| 色五月色开心开心五月| 精品少妇人妻AV无码专区偷人| 久久99激情| 亚洲爆乳无码精品AAA片蜜桃| 123草逼网| 激情美女五月天激情在线| www色五月| 操人精品| www.yw色| 99热天堂| 国产精品久久..4399| 影院久久久| 欧洲日韩一区二区三区| 任你躁XXXXX麻豆精品| 久久9视频| 色婷婷六月| 夜色.cnm| 五月婷在线观看| 九九久久久综合| 丁香六月天色婷婷| 9视频在线成人网站| 九九热欧美| XX久久| 538任你爽视频不一样的| 婷婷五月天成人网站| 色色色色色色色色色影院| 欧美综合激情五月丁香| 五月激情四射网站| 激情五月天激情小说| 五月天婷婷激情六月久久| 狠狠狠狠狠草| 色黄啪啪| 性色婷婷| 六月色日韩| 97人人干人人操| 天天情天天狠天天透| 丁香五月婷婷在线| 99成人精品| 欧美色男人网站| 操一操| 婷婷丁香久久网| 天天婷婷| 天天爱天天做天天日| 五月大香蕉| 亚洲操操| 潘金莲AAAAAAAAAA| 99久久婷婷五月综合| 日日噜噜夜夜狠狠久久丁香六月| 色99视频| 日本成人噜噜噜| 91丨九色丨熟女丰满| 97香蕉久久超级碰碰高清版| 婷婷六月综合在线| 九九综合88| 久婷婷婷| www.lingjunshare.com| BT综合在线视频观看| 99色在线| 色婷婷亚洲五月天| 久久婷婷五月国产激情综合片| 麻豆AV一区二区三区| 狠狠狠五月婷婷六月丁香| 碰人人97| 亚洲中文字幕av| 丁香色情五月综合网站| 9久国产精品| 综合五月婷婷| 五月婷婷亚洲色视频| 9.1综合网| 亚洲亚洲人成综合网络| 91婷婷丁香五月| 丁香五月另类小说在线阅读| 亚洲午夜一区二区| 色婷婷中文| 成人综合视频在线| 99黄色| 国产免费一区二区三区三州老师F1F1.CC| 日日干天天| 五月婷婷久| 激情另类综合| 五月天婷婷激情四射综合| 欧美99| 丁香五月婷婷色播艳门照| 另类激情四射| 92久久久| 99精品国产在热久久| 激情啪啪五月| 亚洲天天| 色六月天| 激情婷婷五六月天| 久久激情视频| 任你擦免费视频| 91色色五月天| 中文字幕网伦射乱中文| 人妻22p| 日韩在线五月天婷婷| 婷婷五月69| 超碰97色| 丁香花综合永久入口| 日韩无码色色| 这里有精品| 综合网五月天123| 色五月婷婷久久| www.爱婷婷.com| 亚洲乱码日产精品BD| 色色色综合网| 99在线资源| 岛国AV网| 综合久久人妻| 综合九九| 婷婷五月天免费视频| 五月婷婷综合色啪首页| www。五月天。com| 九热视频这里只有精品| 天天干天天干天天干天天干天天| 婷婷丁香五月激情图片| 亚洲精品乱码久久久久久综合| 九九99九九99偷拍视频免费看| yiqicaoav| 五月天婷婷色播综合在线| 亚洲激情av| 俺去也五月| 婷婷欧美激情综合| 91人人网| 婷婷五月情| 开心激情网在线| 天堂久久精品| 91热在线| 狠狠操狠狠| 大香蕉啪啪网| 五月天综合在线| 丁香婷婷啪啪| 中字幕视频在线永久在线观看免费 | 亚洲五月丁香综合网| 亚洲天堂热| 久久婷婷五月综合色奶水99啪| 久久99久久久久久久噜噜| 天天视频精品9| 色色999三级片| 9久9久9久女女女九九九一九| 草榴成人影片| 日本久久超碰| 天天艹天天综合网| 天天噪夜夜爽| 操逼棍操逼| 天天日夜夜拍| 午夜色婷婷| 亚洲超碰在线| 欧美情色电影一区二区| 色婷婷亚洲综合网站| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 午夜精品人妻无码一区二区三区| 任你躁XXXXX麻豆精品| 狠狠爱青青草| 日韩精品超碰在线观看| 丁香五月天婷婷在线视频| 丁香 婷婷五月| 激情小说之五月| 人。妻久久| 中文字幕综合| 亚洲愉拍99热成人精品| 色色五月天婷婷丁香| 欧美一级色| 99色看这里只有精品| 色狠狠综合| 久久在线大香蕉| 五月天伊人网| 99精品九九| 九9九9无码| 丁香色五月直播| 六月色国内综合| 99激情视频| 人妻久久久久久久 | 丁香97综合| 五月婷婷色情| 激情五月综合网最新| 色三级色三级| 亚洲区在线| 91porn一起草| 欧美激情五月| 色婷婷在线视频| 久久久精品婷婷五月天| 永久的网站AAAA| 无码人妻一区二区三区免费九色| caop在线视频| 色黄啪啪| 婷婷五月丁香av网站| 五月情涩综合婷婷| 亚洲操B| 在线免费观看激情视频| 青青热久精品视频在线观看| 波多野结衣AV无码Porn| www.色色色com| 色婷久久| 丁香六月婷婷色播| 丁香深五月婷婷| 欧美在线97| 色综合日日| 操骚货在线| 光棍影院日韩精品| 色色网五月激情| 色色五月天婷婷| www、丁香五月天| 丁香婷婷十月| 99精彩视频网站在线| 欧美精品999| 五月婷婷av| 人人爽网| 加勒比色色| 狠狠做婷婷| www.com在线操视频免费观看| 亚洲成色综合网站免费观看| 五月婷婷成人| 久99| 大香蕉久久久久| 激情久久婷婷| 五月婷婷色五月| 99riAV成人在线视频| 九九综合视频在线观看| 99久久6| 亚洲熟女色| 激情六月婷婷| 欧美操综合| 中文字幕婷婷五月天在线观看| 婷婷综合网| 狼人婷婷综合| 成人版视频在线观看| 亚洲国产网站| 色欲午夜无码久久久久久张津瑜| 久久丁香婷婷五月| 丁香婷婷91在线观看视频| 欧美婷婷色五月网| 99热这里只有精品国产首页| 月丁香久久久| 激情丁香五月| 久99久在线| 97精品欧美91久久久久久久| 婷婷在线综合| 婷婷亚洲色| 九月激情网| 99re免费精品视频| 婷婷成人网五月天| 激情六月天| 五月丁香综合伦理片| 青青青在线视频国产| 99丁香五月婷| 婷婷丁香91综合| 99成人免费视频| 性爱五月婷| 久狠狠| WWW·色色色·COM| 五月婷婷av| 国产片天天爽夜夜爽| 无码色色色| 亚洲AV激情五月综合网| 六月丁香AV| 狠狠做深爱婷婷久久综合一区| 伊人9草在线观看| 欧美丁香五月| 久久网站观看免费欧洲国产| 亚洲无码影音| 99超级碰碰| 亚洲激情四射| 丁香六月婷婷色XXXX| 欧美激情综合五月色丁香| 激情人妻综合| 国产成人精品亚洲线观看| 色婷婷五月天小说网| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 成人婷婷色综合| 夜夜夜夜撸夜夜操| 婷婷五月天色| 大香蕉婷婷婷| 色狠狠综合| 涩涩涩婷婷| 久草嫩草在线观看| 婷婷色在线| 婷婷六月五月天综合| 超碰99资源站| 亚洲日本韩国| 丁香五月另类色婷婷麻豆| 妻久久久久| 四色五月视频| 久久精品99国产精品日本| 亚洲成人婷婷| 婷婷五月丁香高清无码| 91肏| av在线免费播放观看| 六月婷婷av| 五月色情网| 99久久97久久欧美综合网| 激情五月天网| 日日日日日| 久热这里只有精品6官网亚洲| 久久日婷婷| www.激情五月| 日韩精品一品二区三区的使用体验| 97丁香花五月天激情小说| 亚洲综合成人网站| 久久小说网| 伊人网碰碰| 人人草人人爱手机视频看看| 五月天色播网| 天天射天天干天插色综合| 国产一级片色色| av九九| 四月婷婷丁香五月| 久久机热思思热| 做爱夜夜干天天操| 操碰99| 精品九九婷婷| 乱乱av| 成人午夜无码视频| 九久9精品| 怡红院一二三| 亚洲丁香五月深爱五月| 这里只有精品视频222| 超碰在线网站| 大香蕉久久久久久久久| 操操操B| 国产FREESEXVIDEOS性中国| 99热播放| 五月婷婷五月天| 婷婷色色婷婷| 久久精热| 天天爽夜夜爽夜夜爽精品视频| 亚洲 小说 欧美 激情 另类| 成人婷婷深爱综合网| 99精品无码视频| 全高清无码视頻| www.日本91| 影音先锋91男人资源在线播放| 色婷网| 丁香激情网| www.97碰碰com| 91 欧美| 三级毛片视频| 婷婷5月久久综合网站| 国产美女无遮挡裸体毛片A片| 六月婷婷五月丁香| 大香蕉520| 久99久视频| 五月天激情影院| 丁香六月综合激情| 99久久久久| 色七七九九| 久久婷婷综| 99热超碰| 公的粗大挺进了我的密道| www.狠狠操| 欧美成人AAA片一区国产精品| 亚洲亚洲人成综合网络| 香蕉久久国产AV一区二区| 国产成人一区二区三区在线观看| 天天日中文| 91在线精品一区二区| 在线免费观看激情视频| 五月丁香激情综合啪啪| 六月婷婷色综合| 亚洲五月天第一综合干| 亚洲综合五月天综合| 亚洲综合在线丁香五月| 99成人免费热视频| 97热这里精品在线视频| www婷婷| 九九亚洲天堂| 91狼友视频网页更新| 色玖玖网| 久久xxxx| 六月婷色六月| 999久久久国产精品| 婷色五月天| 在线播放中文字幕| 男人的天堂99| 色情久久久| 综合99在线| 亚洲精品五月| aaa久久| 性一交一乱一交A片久| 伊人久久丁香五月91| 色婷九九九| 色五月丁香六月资源站| 操逼棍操逼| 超碰免费99| 激情五月图| 五月婷婷伊人久久| 久9久9久9久9久9久9| 欧美性做爰大片免费看办公室| 超碰在线资源| 免费视频舔| 深夜A片| 天天插天天插天天插天天插| 婷婷中文综合网| 久久久久9| 五月丁香六月花| 九九香蕉网| 九色综合五月天婷五月| 六月色婷婷色| 亚洲婷婷欧美婷婷| 国产人妻777人伦精品HD| 噜噜狠狠色综合久| 婷婷中文字幕版| 亚洲另类婷婷综合| 午夜在线成人网站免费观看| 丁香五月六月久久综合| 久草大| 99视频网址| 综合狠久久| 这里只有精品视频视频在线观看| 天天摸天天做天天爱天天爽| 亚洲V国产V欧美V久久久久久 | 二色av| 99热这里只有精彩| 亚洲日韩一页精品发布| 丁香五月综合久久| 久久精品66| 五月丁香六月| 97五月综合网| 青青草深爱激情网| 久久精品这里只有精品免费首页| 久久综合网桃花| 五月婷六月丁| 嫩BBB搡BBBB榛BBBB| 日韩黄黄| www.婷婷亚洲基地| 东北黄色一级| 另类五月激情| 久草热8精品视频在线观看| 婷婷天堂综合| 亚洲成人高清在线| 国产无人区大片| 99国产视频网| 香蕉久久五月| 日本熟女内射| 婷婷五月天 丁香五月天 裸体| 第四色色六月色综合| 久久久香| 五月婷婷激情久久| 991精品在线视频| 激情久久网 | 成人在线不卡| 噜噜噜狠狠色综| 另类精品视频在线观看| 人人干99| 久久婷婷色| 日本久久婷婷| 精品激情| 精品九九在线观看视频| 久久久久久久久久8888| 综合五月丁香久久| 欧美精品99久久久| 欧美激情丁香五月天久久婷婷一区| 激情婷婷五月天| 天天做天天视天天谢| 99热最新网址| 日韩狠狠色婷婷| 99在线精品免费视频| 色亚洲婷婷| 欧美情色电影一区二区| 天天日天天日天天搞| 婷婷五月天综合久久日| 婷婷丁香五月综合激情视频| 久久日九九| 激情综合国产| 久久66er久久| 疯狂做受XXXX高潮A片| 亚洲激情综合五月婷婷啪啪| 国产超碰av| WWW,五月| 9久热免费视频99| 国产激情综合五月久久| 思思热99er在线视频| 婷婷丁香成人| 99热99热不卡| 全高清无码视頻| 26uuu日韩| 色情五月天se| 日韩五月婷婷| 五月天婷婷色综合| 麻豆123区| 日都一级A片| 97人人射| 99热这里只有精品1998| 欧美WW在线网| 激情综合五月天| 久久久久综合激动五月天| 日日夜夜小色哥| 五月丁香啪。| 996热| 狼人婷婷综合| 亚洲综合丁香婷婷六月天| 91狼友视频在线观看| 丁香五月先锋| 亚洲在线激情婷婷五月| 91人人爽人人操| 国产免费AV网站| 一本道综合网| 亚洲成人网站在线播放| 久久久久久人妻| rr天天操| 五月丁香六月日逼| 五月丁香婷婷啪啪综合| 天天日天天舔| 99视频在线观看网址| 激情四射五月天偷偷看婷婷| 激情网五月天| 婷婷狠狠18禁久久| 无码婷婷五月天| 99网址在线看| 激情婷婷99| 成人在线日韩| 狼友超碰| 丁香五月区| 色七色九九| av无码电影| 色婷婷网大全在线| 亚洲五月花| 色色a| 俺也去综合| 婷婷激情小说网| 五月婷中文娱乐综合| 五月婷婷啪啪| 99热主页日本| 色亚洲激情| 丁香五月aV| 超碰精品在线| 激情无码网| 拍色综合| 人人人操 超碰| 五月丁香六月婷婷网| 丁香六月婷婷综合缴| 青青草日本亚洲| 五月婷婷伦理| 激情婷婷色色| 欧美图片丁香五月天| 亚洲妇女熟BBW| 婷婷五月激情图片| 可以看的av| 婷婷色av| 婷婷五月天激情综合深爱| 99热这里在线精品| 九九99九九99偷拍视频免费看| 26uuu色五月| 欧美情色电影一区二区| 99热这里| 丁香婷婷基地| 五月天大香蕉| 99ri国产在线| 九九大香蕉黄色影院| 综合色色色色色色| 色五月亚洲开心网| 天天操夜夜爽| 天天天天天天天操| 小视频一区| 激情五月六月丁香| 五月丁香婷婷啪啪综合网| 婷婷婷色五月| 深爱激情AV| 婷婷丁香高潮了| 婷婷激情五月天天天开心| 亚洲久热| 天天肏屄夜夜爽| 激情五月天综合网站网站网站| Www99热| 六月婷婷综合激情| 午夜激情综合| 久久丁香五月综合六月激情红杏视频| 五月天婷婷影院| 97久久超碰| 天天综合网91| 国产 码在线成人网站| 啪啪色激情五月天| 69堂午夜视频最新地址| 人人爱天天摸摸天天爱| 青青福利网| 色情五月停停丁香| 性生活久久人妻| 五月激情六月综合| 综合色影院| 久九色| 丁香五月成人网| 国产精品99久久久久久久女警| 中字幕视频在线永久在线观看免费 | 秋霞九九无码| 婷婷综合九月| 大天天伊人| 中文字幕在线日亚洲9| 性色播| 狠狠狠五月婷婷六月丁香| 99热这里只有精品18| 99色综合| 天天弄天天操| www.seqingwuyuetian| 性爱五月婷| 欧美色99| 国产日日夜夜操| 色综合激情| 无码色| 日本天天色| 操日本99| 久色网址| 操逼在线视频| 91大屁股精品| 五月丁香六月婷| 九九精品免费视频99| 性爱激情五月| 色吧五月婷婷| 亚洲 无码 中文字幕 中出| 夜夜干夜夜操| 五月天色丁香| 丁香婷婷五月激情四射网| 日本三久久| 五月激情精品视频| 5五月综合网亚洲| 丁香五月成人社区| 九月色婷婷婷| 亚洲无码成人网| 色五月天本日| 美女五月天| 美女被肏网站在线看| 久久精彩免费视频精彩免费视频| 深爱激情av| 香蕉综合在线| 97夫妻超碰| 99热99久久| 99爱免费视频在线观看| 日本精品99网站| 五月伊人91| 狠狠大香婷婷爱| 99精品亚洲| 婷婷五月婷婷| 色吊丝永久访问网址| 天天操夜夜玩!| 婷婷丁香成人| 久热爱大香蕉在线蜜臀悦色| 五月天婷综合网站| 99色在线观看视频| 日本少妇裸体做爰高潮片 | 色愛综合网| 五月婷综合网| 91人妻PORNY九色大屁股| 色色色色区| 五月丁香婷婷伊人| 免费黄色片子| 丁香五月网址| 噜噜狠狠色综无码久久合欧美| 综合激情视频| 91狠狠色丁香| 五月丁香六月欧美综合网站| 99精品国产在热久久| 91九色精品女同系列| 热99在线| 五月停视频天堂| 丁香六月AV| 精品99在线| 91九色无码内射| 天天射天天射一道本日本社区| 天天色播| 久久精彩综合视频| 大香蕉婷婷五月| 色噜久| 九九热视频精品| 婷婷丁香日韩五月| 色综合久久88色综合天天人守婷| 久久香蕉影院| 青青久久大香蕉| 综合婷婷五月丁香在线观看| 五月婷婷色在线| 婷婷精品在线| 成人无码精品1区2区3区免费看 | 超碰人人在线| 久久五月激情| 91婷婷色 | WWW.夜夜| 久久性都花花世界成人免费视频| 精品色色网| 亚洲经典三级| 亚洲色情一区二区三区四区| 开心五月婷婷| 插插干干干色| 午夜丁香| 婷五月丁香俺| 99视频内射三四| 狠狠操.com| 色五月激情网| 2025最新亚洲激情在线| 国产69久久久欧美黑人A片| 婷婷五月天.com| 草草夜夜操| 狠狠xx| www.婷婷六月天| 操操啪| 六月丁香射婷婷欧美色图片| 国产一区二区三区影院| 狠狠干思思热| 97碰人人操| 亚洲中文字幕av| 色五月婷婷、老熟女| 青青草婷婷五月天| 婷婷五月天成人小说| 4438成人电影| 五月婷婷六月丁香| 99啪啪视频| a在线观看| 五月天婷婷激情春色小说| 国内9l视频自拍老熟女九色| 日本五月婷婷| 原琪琪色影院| 日日干天天| er99免费视频在线| 色婷婷激情五月天丁香| 五月婷亚洲精品| www.com亚洲网站在线免费| 亚洲AV综合在线观看| 欧日美女Va| 99在线视频。| 99久在线精品99re8| 久久五月激情| 婷婷五月天开心网| 麻豆123区| 五月婷婷日| www.91色| 日撸夜撸日操| 色婷婷免费视频| 日本色婷婷| 日日操日日撸| 婷婷五月天受日本法律保护| 岛国AAAV| 伊人久久婷婷| 亚洲精品五月| 久久婷婷五月综合色奶水99啪| 婷婷五月色| 五月丁香天堂网| 香蕉综合网| 久9综合| 超碰亚洲天堂| 开心五月婷| 91超碰在线观看| 新激情婷婷| 国产 亚洲 在线| 狠狠操狠狠狠| 色综合久久天天综合网| 天天色综网| 91精品久久久久久综合五月天| 五月天激情Av| 五月婷精品| 蜜桃婷婷丁香综合久久开心亚洲| 亚洲旡码| 五月综合激情婷婷六月色窝| 九九热最新地址| 激情丁香五月婷| 久久久久久久久久久月丁| 欧美激情综合| 婷婷丁香五月,狠狠综合| 国产精品久久..4399| 九月色婷婷综合亚洲| 婷婷日欧美在线观看| 色综合久久88色综合天天人守婷| 9久久AV| 老妇六区| 日韩啪啪网| 婷婷五月激情丁香| 婷婷丁香五月精品| 五月天天堂久久| 婷婷五月综合色小姐小说| 色9999日韩国产| 操逼巨乳91| 夜夜爽日日躁| 色色色777| 色综合中文色综合网| 亚洲AV无码成人电影| 九九AV| 欧美久热| 人妻久久婷婷| 精品色| 一区二区三区四区无码| 色五月涩涩婷婷蜜桃| 五月玖玖| 丁香五月网| 久在线综合69| 色综合久久久无码中文字幕999| 8区视频在线| 狠狠做深爱婷婷久久综合一区| 六月丁香婷婷开心综合基地| 亚洲五月丁香综合网| 九九色综合网| 激情亚洲婷婷| www.97干视频| 69精品人人人人人人| www.夜夜爱.com| 日本女色人人| 亚洲日韩久久婷婷伊人| 九九操屄| 91色呦哟| 99草在线免费观看视频| 4438全国最大视频成人网站在线观看| 精品成人在线| 真实熟女-91九色| 99色免费| 丁香婷婷婷五月综合色情| 香蕉网久久| 97久久超碰| 丁香五月婷婷综合视频| 色色色99韩| 丁香婷婷久久老熟女综合网| 99免费视频在线观看爱| 欧美狠狠地| 日本婷婷| 婷婷丁香色五月| 婷婷五月色天| 97色婷婷| 婷婷丁香综合在线| 大香蕉啪啪啪啪啪啪| w婷婷五月婷婷w| 婷婷色五月婷婷姐妹| 操操操av| 丁香六月无码播放| 亚洲精品视频电影| 亚洲AV网站| 亚洲成av人影院| 97亚洲精品| 六月婷色| 激情六月下句是什么| 狠狠五月天激情| 久久久久久久人妻| 91操片| 天天做天天爽| www.久久久久久久久久.com| 男人天堂AV在线一区二区| 亚洲超碰在线| 日本激情五月| 色五月激情| 六月激情综合| 玖玖综合色区在线观看| 超碰高清在线| 99热精品少| 婷婷五月六| 久热九九| 天堂网操| 九九热这里只有精品556| 激情小说之五月| 99操视频| 色色色色色色色色五月先| 伊人五月天| 1囯产午夜仑鲁鲁| 天堂资源欧日浪女在线播放| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 91男同视频| 91成人看片| 亚洲九九九九| 丁香婷婷视频在线| 五月综合色| 色玖玖综合| 丁香六月婷婷缴情欧美| 99热在线观看免费精品| 99re在线播放| 九热视频在线精品15| 狠狠干天天内射| 婷婷综合成人| 欧美A级成人婬片免费看理论| 九九人人看| 亚洲激情视频网| 九九九九毛片| 男人的天堂婷婷色五月| 9久视频| 午夜色丁香| 亚洲综合另类| 欧美日韩国产伦精品日韩人妻一| 五月色丁香婷婷中文字幕| 午夜免费试看| 日本成人内射| 激情伍月 欧美| 大香蕉av在线| 五月天久久小说| 亚洲五月六丁香激情| 91精品久久久久久久| 久热伊人在91| 色婷婷五月天天天天天| 色噜噜狠狠色综合网| 热99热久| 99热这里只有精品23| 五夜婷婷| 色婷婷AV在线| 亚洲成人在线五月天| 五月婷婷激情综合| 丁香五月成人| 色婷婷久久综合| 伊人综合色干| 丁香婷婷婷五月| www五月婷婷| 五月丁香啪啪激情| 婷婷五月丁香综合| 超碰97免费在线| 开心激情婷婷| 人人操人人看97干| 开心五月婷婷99| 人妻无码视频网| 丁香伊人激情| 亚洲综合色色色| 色噜噜97视频在线观看| 久久婷婷五月天蜜桃| 婷婷丁香综合在线| 操嫩逼电影| 69超碰在线| 99在线视频精品| 亚洲精品V天堂中文字幕| 久久五月天激情美女| 婷婷色色网| 狠狠舔| 五月丁香啪啪啪| 婷婷五月色播网| 天天干天天插| 97五月天婷婷午夜| 五月婷婷婷婷| 在线观看熟女少妇| 中文字幕成人| 极品 少妇 内射| 思思久久99热只有频精品66| 丁香伊人综合|