免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Caveman調(diào)試法:一行print解決線上疑難問題的基礎(chǔ)功底

Caveman調(diào)試法:一行print解決線上疑難問題的基礎(chǔ)功底 1. Caveman調(diào)試到底在說什么被低估了三十年的基本功1.1 從一次線上事故說起上個月我們有個服務(wù)線上偶發(fā)卡頓P99延遲每隔半小時就飆一下持續(xù)時間不長也就兩三秒但下游投訴不斷。我們一群人圍著監(jiān)控面板看了兩個小時懷疑了GC、懷疑了連接池、懷疑了網(wǎng)絡(luò)抖動甚至準(zhǔn)備讓運(yùn)維重啟節(jié)點(diǎn)。最后是我一個同事擠過來說了句讓一讓在那個方法里加了三條print重新部署了一臺測試機(jī)壓了二十分鐘問題直接定位到了——一個被吞掉的異常引發(fā)了一連串重試堆積。那一刻我突然意識到一件事不管我們平時用多少高級工具遇到真正難搞的問題時最原始、最笨的辦法往往是最后那個管用的。這個最笨的辦法在程序員圈子里有個很直白的名字——caveman debugging原始人調(diào)試法。所謂caveman字面意思就是穴居人你可以理解成一個什么都不講究、拿最基礎(chǔ)的家伙事兒解決問題的原始人。在編程領(lǐng)域它特指那種最樸素的排查手段往代碼里加print、echo、console.log把關(guān)鍵狀態(tài)打到標(biāo)準(zhǔn)輸出或者文件里然后靠肉眼觀察行為、推斷原因。聽起來特別沒技術(shù)含量對吧但相信我這個沒技術(shù)含量的東西是每個工程師都該重新?lián)炱饋淼幕竟Α_@篇文章我想認(rèn)真聊聊caveman調(diào)試法。它到底是什么、為什么在2020年代依然好用、以及怎么用它同時避免踩坑。文章里會有一次真實(shí)的排查復(fù)盤、一套我用了很多年的輸出方法論以及一張什么時候該當(dāng)原始人、什么時候該上現(xiàn)代工具的決策清單。不管你是剛?cè)腴T的新人還是被各種可觀測性平臺繞暈的老兵應(yīng)該都能在里面找到點(diǎn)用得上的東西。1.2 caveman調(diào)試法的本質(zhì)是最小可觀測閉環(huán)很多年輕同事一聽到用print調(diào)試就皺眉覺得這是沒有IDE、沒有調(diào)試器時代的老古董做法。但我得說他們誤解了caveman的本質(zhì)。caveman調(diào)試的核心不叫打印信息而叫親手制造一個觀測點(diǎn)。普通的工作方式是這樣的代碼跑出問題你在腦海里推演一遍覺得可能某個環(huán)節(jié)出了岔子于是去看那個環(huán)節(jié)的代碼用邏輯去證明它沒壞。這種模式靠的是靜態(tài)推理推理鏈條一旦長了就容易斷在某個假設(shè)上。caveman的方式完全反過來代碼跑到某個位置時我親手塞進(jìn)去一個觀測點(diǎn)讓它把當(dāng)時的真實(shí)狀態(tài)吐出來。這個觀測點(diǎn)不是別人幫我埋的也不是框架自動生成的而是我此刻根據(jù)當(dāng)前懷疑點(diǎn)現(xiàn)做的。它只回答一個問題在當(dāng)前這個時間點(diǎn)、這條路徑上程序到底經(jīng)歷了什么。有輸出說明這個分支確實(shí)執(zhí)行了沒有輸出說明執(zhí)行路徑和你想的根本不一樣——不管結(jié)果是哪一種你都拿到了一份新的證據(jù)。這就是為什么它可靠。它依賴的東西少得可憐只需要一個能從代碼里輸出文字的機(jī)制。在Python里是print在Go里是fmt.Println在JavaScript里是console.log在C里是printf。這些函數(shù)幾乎是語言誕生第一天就在的東西不會因為版本升級而改變不會因為某個SDK出bug而失效。你寫下的每個探針都直接連接著當(dāng)前進(jìn)程最真實(shí)的狀態(tài)。1.3 它和寫日志完全是兩碼事這里必須澄清一個容易混淆的地方caveman調(diào)試不等于寫日志。很多人說我系統(tǒng)里日志打得挺全的為什么還要用print——好問題。日志是面向長期運(yùn)行的它需要分級、需要結(jié)構(gòu)化、需要考慮性能開銷、需要設(shè)計字段結(jié)果往往是把大量信息扔進(jìn)一個中心化平臺里等出問題時再去搜。但caveman調(diào)試是面向當(dāng)下戰(zhàn)斗的它只做三件事臨時加、快速看、完事刪。日志是廣譜的、被動記錄的像是給整個系統(tǒng)裝了一圈監(jiān)控攝像頭caveman是焦點(diǎn)式的、主動刺探的像是你蹲在某個關(guān)鍵路口專門等那個嫌疑對象經(jīng)過。你排查問題時系統(tǒng)里現(xiàn)有的日志往往不能回答你最想知道的那個問題——這個函數(shù)執(zhí)行到這行之前那個變量到底變成了什么——因為沒人知道你會關(guān)心這個變量。而一條臨時加的輸出恰好就能回答它。明白了這個前提之后我想接著聊聊為什么很多時候高級工具反而不如這原始一招。這不是情懷而是工程上的現(xiàn)實(shí)。2. 為什么調(diào)試器和日志框架有時真的不如一行print2.1 斷點(diǎn)調(diào)試的失效場景說實(shí)話我平時用得最多的還是調(diào)試器。單步、斷點(diǎn)、watch表達(dá)式這些在寫單元測試、追本地邏輯問題時效率很高。但一旦問題跑到特定的環(huán)境里調(diào)試器會成建制成地失效。第一類是多線程和并發(fā)問題。你在一處斷點(diǎn)停下來你看到的是這個線程此刻的局部狀態(tài)但問題往往出在另一個線程的時序上。你一停在斷點(diǎn)上整個程序的執(zhí)行節(jié)奏就被改變了本來能復(fù)現(xiàn)的競態(tài)條件可能就此消失了。這跟海森堡測不準(zhǔn)原理有點(diǎn)像——觀測動作本身干擾了被觀測對象。第二類是分布式環(huán)境。服務(wù)有幾十個實(shí)例負(fù)載均衡隨機(jī)轉(zhuǎn)發(fā)你用調(diào)試器attach到其中一個實(shí)例可下一次請求可能根本不經(jīng)過它。你得在多臺機(jī)器上反復(fù)跳出跳入效率低到讓人想砸鍵盤。第三類是偶現(xiàn)問題。問題跑幾個小時才出現(xiàn)一次你總不能盯著調(diào)試器等它跳斷點(diǎn)而且斷點(diǎn)一命中程序就暫停了后續(xù)的時間窗口早過去了。在這些場景里print式的觀測反而有它獨(dú)特的價值它不影響執(zhí)行節(jié)奏不需要交互式環(huán)境只要代碼跑到那里輸出就自然產(chǎn)生。你可以讓它在全量實(shí)例上跑跑幾個小時最后把日志拉回來對比——這是調(diào)試器做不到的。2.2 日志框架的過度設(shè)計帶來的坑再來說說日志框架?,F(xiàn)代的日志框架確實(shí)強(qiáng)大異步寫入、級別過濾、鏈路追蹤、自動采集。但強(qiáng)大是有代價的代價就是你能看到的永遠(yuǎn)只是框架愿意讓你看到的那部分。我印象很深的一次有個服務(wù)用了一個挺流行的日志庫開了異步刷盤平時日志秒出但壓測時發(fā)現(xiàn)最新的一條日志丟了。原因是異步緩沖區(qū)滿了舊的日志沒來得及落盤新的日志直接被丟棄。我當(dāng)時追了很久最后發(fā)現(xiàn)那一行關(guān)鍵的錯誤信息恰恰就是被丟的那條。如果當(dāng)時用的是print直接同步寫到文件或者終端絕不至于這樣。還有日志級別的問題。線上環(huán)境為了控制磁盤占用info級別的日志通常是關(guān)掉的。但你排查問題時真正需要的就是那幾條info——它們記錄了關(guān)鍵節(jié)點(diǎn)的進(jìn)去和出來。你急著想看卻發(fā)現(xiàn)日志級別配置在環(huán)境變量里、在配置中心里、在一層層封裝后面改起來還要走變更流程。caveman式的輸出呢它不跟你講級別不跟你講異步不跟你講采樣率。它就是一個同步寫入你寫了就有沒寫就是沒有。有時候這種直白粗暴反而是最大的優(yōu)點(diǎn)。2.3 讀代碼和看行為之間的鴻溝還有一個深層原因解釋了為什么這原始的一招一直有效靜態(tài)讀代碼和動態(tài)看行為之間永遠(yuǎn)存在一條認(rèn)知鴻溝。一個系統(tǒng)跑起來之后真正執(zhí)行的路徑、時序、數(shù)據(jù)分布可能和你在代碼里腦補(bǔ)出來的完全不同。你以為某個分支永遠(yuǎn)不會進(jìn)但實(shí)際生產(chǎn)數(shù)據(jù)里它就是會進(jìn)你以為兩個操作是原子的但實(shí)際上線程調(diào)度把它們打得七零八落你以為一個第三方庫會拋異常但它好像在某些情況下會靜默吞掉。代碼是靜態(tài)的行為是動態(tài)的兩者之間的鴻溝靠讀代碼填不平只能靠觀測填。caveman調(diào)試法就是最直接、最符合直覺的觀測方式。它不依賴你對框架的理解不依賴你對工具的熟練度只依賴一行輸出和你的眼睛。這個門檻低到幾乎每個人都會用但也正因為太低反而被很多人忽略。3. 一次真實(shí)事件復(fù)盤三行輸出定位線上周期性卡頓3.1 問題表現(xiàn)與最初的手忙腳亂回到開頭那個線上事故。我們平臺有個任務(wù)調(diào)度服務(wù)用的技術(shù)棧是Python gunicorn 多線程下游依賴MySQL和Redis?,F(xiàn)象很規(guī)律每隔大概30分鐘P99延遲從平時的80ms飆到3秒持續(xù)兩三秒后恢復(fù)。業(yè)務(wù)方天天來催說任務(wù)堆積下游超時。剛開始我們的排查思路完全是散彈槍式的。第一輪懷疑是GC停頓把gc日志拉出來看了看并沒有明顯的長停頓第二輪懷疑是Redis連接池耗盡慢查詢指標(biāo)翻了一圈也沒有異常第三輪懷疑是網(wǎng)絡(luò)抖動翻了一大圈基礎(chǔ)設(shè)施監(jiān)控還是沒找到證據(jù)。那是一段特別磨人的時間——指標(biāo)都是正常的但服務(wù)就是卡。你也遇到過這種情況吧所有常規(guī)指標(biāo)都正常但用戶感知就是很差。這種時候常規(guī)手段已經(jīng)不夠用了必須把觀測粒度從系統(tǒng)級下沉到代碼級。3.2 決定做減法只留最小化輸出探針當(dāng)時是我那個同事拉住了準(zhǔn)備重啟節(jié)點(diǎn)的我們。他說了句讓我一直記到現(xiàn)在的話我們還沒證明哪段代碼慢為什么要重啟然后他打開代碼那個請求處理入口長這樣先取任務(wù)再調(diào)下游最后寫結(jié)果。他直接在三個步驟前后加了三行輸出import time def process_task(task_id): t0 time.time() print(f[TRACE-A] task{task_id} start at {t0}, flushTrue) task get_task(task_id) # 第一步從DB拉任務(wù)數(shù)據(jù) print(f[TRACE-B] got task, spent {time.time() - t0:.3f}s, flushTrue) result call_downstream(task) # 第二步調(diào)用下游接口 print(f[TRACE-C] downstream done, spent {time.time() - t0:.3f}s, flushTrue) save_result(task_id, result) # 第三步寫結(jié)果 print(f[TRACE-D] saved, total {time.time() - t0:.3f}s, flushTrue)注意他走了兩個關(guān)鍵的細(xì)節(jié)。第一個是flushTrue保證print不是只往緩沖區(qū)里一放而是立刻刷到日志文件否則突然崩潰時最后幾行就丟了。第二個是給每行輸出加了一個固定前綴TRACE-A、TRACE-B這樣的標(biāo)識方便后面用grep一把過濾出來。這三行輸出不需要改動任何業(yè)務(wù)邏輯也幾乎沒有性能開銷。我們把改了代碼的版本發(fā)到那臺有問題的實(shí)例上——注意只發(fā)一臺不全部發(fā)——然后等著那個30分鐘的周期出現(xiàn)。3.3 關(guān)鍵發(fā)現(xiàn)與根因一場被吞掉的異常等了一個周期日志出來了。我們拉了那段時間的三行輸出結(jié)果很有意思[TRACE-A] task10221 start at 14:30:01.201 [TRACE-B] got task, spent 0.012s [TRACE-C] downstream done, spent 0.013s [TRACE-D] saved, total 0.021s一切正??偣膊?1毫秒。那卡頓到底在哪我們又把日志多拉了一段仔細(xì)看了下時間線突然發(fā)現(xiàn)了一個被忽略的細(xì)節(jié)那三秒的空白不在任何TRACE標(biāo)記之間而是在整個請求入口的最前面。也就是說進(jìn)程從收到任務(wù)到執(zhí)行process_task的第一行print中間隔了整整2.7秒。順著這個線索往前查問題很快水落石出。gunicorn在接受連接之后、調(diào)用worker處理之前有一段任務(wù)是優(yōu)先處理積壓的重試任務(wù)而那個重試邏輯有一個異常處理塊用了一個特別寬泛的except Exception把錯誤全吞了。某些定時任務(wù)失敗后會自動進(jìn)入重試隊列重試又失敗又被塞回隊列形成惡性循環(huán)。每隔30分鐘重試隊列里剛好堆積了一批任務(wù)這個循環(huán)要一次性把它們處理完于是那幾秒的停頓就出現(xiàn)了。而因為它把異常吞了常規(guī)的錯誤日志里什么都看不到。如果沒有那三行print我們恐怕還在盯著GC和Redis猜來猜去。排查鏈路從系統(tǒng)指標(biāo)一路收窄到入口之前的某段代碼靠的正是最小化的、帶明確標(biāo)記的輸出探針。3.4 修復(fù)與驗證確認(rèn)病灶之后才能下刀根因明確了修復(fù)反而簡單把那個寬泛的except Exception改成精確捕獲具體的異常類型并給重試邏輯加上最大重試次數(shù)和退避時間杜絕無限循環(huán)堆積。改完之后我們把三行TRACE輸出保留在那一臺上跑了兩小時周期性的卡頓消失了區(qū)間拉長再也沒有出現(xiàn)那個2.7秒的空白。這個項目給我留下的收獲比一次故障本身大得多。我后來把這次排查的套路拆成了可重復(fù)使用的方法論下面具體說。4. 讓原始輸出變得好用我的printf排查方法論4.1 一切從給輸出編號開始如果你去網(wǎng)上搜到處都會有人教育你不要亂加print。但我要說的是另一面亂加print確實(shí)沒價值但有方法地加print是效率極高的排查手段。問題的關(guān)鍵不在要不要用print而在怎么用print。我的第一條經(jīng)驗是每個探針都要有唯一標(biāo)識。在多人協(xié)作的代碼庫里大家的輸出很可能混在一起你打了一百行print結(jié)果別人的排查和業(yè)務(wù)日志也混在里面根本沒法看。所以我習(xí)慣用一個統(tǒng)一的前綴比如TRACE-A、TRACE-B或者帶上當(dāng)前所在函數(shù)的名稱比如[process_task]。這樣做有兩個好處一是用grep一搜就能把所有探針輸出拉出來二是輸出順序本身就是執(zhí)行路徑的一種可視化。一個典型的標(biāo)記格式長這樣# 推薦格式[模塊/函數(shù)名] [步驟標(biāo)識] 關(guān)鍵變量內(nèi)容 print(f[worker.process_task][A] task{task_id} received, flushTrue)有了統(tǒng)一前綴刪除探針這件事也變得安全可控。排查結(jié)束后搜一下TRACE或者你的前綴所有該刪的地方一目了然不用擔(dān)心漏掉哪個。4.2 帶上不可變上下文別怕信息冗余第二條經(jīng)驗輸出里一定要帶上定位上下文最好包括時間戳和請求ID。很多人只打印一個start或者end然后看著輸出發(fā)呆——這行日志到底是誰打的是哪個請求觸發(fā)的發(fā)生在什么時候全都對不上號。時間戳的精度也有講究。排查性能問題時毫秒級都嫌粗糙我習(xí)慣用到微秒特別是在Python里import time print(f[process_task][A] task{task_id} ts{time.time():.6f}, flushTrue)(time.time())返回的是帶小數(shù)部分的秒.6f就是微秒級精度。在對比兩個探針之間的耗時差時這個精度能讓你看到毫秒以下的波動把那些十幾毫秒的小延遲也找出來。請求ID就更好用了。在Web服務(wù)里入口處通常能拿到一個trace_id或者request_id把它放進(jìn)每一行輸出里你就能精確地把某個請求的完整路徑從一堆并發(fā)日志中切出來。哪怕沒有框架幫你傳遞trace_id你也可以在函數(shù)入?yún)⑸舷曼c(diǎn)功夫手動把它傳進(jìn)去——這在本地排查時成本很低但帶來的信息增量極高。4.3 條件輸出只在狀態(tài)變化時說話第三個原則是控制噪音。如果一段代碼會被調(diào)用十萬次你在里面無腦加print輸出文件瞬間就被打爆了你要找的線索也會淹沒在無數(shù)相同的行里。我的做法是加條件。只有滿足特定條件時才打輸出比如if task.priority high or elapsed_ms 500: print(f[scheduler][skip] task{task.id} waited{elapsed_ms}ms, flushTrue)這樣不光是邏輯分支被覆蓋到性能異常路徑也被覆蓋到了。排查偶發(fā)卡頓時這種只在超預(yù)期情況下才說話的探針效果比每行都打強(qiáng)得多——它把注意力直接拉到了異常點(diǎn)上。還有一種很實(shí)用的形式是計數(shù)器配合循環(huán)。在循環(huán)里加一個累加變量每1000次才打一行既能看到進(jìn)度又不會刷屏for i, item in enumerate(item_list): process(item) if i % 1000 0: print(f[batch_worker] progress{i}/{len(item_list)} last_batch_cost{time.time() - batch_start:.3f}s, flushTrue) batch_start time.time()4.4 一套現(xiàn)成的排查手段清單把上面的經(jīng)驗整理成一張表你在實(shí)戰(zhàn)中可以直接照著用場景探針寫法要點(diǎn)關(guān)注什么確認(rèn)某段代碼是否執(zhí)行打印唯一標(biāo)記 關(guān)鍵參數(shù)值有沒有這行輸出定位性能瓶頸在每相鄰步驟間打時間戳精確到微秒相鄰時間差哪段最大捕捉偶發(fā)異常在異常except塊里打印完整堆棧異常被吞后仍有記錄判斷分支走向在每個if分支末尾打標(biāo)記走了哪條分支排查并發(fā)超時輸出請求ID 時間戳多線程各打各的同一請求ID各階段時間線反向確認(rèn)循環(huán)是否卡住每N輪打一次進(jìn)度循環(huán)是否在推進(jìn)這個清單是我自己在重溯、排障時會對照著選型的。選對了探針形態(tài)一次排查很可能就能少掉一半彎路。不過caveman調(diào)試法也不是萬能的。長期用過之后我慢慢摸清了它的邊界——什么時候上它什么時候應(yīng)該果斷換工具。5. 什么時候該當(dāng)原始人什么時候該上現(xiàn)代工具5.1 caveman調(diào)試適合的五個場景根據(jù)我的實(shí)際經(jīng)驗下面這幾類場景里caveman式的輸出探針幾乎是最優(yōu)解。第一種是低概率復(fù)現(xiàn)的bug。問題跑幾小時才出現(xiàn)一次你不能開著調(diào)試器干等但你可以加好探針讓它運(yùn)行著等它自然撞上。這像是布了個捕獸夾而不是派人站崗。第二種是多線程/異步亂序問題。時序錯了、某個共享狀態(tài)被改亂了套你很難用斷點(diǎn)抓住那個作案的瞬間。但你就需要裸的fmt.Println把每個線程進(jìn)入退出關(guān)鍵區(qū)的時間打出來人眼一看亂序就出來了。第三種是沒有日志也沒有監(jiān)控的老系統(tǒng)。這種系統(tǒng)你不可能要求它接上APM但加幾行輸出還是可以做到的——不過在線上老系統(tǒng)加輸出前要先確認(rèn)改動是納秒級開銷而且能隨時刪。第四種是分布式環(huán)境初篩。整個請求鏈路跨了好幾個服務(wù)問題到底出在哪個環(huán)節(jié)都不知道。與其先鋪一堆全鏈路追蹤不如在懷疑的幾個邊界點(diǎn)各打一行輸出先把范圍縮小到一個服務(wù)再用專業(yè)工具深入。這種方式成本最低見效最快。第五種是你完全陌生的代碼庫。接手一個項目不知道該從哪看起加一行print確認(rèn)程序走到了哪一步比在那兒瞎猜這個入口到底通不通要靠譜得多。這也算是我這些年快速上手新項目的一個心法。5.2 不該用caveman的三個場景反過來也有幾個場景是我明確不建議用原始辦法硬扛的。第一是內(nèi)存泄漏的定位。泄漏往往發(fā)生在你沒在關(guān)注的角落你需要的是用profiler對堆快照做對比分清哪些對象在持續(xù)增長。print加在這類場景里只能在宏觀上告訴你內(nèi)存漲了但漲的那些對象是誰、從哪里來探針根本無從得知。第二是復(fù)雜的調(diào)用鏈追蹤??绶?wù)、跨消息隊列、跨定時任務(wù)的調(diào)用鏈靠文本輸出是拼不出來的這時候該用帶traceId的鏈路追蹤系統(tǒng)讓系統(tǒng)自動把各環(huán)節(jié)串起來。第三是生產(chǎn)環(huán)境的長期可觀測性建設(shè)。caveman是臨時工不是正式員工。生產(chǎn)上要建的是結(jié)構(gòu)化日志、聚合告警、監(jiān)控大盤。拿print當(dāng)長期日志寫的話過兩周你就得面對一堆沒人看得懂的臨時輸出。團(tuán)隊協(xié)作時尤其忌諱這個——你加的臨時輸出過了三個月別人還在看到會怎么想這個邊界在實(shí)戰(zhàn)中是動態(tài)的。我的習(xí)慣是懷疑不明確、范圍未收窄時先用caveman快速放探針一旦鎖定方向再切換到對應(yīng)的專業(yè)工具做深入分析。兩種手段不是對立關(guān)系而是接力關(guān)系。6. 除了排查問題caveman精神還能在哪些地方發(fā)力6.1 極簡腳本勝過重型框架Caveman精神其實(shí)不只在調(diào)試時好用。它背后那種用最原始、最可控的手段解決眼前的問題的思路在很多地方都能遷移。我自己感觸最深的是寫自動化腳本。很多人一上來就搭框架、引依賴、設(shè)計抽象層一套小工具的代碼量比真正的業(yè)務(wù)邏輯還多。但很多時候一個需求只是每周把某個目錄下的臨時文件清一下或者從接口拉個數(shù)據(jù)存下來。這種場景我用純Python標(biāo)準(zhǔn)庫或者一組shell命令就能寫完不加任何額外依賴。減少依賴就是減少未來的坑。腳本這樣寫之后維護(hù)它的人也會感謝你——所有邏輯都明明白白地攤在那里沒有藏在框架層后面。6.2 shell命令組合拳比想象中的更強(qiáng)大這里的caveman式自動化我指的是多用系統(tǒng)的原生命令做組合和管道。就拿排查問題時的常用操作來說吧# 看最近一分鐘內(nèi)進(jìn)程的CPU情況 top -b -n 1 | head -n 20 # 從一堆日志里按關(guān)鍵字找出帶有時間戳的行并排序 grep ERROR app.log | sed s/^\[\(.*\)\].*/\1 / | sort | head -n 30 # 統(tǒng)計某個狀態(tài)碼在五分鐘內(nèi)的分布并實(shí)時刷新 tail -F access.log | awk {print $9} | sort | uniq -c這些命令看起來原始但組合起來之后的表達(dá)能力遠(yuǎn)超想象。我有的同事傾向于引入一堆專門的日志分析工具但在排查初期一個grep加一個awk往往就能把問題范圍縮小到一行代碼里。這不叫退步這叫掌握了事物底層之后的自如選擇。6.3 簡單直接的方式做監(jiān)控預(yù)警還有一個讓我特別受益的用法是最原始的監(jiān)控模板。有些指標(biāo)我不想為了它去搭一套完整的監(jiān)控系統(tǒng)這時候幾行shell加一個系統(tǒng)內(nèi)置定時任務(wù)就夠了# 每5分鐘檢查一次服務(wù)健康狀態(tài)異常時記錄時間戳 */5 * * * * curl -sf http://localhost:8080/health /tmp/health_ok.txt || date /tmp/health_fail_times.txt甚至你可以在關(guān)鍵腳本里加一個請求耗時超限的判斷超了就寫一行到某個文件配合定時查看。這種監(jiān)控強(qiáng)度當(dāng)然比不了專業(yè)系統(tǒng)但勝在零成本、零依賴、可移植。你放在任何一臺機(jī)器上它都能馬上開始干活。如果這種caveman式的基礎(chǔ)監(jiān)控已經(jīng)能覆蓋絕大多數(shù)場景你就可以把更重的工具留給那些真正需要它們的少數(shù)問題。說到底這些做法的共同點(diǎn)是當(dāng)情況足夠明確時不要被工具本身絆住手腳。工具是拿來幫你解決問題的不是拿來證明你用得多高級的。最后再分享一個小技巧吧。我每次加臨時探針時都會在輸出前后加一條特別顯眼的分隔線比如連續(xù)打十幾個號。這樣做有兩個好處一是排查時一眼就能從海量日志里把探針段落框出來二是收尾時搜索分隔線就能把所有探針一網(wǎng)打盡不會留坑在代碼里。別小看這個習(xí)慣——我見過太多人因為沒加標(biāo)記最后臨時輸出混入正式版本被運(yùn)維追著問這是什么鬼日志。原始人debugging這件事說到底不是讓你放棄現(xiàn)代工具而是讓你始終保有那個最簡單的抓手。手里拿著錘子看什么都是釘子固然不好但只認(rèn)工具箱里那套高級裝備、把最趁手的基本功丟了那才真的是撿了芝麻丟了西瓜。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久草大| 综合九九久久| 亚洲成人婷婷| 热的国产99热| 丁香六月婷婷久久高清| 91午夜婷婷狠狠久久综合9色| A久网| 日本一级一片免费视频| 永久的网站AAAA| 大地9中文在线观看免费高清| 丁香五月欧美激情| 五月色亭丁香| 六月丁香综合| 人人操人人添人人摸97| 99视频只有精品| 五月婷婷六月开心| 亚洲射激情| 国产精品色婷婷久久久精品| 在线中文字幕免费视频| 无码少妇高潮喷水A片免费| 四月丁香五月婷婷久久| 涩五月丁香| www.jiujiujiu| 99日本在线| 啪啪啪啪五月天| 琪琪色热色色| 超碰伊人碰婷婷五月| 婷婷五月综合色中文字幕| AA片在线观看视频在线播放| 9久精品视频| 亚洲人妻一区二区 | 国产小网站| 99无码| 婷丁香五月天| 99热免费观看| 婷婷成人五月天成人文学| 婷婷丁香五月天哟啪| 99日视频在线| 五月丁香婷婷色播无码| 99热97美女| 久久婷婷六月综合| 国产成人+综合亚洲+天堂| 色婷婷色综合激情91| 婷婷日日夜夜| 日日夜夜婷婷| 久久婷婷五月综合色天| 激情综合丁香六| 久久9视频| 欧美色爱五月天| 五月视频日本免费观看| 亚洲小视频免费播放| 69精品无码一区二区三区| 天天色播| 日本一级黄色片。| 激情综合五月丁香六月婷婷| 婷婷免费视频| 97人人看一| 1024欧美看片| 丁香婷婷五月人体| 色月九九| 看黄的网站18禁| 久99久在线观看| 超碰高清在线| 98永久精品| 欧美日韩国产成人在线| 在线视频激情网站| 99综合在线| 亚洲久久日| 青青草五月天| 任你爽免费视频| 丁香五月婷婷欧美激情-中文天堂最新版在线观看 | 亚洲超碰在线| 国产超碰在线| 久久久久久久久18久久| 色综合狠狠色| 丁香婷婷六月激情文学| 婷婷五月天,影院| 就爱干 在线| 另类婷婷丁香| 婷婷日韩| 棕合影院色色| 加勒比色色| 五月天欧美 另类小说| 久久99热免费| 丁香五月婷久久| 九九热这里| 五月丁香啪啪| 五月天婷婷综合网| 五月婷综合| 日韩 mm 不卡| 天天摸天天舔在线视频| 色婷婷丁香香香蕉视频| 成人在线网| 五月激情小说| www.99热这里精品| 五月丁香六月婷婷综合免| 天天舔天天摸天天射| 9这里只有精品| 精品五月天| 日韩美一级毛卡片| 欧美激情丁香五月| 99九九精品视频| 丁香五月Av| 丁香六月婷婷色XXXXX| 狠狠五月天| 免费观看亚洲AV片| 四色五月婷婷| 色婷婷久久综合久色| 思思久久96热在精品国产,| 丁香婷婷成人在线播放| 99热这里只有精品9| 91九色首页| 久久五月婷综合| 五月天婷婷丁香花| 天天日夜夜草进麻麻的子宫| 99精品自拍视频| 国产全是老熟女太爽了| 99热精品观看| 终合激情网| 噜噜噜狠狠色综合| 婷婷性爱综合| 爱婷婷久久视频| 熟女网站久久| 99碰视频| 五月丁香婷婷成人网| 婷婷五月激情小说| 日本乱论99| 99热只有精品在线播放| 国产精品久久..4399| 久久久国产精品黄毛片| 五月天婷婷一起草| 俺去也婷婷| 月丁香久久久| 激情九九综合网| 日日夜夜婷婷| 九九热视频99| 久色网址| 玖玖在线| 五月婷六月| 五月婷婷影视| 亚洲综合婷婷六月丁香五月| 久99久视频精品| 天天爽人人综合免费7799| 久久婷婷五月综合色丁香| 婷婷五月天激情网| 久久女婷| 26UUU欧美| 成人午夜免费电影| 99精在线| 日都一级A片| 五月天四色房丁香| 欧美A级成人婬片免费看理论| 日日夜夜狠狠| 天天日日人| 色五月女| 久久怕怕视频| 任你搞在线观看视频| 欧美综合婷婷网| 伊人五月天| 久99久在线观看| 中文在线视频久1| 5月丁香美女影院| 激情深愛五月視頻| 被强行糟蹋的女人A片| 日韩成人电影AV| 99亚洲视频| 91久久久久| 日韩精品色| AA丁香综合激情| 六月丁香啪啪| 国产欧美日韩综合精品一区二区| 五月婷婷co.m| 黄色片久久| 五月天婷婷伊人| 精品夜夜澡人妻无码AV| 99亚洲大片精品永久在线观看| 免费视频99| 九九久久五月天| 伊人激情综合网| 狠狠99| 开心激情站| 色欧美影院| 99热天堂| 开心五激情网| 另类丁香综合| 99热这里只| 久久五月婷婷电影| 伊人久久丁香狠狠婷婷综合香蕉 | 婷婷色av| 日韩在线视频中文字幕| 五月丁香婷婷色| 九月婷婷丁香| 91人人澡人人爽人人看| 少妇大叫太大太粗太爽了A片 | www.9操| 久久精品永久免费| 日韩 中文 欧美| 9|无码久久久久久| 久久婷婷操| 色婷婷亚洲在线观看| 六月丁香网| 中文无码婷婷| 久热视频97AV在线观看| 五月丁香啪啪啪| 五月天性色| 97在线干| 日日躁夜夜躁狠狠久久AV| 丁香五月亚洲综合| 五月天色综合| 天花AV无码| 丁香六月在线| 激情五月丁香色婷婷| 东京热人妻一区二区三区在线| 丁香久久久| 欧美欧盟性爱网| 九九爱激情| 激情六月婷婷| www狠狠| 狠狠爱五月婷婷| 五月天开心网| 亚洲综合无码| 91精品综合久久久久久五月丁香| 亚洲精品va| 色婷婷小视频| 国产亚洲精品久久久久久豆腐| 天天爽免费视频| 五月丁香六月久久| 色99日韩| 色爱爱综合网| 97caop| 另类专区在线| 五月婷激情| 五月天天丁香婷婷在线中| 一起操最新网址| 思思热视频在线| 人人干AV| 婷婷五月天亚洲激情戏精品| 五月天婷基地| 思思热闹这里只有精品| 超碰免费99| 五月四色激情| 欧美日韩成卜| 午夜69成人做爰视频| 啪色综合| 97超碰在线免费观看| 亚洲一色色色色色色色色| 国产综合81p| 亚洲国产精品二二三三区| 91精品婷婷国产综合久久| 热这里| 六月99天天婷婷激情综合| 97操男人的天堂| 少妇性按摩无码中文A片| 五月丁香色色网| 婷婷色五月在线视频| 久久99热 这里有精品| 97亚洲色 torrent magnet| 综合激情sV| 97人人操人人插| 五月丁香六月激情| 色五月情| 中文婷婷狠狠| 色色网91| 一起草av在线观看| 超碰成人av| 婷婷性爱视频在线| 色色九九五月天 | 九九久久精品| 成人在线日韩| aV直接看| 月丁香久久久| 玖玖色资源| 婷婷中文字幕在线| 97操碰碰无码视频| 成人操呦av| 99精品激情| 91婷婷| 九九色婷婷| 久热9| 久久只有精| 十月丁香婷婷| 日本成人噜噜| 综合五月天| 欧美久久网| 超碰97干| 亚洲色色色| 五月激情小说| 丁香六月激情国产| 91大神操美女| 天天做天天干天天综合网| 日韩狠狠色婷婷| 婷婷五月激情片| 免费久久这里只有精品99| 色婷婷综合五月| 久久婷婷五月天激情唯美| 五月婷婷六月婷| 亚洲成人婷婷| 色五月激情五月开心五月| 婷婷综合五月天| 国产乱子轮XXX农村| 天天草女人| 成人精品视频99在线观看免费| 4399无码视频| 五月婷婷婷综合网| 免费色色色| 精品久久久久成人码免费动漫 | 亚洲成人中文字幕| www。五月天激情| 五月婷伊人| 人人摸人人搞| 九月丁香| 成人在线视频男人的天堂4399| 91亚洲免费片| 99热国产在| 99爱免费视频| 79精品视频在线观看,| 亚洲亚洲人成综合网络| www.97碰碰com| 六月色色综合| 婷婷五月电影| 99操不停| 五月夜丁香| 久久丁香综合| 天天爱天天天射AV| 日日日,com| 五月丁香六月婷婷亚洲| 97色色综合| 国内自拍1区| 国产精品久久久久久白浆色欲| 日日色五月天| 天天婷婷综合亚洲亚洲| 99久超碰| 99热这里只有精品3| 久热99热| 成人丁香| 狠狠色综合图片| 五月婷婷大香蕉| 日韩99精品| www久| 亚洲黄3级片网站欧美| 狠狠色狠狠干| 亚洲色五月婷婷| 色啪网| 91青娱乐青青草| 亚洲一区二区无码蜜乳av| 婷婷狠狠操| 任你干嘛免费视频播放| 涩涩涩.com| 日韩无码专区| 人妻操逼视频。| 五月婷婷婷丁香播| 停停五月色宗合| 丁香婷五月天| 伊人无码高清| 激情伍月 欧美| 超碰av在线| www.亭亭五月天| 92久久| 色色影院黄大片| 日夜夜天天| 99热综合| 亚洲丁香五月综合| BBWCUCKOLD精品熟妇| 99久久99九九99九九九| 国产亚洲99久久精品| 草草影院爱爱| 亚洲综合五月天婷婷丁香| 日本综合99| 五月天婷婷在看| 成片免费观看视频大全| 思思热在线视频观看精品| 天天综合五月| 久久婷五月| 97色片| 色97啪啪| 日本在线99| 日本123区日韩欧美不卡在线看| 久热视频这里只有精品68| 国产伦亲子伦亲子视频观看| 26uuu激情五月天| 亚洲情综合五月天| 婷婷伊人五月天| 99啪视频在线观看| 九热视频在线精品15| 亚洲综合成人网站| 婷婷五月天av| 久久奄也去色色网站| 性色做爰片在线观看WW| 婷婷色五月天在线| 久久五月激情| 激情网五月天| 久久这里有精品视频| 99精品视频在线观看| 可以直接看的av网站| 91人久| 五月婷婷在线网站| 91日本在线观看| 亚洲激情免费久久| 色热久资源| 婷婷丁香六月| 丁香婷婷五月人体| 精品五月天| 免费精品99| 九色七七| 天天肏天天肏天天肏| 黄色激情网站在线观看| 六月丁香激情综合| www.金莲av| 色色综合日韩| 久久五月婷| 99五丁香月| 亚洲性色XXXXX| 激情四射五月天| 99色色网| 天天玩夜夜操| 思思视频久久| 网色99| 日本99视频精品免费播放| 久久性爱视频这里只有精品 | 激情综合网激情五月丁香五月俺也去| 丁香五月婷婷色五月| 五月丁香激情啪啪| 国产韩日亚洲美州欧亚综合在线| 99久久综合| 欧洲综合视频| 99久久性爱| 久久婷婷热| 天天操婷婷| 大胆伊人久久| 色色色婷婷五月| 91艹人| 五月天婷婷綜合院| 99爱爱| 婷婷五月天堂| 丁香六月婷婷综合麻豆| 99热8在线| 天天做天天爱天天玩夜夜爽| 亚洲天堂色| 久久色五月天综合网| 婷婷五月丁香四射| 天天日天天草| 97碰免费视频在线| 久久人妻精品| 色五婷婷| 五月丁香婷婷激情影院欧美| 操碰97| 婷婷久久欧美| 北京熟妇搡BBBB搡BBBB| 天天艹天天色| 日韩三级视频一区二区| 丁香六月天| 九九狠狠干| 五月丁香免费看| 成年AAAA色情| 日韩国产在线精品| 天天操天天操天天操天天操天天操 | 久久精品4| 久久五月天视频| 亚洲激情四射| 天天添天天摸天天天天做| 刘玥精品一区| www.色综合.com| 婷婷六月丁香在线| 久久久久久久91| 六月婷婷开心| 午夜色色色极品视频| 亚洲无AV在线中文字幕| 综合在线色婷婷| 久久女婷| 久久ri精品视频| 男女免费视频999| 九九国产精视频| 久久婷婷五月天激情新地址| 14色综合婷婷| 天堂婷婷丁香六月网| 五月天大香蕉AV| se99视频| 五月婷婷人妻| 婷婷五月天AV网| AV成人在线网站| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 亚洲无AV在线中文字幕| 久久久天天啊| 99热在这里只有免费精品| 色五月在线综合| 久久综合五月天| 99热这里有精品2| 色吧婷婷| 黄色视频网站在线播放| 婷婷在线精品| 亚洲另类视频| 亚洲美女婷婷五月天| 香蕉久久五月| 久99视频| 色色色五月婷| 99免费热视频| 日日色五月天| 人人操日| 91熟妇大香蕉| 天堂成人A片永久免费网站| 五月天久久网站| 天天做天天爱天天摸| 五月天操逼激情| 九九99久久| 色香欲综合| bbwcuckold精品熟妇| 一区二区传媒视频| 日本黄色三级片内射| 91一起操| 啪啪黄页网| 欧美久久婷婷| 婷婷五月天影视| 成人在线网| 亚洲天堂有码| 91狼友视频在线观看| 极品人妻VideOssS人妻| 精品成人在线观看| 天天影视色综合网| 五月丁香激情综合欧美| www.激情在线| 九九久久精品| 91综合在线视频| 97日本操| 色五月婷婷在线观看第一页舔| 思思re99视频在线观看| 99热亚洲| 色天堂在线| 色婷婷狠狠| 亚洲激情综合免费| 亚洲激情精品| 亚洲成人电影aaaa| 狠狠草婷婷| 开心五月天私房婷婷| 亚洲av成人在线| 97人妻碰碰碰碰碰久久久久久| 亚洲丁香花五月丁香花| 五月丁香网中文字幕| 99视频色在线观看| 五月花综合网| 久热这里这里有精品| 久久激情五月天| 婷丁香五月天| 91啪啪网| 久久婷婷五月丁香网| 另类视在线| 91综合在线视频| www.精品久9| CAOBIBI| 熟美女麻豆| 99热 在线播放| 综合九九久久| 青青操丝袜美腿| 五月丁香六月婷婷的女人| 久草视频大香蕉99| 五月婷婷激情日本| 亚洲AV网址| 五月天综合激情网| 丁香五月天网站| 91色婷婷综合久久中文字幕二区| 色九区| 婷婷久久网| 视频这里只有精品| 婷婷五月天影视| 大香焦A∨| 激情五月丁香五月综合| 亚洲不卡123| 丁香五月婷婷激情完整版| 月色色综合婷婷网| 91精品丝袜久久久久久| 久久久久久天天日天天爱| 日韩三级片一区二区| 色婷婷国色天香综合| 五月天成人手机在线视频| 激情色视频| 免费亚洲婷婷五月| 精品久久99码| 中文字幕在线免费看线人| 亚洲婷婷五月天| 婷婷五月在线影院| 丁香五月天堂婷婷| www.五月天色色色| 久久久91| 色爱99| 激情综合亚洲色婷婷五月| 亚洲热久久| 伊人五月婷婷| 精品成人无码A片观看香草视频| 九色在线五月婷婷网址| 91丨九色丨熟女丰满| 另类在线| 狠狠色噜噜狠狠狠888了| 少妇达人正片在线播放_ikun_福利吧| 丁香五月av| 久久五月丁香| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 激情 婷婷| 涩五月婷婷| 99秘 在线| 狠狠狠色激情综合适合| 久99综合婷婷| αv中文字幕在线观| 91碰免费视频| 色婷丁香| 五月激情网络| 综合色情网| www.9操| 五月婷婷丁香啪啪| 五月 丁香 欧美| 月婷婷婷婷五月| 九九热在线精品| 热99玖玖99玖玖99九九| 人妻人人操| 六月色丁香中文字幕| 亚洲超碰在线| 99热热热99精品婷婷| 人人操操| 九九热这里只有精品9| 欧美大香蕉视频| 中文字幕丁香五月| 九月丁香婷婷综合| 97色碰碰公开视频| 成人五月天色天堂| 日韩色久| 精品九九久久| 情婷婷五月天在线| 色婷婷操逼| 婷婷伊人欧美| 激情五月图| 天天操天天插| 五月天另类小说久久小说网| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 狠狠色噜噜狠狠狠狠综合| 五月综合激情视频| www.99色| 亚洲欧美婷婷五月色综合| 五月婷婷基地| 丁香综合| 思思久久精品视频| 色九月婷婷| 久久影视婷婷五月| 99碰碰碰| 高清激情av在线观看| 在线观看的av| 婷婷九月在线| 亚洲欧美一区二区三区四区爱爱动图| 99视频| 五月综合亚洲色| 激情综合网激情五月天| 精品自拍97| 我爱婷婷五月天综合88| 久久99视频| 久久五月天婷婷| 丁香 久久| 激情婷婷网| 色情综合网| 影音先锋91网站在线观看| 六月婷婷六月天天在线免费| 在线综合网| 人人操AV| 91啪啪视频| 色狠狠色综合久久久绯色AⅤ影视| 婷婷丁香激情综合色情| 九热视频在线伦| 久久久久综合激动五月天| 强伦轩人妻一区二区电影| 4438激情网| 七七色色综合| 99九九热视频免费| 99热成人| 激情视频91| www激情| 综合久久十三| 欧美日韩AAA| 天天色凹凸| 99国产这里只有精品| 成人国产网| 婷婷五月天激情基地| 日韩不卡123| 淫荡工a| 99精品久久久久久久久| 成人丁香五月| 中文字幕激情综合| www.久久久久久久| 激情婷婷| 精品国产va久| 婷婷中合| 99热这里只有精品22| 超碰免费人人肏| 色婷婷久久综合中文久久一本| 婷婷伊人綜合| 99热综合网| 狠狠操综合| 五月丁香六月激情综合| 日日噜狠狠色综合久久| 丁香五月婷婷久久久| 能看的AV| 激情五月丁香五月| 日韩丰满少妇无码内射 | 综合久久久| 亚洲五月婷婷| 无码人妻精品一区二区蜜桃色欲 | 青996青| 综合色久| 久久有码| 97婷婷丁香五月天激情图片| 丁香婷婷久久 | 开心激情站婷婷五月天| 五月黄色婷婷| 欧美色色色色色| 九九精品这里只有| 4399精品一区二区| 久久伊人9| 五月婷婷在线短视频| 色噜噜狠狠色综无码久久合欧美| 中文乱子伦视频| aaa久久| 99热久久这里只有精品| 九九99精品视频在线观看| 丁香五月激情棕合| 天天操夜夜玩!| 五月天操逼激情| 丁香婷婷九月| www色婷婷久久综合久色| 久久3级片| 色综合网址| 婷婷色香六月综合激情| 99日在线观看视频| 超碰碰碰碰| 五月婷亚洲精品| 综合激情五月丁香| WWW色色色COM| 六月激情婷婷| 天天婷婷| 丁香五月婷婷动漫视频| 99久久精品国产色欲| 婷婷在线视频| 高清无码网址| 我要射综合| 妇激情基地| 中文字幕人妻一区二区| 久久这里只有精品热在99| 久热网在线视频| 六月丁香深深爱综合网| 久久女人九九| 无码 av电影| 一起草无码| 婷婷六月中文字幕| 久久婷婷五月综合色奶水99啪| www久视频com| 99热这里精品| 六月婷婷综合| 这里只有精品免费视频在线观看| 欧美va精品va老师va| 色情开心五月| 日本在线观看aaa 99| 操一区| 久久多色| 婷婷色色婷婷| 色五月在线视频观看| 六月婷婷之青青草| 99热这里只有精品1| 五月人妻婷婷视频| 婷婷之六月丁香| 九九热亚洲中文在线观看免费| 国产三级在线播放| 成人 在线观看国产| 99热一区| 99热资源在线| 79精品视频在线观看,| 玖玖色资源站| 丁香婷婷激情综合五月激情 | 国产视频久色| 伊人干综合| 九九综合网色全集| 婷婷久久天堂网| 久久亚洲婷婷| 人妻操逼视频| 67194成I人在线观看线路1| 色中色综合| 色人妻五月| 五月亭亭六月激情| 一本久久亚洲五月婷婷| 66精品国产成人| 99精品一二三四视频| 亚洲在线视频321| 成片免费观看大全| 亚洲99一级无嗎特制在线| 久久成人亚洲欧美电影| 五月桃花网综合| 成人网在线观看视频| 日本www免费九九| 丁香狠狠干| 99人妻碰碰久久久禁片| 国产无遮挡又黄又爽免费网站| 亚洲无AV在线中文字幕| 欧美性色A片免费免费观看的| 99久久久久| 大香蕉九九| 日本精品人妻无码77777| 五月丁香色综合| BBWCUCKOLD精品熟妇| 丰满少妇乱A片无码| 最近中文字幕在线中文视频| 嫩BBB搡BBBB榛BBBB| 婷婷在线中文字幕| 五月婷婷久久爱| 激情九九九九| 成人一级片| 99操逼| 狠狠色婷婷在线| 99综合免费视频| 综合激情网| 五月天久久www| 人人操人人爱丁香五月| 五月综合视频| 超碰免费成人| www婷婷| 伊人久久丁香狠狠婷婷综合香蕉| 婷婷综合玖玖五月| 色综合香蕉| 97碰在线| 五月开心婷婷| 亚亚州久久高潮| 99综合自拍| 婷婷伊人綜合中文字幕| 日本色色影片| 影音先锋综合网| 色五月自偷自拍婷婷婷婷| 久热九九| 日韩欧美四五区| 逼里香不卡| 久久综合激情| 99在线精品免费视频| 99精品网址| 久久久久激情| 婷婷激情五月天在线视频| 五月婷婷 激情五月| 99在线视频播放| 欧美性做爰大片免费看办公室| 色情终和网| 亚洲五月天婷婷| 我要色综合五月婷婷| 日日爽天天| 91偷拍视频| 国产精品久久久久久久久久| 国内久久久精品99| 亚洲中文丁香| 六月合五月婷| 久久99精品视频| 特黄三级又爽又粗又大| 色婷婷97| 日日操,日日爽| 国产avapp 网| 国产乱子轮XXX农村| 97干在线看| 婷婷深爱色五月| 五月丁香婷婷深深爱| 亚洲九九夜夜| 日日干四虎| 六月婷婷激情| 亚洲最大五月六月丁香婷婷| 中文字幕成人影视| 丁香色婷婷色手机免费在线| 久久精品63| 色五月丁香在线| 国产欧洲欧洲精品久久| 亚洲国产成人AV在线| 九九综合视频在线观看| 九九热在线视频| 99国产在线精品视频| 日本一级一片免费视频| 99成人精品视频| 99爱爱| 第四色网婷婷| WWW.开心五月天.COM| 婷婷色网站| 丁香五月婷婷欧美成人色图| 久1色色| 操九色| 狠狠色狠狠色综合日日91| 丁香九月综合| 国产97色在线 | 日韩| 亚洲六月综合激情久久下卡| 开心婷婷中文字慕| 欧美激情综合色综合啪啪五月| 五月天开心色色网| 婷婷五月综合婷婷| 激情AV| se99热久久一本| 米奇影视资源婷婷狠狠色激情欧美五月丁香 | 狠狠综合区| 26uuuuuuuu国产| 少妇大叫太大太粗太爽了A片| www.97碰碰com| 婷婷成人五月天成人文学| 久久婷婷午夜| 天天舔天天摸天天射| 夜夜谢天天干| 91尤物九色在线| 五月天婷婷丁香| 9热久久在线| 色综合网综合| 嫩草AV久久伊人妇女超级A| 九九国产精视频| 欧洲综合视频| 人人97碰| 国产精品色婷婷久久久精品| 婷婷丁香91| 丁香五月天在线| 丁香五月天成人| 99成人精品| 第九色区av天堂| 久久99激情| 可以免费观看的AV| 色10月婷婷视频| 亚洲色网络| 丁香五月性| 五月婷婷三级| 色婷婷香蕉| 99无码| 91综合在线视频| 日本狠狠干| 91碰碰视频| 九九婷婷综合| 9有码中文| 99久.| 日本啪啪天堂| 久婷婷| 91人妻色色网| 色情五月丁香| 无码网| 91久久精品国产91性色TV| 另类丁香五月天区图| 国产欧美熟妇另类久久久| 激情www.98com| 亚洲狠狠爱婷婷| 天堂草在线观| 啪精品| 碰97久久| 亚洲人成网亚洲欧洲无码久久| 26UUU欧美| 丁香五月综合色婷婷| 国产黄大片在线观看画质优化 | 噢美99| 丁香五月人妻| 婷婷激情视频| 91天天操天天干天天射| 九九热这里有精品23| 少妇AB又爽又紧无码网站| 五月亭亭综合五码| 久久五月婷综合网| 九九在线视频| 亚洲艹网| 久久久av久av久片一区二区| 日日激情网| 亚洲国产网址| 涩涩五月天| 丁香婷婷精品视频| 久色精品| 色色亚洲五月天| 色婷五月| 国产精品VIDEOSSEX久久发布| 国产熟女日日骚五月丁香爱| 影音先锋 一区| 九九热AV| 九九综合久久| 色www99| 五月丁香成年黄色| 免費亭亭成人| 国产高潮白浆一区二区| 色噜噜狠狠色综合网| 五月激情婷婷开心五月| www。五月,com| 99热这里有精品| 亚洲艹网| 色色网站日本91| 99精品久久| 天天舔天天插天天干| 99热99天堂| 五月丁香啪啪啪| www天天色天天射| 久久综合婷婷| Caoub青青超碰| 五月婷婷av| 99热99这里免费的精品| 色偷偷色婷婷| 777影视理论片大全在线观看| 日本五月婷婷| 操操操操操操婷婷五月天| 97啪在线观看视频| 色综合色色| 五月天激情无码高清| 九九五月天| 丁香五月婷婷欧美性爱| 91人操| 伊人9999| 丁香久久| 操操日韩| 中文字幕无码人妻少妇免费视频| 中文AV网站| 美女要搞搞天天搞搞搞网站| 人妻激情视频| 97人妻超级碰碰碰碰碰| 色色婷婷五月天| 丁香五月婷婷色| 五月婷婷六月丁香综合视频在线| 亚洲综合在线网站| 影音先锋高清无码资源网| 五月丁香色| 另类小说激情五月天| 婷丁五月| 特级操b片| 91久久久久| 开心五月激情网| 啪啪婷婷五月天激情| 天天精品视频在线观看视频| www。狠狠干。com| 97色97干| 久久久久久18| 99国产精品久久久久久久久久久 | 99在线综合视频| 成人精品视频99在线观看免费| 999热在线视频| 丁香五月综合网亚洲综合欧美狠狠 | 狠狠色婷婷六月激情网| 五月激情丁香六月狠狠干| 人妻aV在线| 99热99| 欧美色激情四射| 综合久久婷婷| 亚洲最大视频| 97精品在线| 五月婷婷性爱| 99婷婷色| 色五月色综合| 少妇性按摩无码中文A片| av狠狠操| 夜夜夜夜夜操| 91婷婷搞| 久久伦乱| 在线视频99| 五月激情婷婷丁香天堂| 99热99re6国产在线播放| 天天草天天舔| 婷五月丁香| 婷婷色五月婷婷姐妹| 开心五月婷婷五月| 婷婷五月天久久| 色五月欧美| 婷婷五月色影视先锋| 99九九免费精品| 美女xx不卡| 久久九九99.www| 另类图片五月天激情| 精品视频二级九九| 亚洲网在线观看| 色婷婷激情Av久久久| 国产又爽又猛又粗的视频A片| 五月丁香六月激情| 97干在线视频| 99久re热视频精品98| 色综合天天| 五月天激情久久| 亚洲激情网| 91操人| 五月天.com| 九九热自拍| 色噜噜综合网| 久久只有18视频| 26uuu在线观看| 极品少妇XXXX精品少妇偷拍| 国产肥白大熟妇BBBB视频| 天天插天天干| 教师性爱毛片| 久久爱综合| 狼人伊人干| 97操碰在线视频| 久久伦乱| 久久视屏这里只有久久| 98毛片| 五月天激情日色在线| 五月丁香色婷婷综合| 五月激情六月综合| 欧美狠狠色| 伊人久久大香网| 色婷网| 青青久在线视频免费观看| 久久久久9久无码视频| 激情五月狠狠喔| 久热99热| 日日干五月天婷婷| 欧美另类五月激情| www、色色色| 丁香五月激情在线| 久久9久| 久久九九综合| 亚洲精级| 综合色色综合| 五月天婷婷基地丁香| 婷婷黄色五月天在线视频| 五月婷精品| 婷婷五月天综合久久| 五月丁香色情| 色婷婷中文| 亚洲婷婷激情综合激情999精品| 九九久久99| 天天综合五月| 深爱五月婷婷| 99热精品在线| 麻豆AV一区二区三区| 超碰高清在线| 狠狠色丁香| 五月天色婷婷伊人网| 狠狠爱婷婷丁香| 99精品偷自拍| 大香蕉在线观看9| 五月天久久www| 91视屏在线观看com.wwwvv| 99色色色色| 女人天堂AV| 无语停婷丁香网| 操91| 激情综合色婷婷啪啪六月天| 亚洲成人一区| 99精彩视频网站在线| 亚洲性爱电影| 插插插色综合网| 色碰碰| 精品爱欲五| 五月婷婷av| 五月天堂在线| 9月色婷婷| 99精品视频免费观看近期发布| 九九99男女视频在线观看| 99区视频| 色99视频| 无码成人AAAAA毛片AI换脸| 丁香六月婷婷色播| 精品99爱免费视频在线观看| 婷婷娌伦网| 97一区二区| 丁香婷婷五月天激情四射| 五月婷婷亞洲中文| 久久国产色| 五月综合丁| 丁香花五月天| 五月天另类视频| 免费操超碰| 五月丁香色婷| 丁香五月天堂| 婷婷综合偷拍| 丁香婷婷射| 色色亚洲五月天| 日本人人干| 五月婷婷丁香六月在线| 激情六月天| 综合激情专区| 激情婷婷五月天日本系列| 亚洲综合激情五月久久| 99狠狠| 天天操综合网站| 成人国产欧美大片一区| 色色色婷| 亚洲综合五月| 伊人网色婷婷五月天| 99热 在线观看| 91成人电影| 婷婷久久图片| 五月丁香色情| 久久伦乱| 色九月丁香婷婷蜜桃在线观看| 色六月天天激情综合网| 97亚洲婷婷| 久久免费试看120秒| 99热精品综合| 色婷婷电影网| 久久99婷婷| 天天肏高清在线| 色综合女人99| 99热成人在线观看| 乱精品一区字幕二区| 久久丁香五月综合六月激情红杏视频 | 人妻少妇色综合| 色播色丁香五月| 色情激情五月| 91在线就要啪| 日韩成人网站精品久久大全| 777色色色| 99在线精品视频| 久热69| 情一色一乱一伦一91A| 五月激情综合美女久久| 91av传媒高清在线视频网| 色情丁香五月天| 婷婷五月天激情小说| 异能之下短剧免费观看全集| aaa久久| 99在线视频精品| 五月丁香婷婷深深爱| 草榴视频网| 丁香婷婷情色五月天| 亚洲Av成人在线观看| 五月婷婷在线综合| 五月天婷婷涩涩| 五月天婷婷在线观看| 99热一本| 五月天激情婷婷久久| 青青久久大香蕉| 蜘蛛女侠2003满天星免费观看| 国产第99页| 五月丁香免费看| www,com,五月色色| 停停五月色宗合| www.久久爱.com| 丁香五月情| 久9热| 五月综合色| 丁香婷五月天| 五月综合人妻| 婷婷激情五月天小说校园| 五月婷丁香久久综合| 婷婷五月天免费视频| 九九色院| 五月丁香六月成人| www.狠狠| 五月丁香婷婷综合| 国产精品色色色色| 精品热青草| 天天综合精品| 二级黄色毛片| 五月丁香免费视频| 色丁香五月婷婷婷| 国产国产乱老熟女视频网站97| 欧美色欲色欲天天天www| 九九色黄色| 久久总和99| 九九热a| 中文字幕 中文字幕明步| site:ornaments52.com| 大香蕉人人网| 激情五月婷婷网| 亚洲一色色色色色色色色| 真实的国产乱XXXX在线91| 五月天婷婷爱| 丁香色婷婷| 免费做A爰片77777| 色久五月天| 91凹凸在线| 成人综合网站| 色色色色色色色色网站| 欧洲一区二区| 性一交一乱一交A片久| 操一操| 97香蕉久久超级碰碰高清版| 五月天激情久久| 视色综合| 色五月色五天色情网址| 99热国产精品| 五月婷婷深爱六月| 大香蕉七区| 天天拍天天操| 操人妻视频91| 7月婷婷六月丁香| 日韩中出视频| 天天精品视频免费观看| 性天天中文网|