免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

RocksDB多列簇寫壓力不一致:從機(jī)理到排查治理實(shí)踐

RocksDB多列簇寫壓力不一致:從機(jī)理到排查治理實(shí)踐 1. 一個(gè)典型故障現(xiàn)場(chǎng)高優(yōu)業(yè)務(wù)被低優(yōu)列簇“拖死”先從一個(gè)我自己經(jīng)歷過的case講起。去年年中我們維護(hù)的一個(gè)KV服務(wù)出現(xiàn)了詭異現(xiàn)象RocksDB的寫入P99延遲從平時(shí)的5ms左右直接飆升到接近200ms而且持續(xù)了大半夜。表面上看核心鏈路的寫QPS并沒有明顯增長(zhǎng)負(fù)責(zé)的同事一度懷疑是磁盤老化或者機(jī)器出了物理故障。但翻監(jiān)控就會(huì)發(fā)現(xiàn)一個(gè)關(guān)鍵線索——活躍的寫請(qǐng)求幾乎全部集中在一個(gè)叫biz_log的列簇上。這個(gè)列簇對(duì)應(yīng)的是運(yùn)營(yíng)側(cè)的流水日志數(shù)據(jù)業(yè)務(wù)上允許延遲、甚至允許丟失優(yōu)先級(jí)極低。而真正承載核心交易數(shù)據(jù)的core_data列簇寫請(qǐng)求占比其實(shí)很小。問題的詭異之處就在這里明明低優(yōu)先級(jí)的列簇在瘋狂寫入結(jié)果把高優(yōu)先級(jí)的核心列簇延遲也拉高了幾個(gè)數(shù)量級(jí)。這就是典型的“寫壓力不一致”引發(fā)的事故。多列簇共享同一個(gè)RocksDB實(shí)例運(yùn)行時(shí)不同列簇的寫入負(fù)載天然存在差異——有的高頻小KV有的大批量順序?qū)懹械氖桥紶柕谋l(fā)式寫入。如果只關(guān)注總TPS而忽略每個(gè)列簇的分布寫壓力不一致帶來的連鎖反應(yīng)會(huì)在不經(jīng)意間擊穿整個(gè)服務(wù)的穩(wěn)定性水位。這篇文章不想停留在概念層面而是把多列簇下寫壓力不一致這類問題的機(jī)理、排查鏈路和治理經(jīng)驗(yàn)完整梳理一遍。無論你是在運(yùn)維自建的RocksDB集群還是在業(yè)務(wù)里直接嵌入RocksDB當(dāng)?shù)讓右孢@套方法論都可以直接套用。2. 多列簇的設(shè)計(jì)邏輯與壓力不一致的根源2.1 列簇到底“共享”了什么又“隔離”了什么RocksDB的Column Family列簇經(jīng)常被比作關(guān)系型數(shù)據(jù)庫(kù)里的分表或者邏輯庫(kù)但對(duì)比并不完全準(zhǔn)確。從實(shí)現(xiàn)上看多列簇之間確實(shí)共享了WAL日志、共享同一個(gè)DB實(shí)例的元數(shù)據(jù)、共享同一套后臺(tái)線程池flush線程和compaction線程也共享同一份Block Cache如果你的配置是默認(rèn)的LRUCache。但是每個(gè)列簇內(nèi)部有獨(dú)立的memtable、獨(dú)立的SST文件集合、獨(dú)立的LSM樹層級(jí)結(jié)構(gòu)。這意味著什么最直接的含義是數(shù)據(jù)是邏輯隔離的但計(jì)算資源是物理共享的。無論哪個(gè)列簇觸發(fā)flush占用的是同一批后臺(tái)線程無論哪個(gè)列簇引起compaction風(fēng)暴消耗的是同一批CPU和同一份磁盤IO帶寬。這就能解釋很多“怪現(xiàn)象”了——你用CF1寫熱點(diǎn)數(shù)據(jù)用CF2寫大量低頻日志兩者互不相干但CF2一旦進(jìn)入compaction密集期CF1的讀寫延遲照樣會(huì)被拉高因?yàn)楹笈_(tái)線程池的資源被CF2的compaction任務(wù)吃掉了大半。2.2 不同列簇的寫放大天然不同這是“不一致”的第一推動(dòng)力寫放大Write Amplification這個(gè)概念對(duì)RocksDB使用者來說并不陌生。Leveled Compaction架構(gòu)下寫放大通常在10到30多倍的區(qū)間內(nèi)浮動(dòng)具體取決于數(shù)據(jù)量級(jí)、Level大小比例、compaction觸發(fā)閾值等參數(shù)。但放在多列簇環(huán)境下問題會(huì)進(jìn)一步分化不同的列簇因?yàn)閿?shù)據(jù)特征不同、Key分布不同、刪除操作比例不同寫放大系數(shù)可能天差地別。舉一個(gè)很直觀的對(duì)比。假設(shè)我們有兩個(gè)列簇meta_cfKey為業(yè)務(wù)IDValue很小幾十字節(jié)寫入后很少更新幾乎不刪除。這種數(shù)據(jù)在compaction過程中SST文件可以很快被推到深層Level參與merge的文件數(shù)量相對(duì)少寫放大系數(shù)可能只有10倍出頭。cache_cf頻繁覆蓋寫入同一個(gè)Key而且伴隨大量Delete操作。每次compaction需要反復(fù)merge舊版本數(shù)據(jù)加上刪除墓碑tombstone的存在文件合并的代價(jià)成倍上升寫放大系數(shù)可能輕松突破50倍甚至更高。同樣是一秒寫入1MB數(shù)據(jù)cache_cf給后臺(tái)帶來的磁盤寫入量可能是meta_cf的五倍。如果這兩個(gè)列簇混在同一個(gè)實(shí)例里資源消耗的不均衡會(huì)直接表現(xiàn)為看起來總量不大的寫入請(qǐng)求卻在后臺(tái)撬動(dòng)了超預(yù)期的物理IO。這一點(diǎn)是理解“寫壓力不一致”的核心。很多人在排查故障時(shí)只看前臺(tái)QPS完全忽略后臺(tái)任務(wù)的影響面而多列簇場(chǎng)景下的性能問題多數(shù)時(shí)候恰恰是后臺(tái)的compaction/flush活動(dòng)在暗中主導(dǎo)一切。2.3 觸發(fā)閾值雖然“各自獨(dú)立”但資源池是共享的RocksDB的每個(gè)列簇有獨(dú)立的compaction觸發(fā)閾值。比如level0_file_num_compaction_trigger默認(rèn)是4當(dāng)一個(gè)列簇的L0層SST文件數(shù)達(dá)到4時(shí)會(huì)觸發(fā)Compactionwrite_buffer_size默認(rèn)64MB每個(gè)列簇的memtable寫滿后會(huì)觸發(fā)flush。但注意觸發(fā)是獨(dú)立的執(zhí)行卻不是。后臺(tái)線程池max_background_jobs默認(rèn)是2早期版本是max_background_compactions和max_background_flushes兩個(gè)參數(shù)也就是說不管你有多少個(gè)列簇同時(shí)觸發(fā)compaction同一時(shí)刻能夠并行執(zhí)行的后臺(tái)任務(wù)數(shù)量是固定的。生產(chǎn)環(huán)境里我見過太多類似配置一個(gè)實(shí)例開了五六個(gè)列簇但后臺(tái)線程數(shù)沒調(diào)整過默認(rèn)只有兩個(gè)線程。結(jié)果某個(gè)列簇進(jìn)入大批量寫入后compaction任務(wù)持續(xù)占滿線程池其他列簇的flush等待時(shí)間不斷累積——而flush一旦跟不上memtable的寫入速度就會(huì)觸發(fā)Write Stall也就是全局限速寫。整個(gè)實(shí)例的寫入表現(xiàn)立刻惡化。3. 壓力不一致造成的幾類連鎖反應(yīng)資源競(jìng)爭(zhēng)只是表象壓力不一致導(dǎo)致的連鎖反應(yīng)其實(shí)更值得細(xì)說。很多故障并不是“某列簇把資源吃完了”這么簡(jiǎn)單而是多列簇之間的相互干擾在系統(tǒng)里形成了惡性循環(huán)。3.1 Write Stall這類“全局懲罰”會(huì)被低優(yōu)列簇激活RocksDB的Write Stall機(jī)制是保護(hù)存儲(chǔ)引擎的兜底手段。當(dāng)某個(gè)列簇滿足以下條件之一時(shí)RocksDB會(huì)限制甚至?xí)和K袑懭胱⒁馐撬辛写氐膶懭雖emtable數(shù)量超過max_write_buffer_number默認(rèn)2表明flush跟不上寫入速度L0層SST文件數(shù)超過max_write_buffer_number對(duì)應(yīng)的停寫閾值待compact的字節(jié)數(shù)超過max_compaction_bytes設(shè)置的停滯線問題在于這個(gè)“暫停所有寫入”的懲罰是全局生效的。一旦低優(yōu)先級(jí)的日志列簇因?yàn)閷懭脒^快導(dǎo)致memtable積壓觸發(fā)了Write Stall那么連帶著核心列簇的寫入也會(huì)被按在地上摩擦。在實(shí)際排查中通過RocksDB的rocksdb.db.write.stall相關(guān)監(jiān)控指標(biāo)你能清楚地看到stall事件開始和結(jié)束的時(shí)間點(diǎn)往往和低優(yōu)列簇的高峰寫入窗口高度重合。這個(gè)特點(diǎn)非??右?yàn)樗鼤?huì)讓故障看起來像是核心鏈路自己出了問題——實(shí)際上真正的導(dǎo)火索是隔壁列簇的失控寫入。3.2 Compaction帶寬搶占導(dǎo)致的“吞吐真空”如果Write Stall是明面上的暴擊那么compaction帶寬的搶占就是暗地里的持續(xù)放血。這里的核心矛盾在于不同列簇的compaction任務(wù)在同一個(gè)線程池里排隊(duì)而任務(wù)本身對(duì)磁盤IO的需求差異極大。小文件的compaction可能只需要幾十毫秒大范圍的Level合并可能持續(xù)幾分鐘、幾十分鐘。在多列簇場(chǎng)景下一個(gè)低優(yōu)列簇的大規(guī)模compaction任務(wù)可能把線程池里的Worker長(zhǎng)期占用導(dǎo)致高優(yōu)列簇的小型compaction任務(wù)排隊(duì)等待。更深一層的問題是L0層及早期Level的compaction延遲會(huì)反向加劇寫放大。如果L0到L1的compaction遲遲不能推進(jìn)L0文件不斷堆積會(huì)導(dǎo)致查詢性能下降同時(shí)后續(xù)的compaction需要合并的文件數(shù)量變大產(chǎn)生不必要的額外IO。最終的結(jié)果是低優(yōu)列簇“持續(xù)放血”的同時(shí)高優(yōu)列簇也在被迫吞下被放大的寫開銷。3.3 列簇之間內(nèi)存分配的隱形沖突還有一個(gè)容易被忽略的點(diǎn)Block Cache。默認(rèn)情況下多個(gè)列簇共享同一個(gè)Block Cache。數(shù)據(jù)熱度的差異會(huì)導(dǎo)致列簇間對(duì)緩存的爭(zhēng)搶——高優(yōu)列簇的熱點(diǎn)數(shù)據(jù)可能被低優(yōu)列簇的scan操作沖擊頻繁被淘汰讀放大因此上升。如果某個(gè)列簇的數(shù)據(jù)量極大且經(jīng)常做全表掃描這種“緩存污染”效應(yīng)會(huì)非常明顯。經(jīng)典案例是一個(gè)在線服務(wù)里用RocksDB存了兩種數(shù)據(jù)一種是核心配置讀多寫少、體積小、高優(yōu)另一種是歷史痕跡列表偶發(fā)全量掃描、體積大、低優(yōu)。結(jié)果因?yàn)楣蚕鞡lock Cache核心配置的命中率被低優(yōu)列簇的scan擠到腳踝白白多了大量磁盤讀。4. 定位多列簇寫壓力問題的完整排查鏈路說實(shí)話多列簇寫壓力問題的排查之所以讓人頭大是因?yàn)楸砻姘Y狀通常是“整體變慢”而不是“某個(gè)列簇變慢”。從監(jiān)控圖上看可能只有整體延遲在漲、磁盤IO在漲很難一眼鎖死根因。這里分享一套我用下來比較順手的排查路徑。4.1 第一步分列簇確認(rèn)寫入量分布而不是看總量打開RocksDB的STATISTICS或者接入Prometheus后監(jiān)控rocksdb.cf.write.nanos之類的指標(biāo)先把每個(gè)列簇的寫入耗時(shí)和請(qǐng)求量分開看。這一步的關(guān)鍵是回答一個(gè)問題到底是誰在寫我習(xí)慣先把每個(gè)列簇的QPS、每秒寫入字節(jié)數(shù)拉出來做對(duì)比。如果發(fā)現(xiàn)某個(gè)列簇的寫入量占了總量的八成以上但業(yè)務(wù)上它并不屬于核心鏈路那么壓力不一致就已經(jīng)坐實(shí)了。這里補(bǔ)一個(gè)容易踩的坑很多人只看QPS每秒請(qǐng)求數(shù)不看寫入字節(jié)數(shù)。但RocksDB的寫入耗時(shí)更多是由數(shù)據(jù)量級(jí)決定的而不是請(qǐng)求次數(shù)。一個(gè)寫1MB大Value的請(qǐng)求可能抵得上一千個(gè)小Value請(qǐng)求的壓力。所以務(wù)必兩個(gè)指標(biāo)一起看。4.2 第二步解析Compaction Stats找出寫放大異常的列簇RocksDB提供了一個(gè)非常重要的工具方法GetCompactionStats()或者是通過db_bench、ldb等工具導(dǎo)出的compaction統(tǒng)計(jì)信息能按列簇列出Compaction次數(shù)與耗時(shí)讀入/寫出的字節(jié)數(shù)寫放大系數(shù)寫入磁盤字節(jié)數(shù) / 新寫入數(shù)據(jù)量實(shí)戰(zhàn)中我通常會(huì)重點(diǎn)盯“寫放大系數(shù)”這個(gè)值。正常業(yè)務(wù)場(chǎng)景下Leveled Compaction的寫放大在10到30倍之間是可接受的。如果某個(gè)列簇長(zhǎng)期處在40倍、50倍以上就說明這個(gè)列簇的compaction設(shè)計(jì)有問題——要么刪除操作過多、要么Level層數(shù)不合理、要么Key分布導(dǎo)致merge代價(jià)過高。下面的表格可以作為一個(gè)快速參考列簇名稱寫入速率寫放大系數(shù)Compaction耗時(shí)占比風(fēng)險(xiǎn)等級(jí)core_data2MB/s12x20%低biz_log15MB/s35x55%高cache_cf5MB/s48x65%高如果biz_log和cache_cf這兩個(gè)列簇和core_data共享同一個(gè)實(shí)例那么core_data的延遲隨時(shí)可能被它們拖垮。4.3 第三步用慢日志和堆棧確認(rèn)“誰在等待”監(jiān)控?cái)?shù)據(jù)顯示是低優(yōu)列簇在刷寫但最終確認(rèn)還需要看請(qǐng)求級(jí)別的等待。RocksDB的rocksdb.db.write.stall.micros指標(biāo)可以告訴你寫停頓時(shí)長(zhǎng)“compaction”相關(guān)的等待則經(jīng)常出現(xiàn)在rocksdb.db.compaction.pending這類指標(biāo)里。如果看到待處理compaction的字節(jié)數(shù)在持續(xù)堆積另一個(gè)信號(hào)是后臺(tái)線程池打滿。更進(jìn)一步的做法是抓取RocksDB線程池的運(yùn)行狀態(tài)通過ThreadStatus能查看后臺(tái)線程當(dāng)前執(zhí)行的任務(wù)屬于哪個(gè)列簇、是flush還是compaction、已經(jīng)執(zhí)行了多久。當(dāng)某個(gè)低優(yōu)列簇的compaction任務(wù)長(zhǎng)時(shí)間霸占工作線程時(shí)這個(gè)工具能直觀暴露問題。實(shí)測(cè)下來這個(gè)定位手段比單純看監(jiān)控指標(biāo)高效得多因?yàn)樗苤苯咏ⅰ熬€程——列簇——任務(wù)類型”的對(duì)應(yīng)關(guān)系。4.4 第四步結(jié)合系統(tǒng)指標(biāo)交叉驗(yàn)證最后交叉驗(yàn)證一下磁盤層的情況。寫壓力不一致導(dǎo)致的問題絕大多數(shù)都會(huì)映射到IO層。用iostat看%util、avgrq-sz、await幾個(gè)關(guān)鍵值。如果發(fā)現(xiàn)磁盤帶寬明顯被打滿再看是隨機(jī)寫居多還是順序?qū)懢佣唷猚ompaction產(chǎn)生的寫入更多是順帶批量性質(zhì)的順序?qū)懚芭_(tái)業(yè)務(wù)寫入往往是隨機(jī)寫。如果兩種IO特征交織在一起且隨機(jī)寫的平均時(shí)延遠(yuǎn)高于正常水平多半就是compaction在搶磁盤尋道時(shí)間。這套“分列簇看指標(biāo) → 解析compaction → 抓等待線程 → 交叉驗(yàn)證IO”的鏈路走下來基本能快速鎖定到底是誰在制造壓力。剩下的問題就是怎么治理。5. 從參數(shù)調(diào)整到架構(gòu)拆分治理方案與權(quán)衡治理方案不能一拍腦袋就定。你需要先明確一點(diǎn)壓力不一致是正常的完全消除不一致既不現(xiàn)實(shí)也沒必要。真正該做的是阻斷不一致帶來的跨列簇傷害。下面按投入成本從低到高給出幾個(gè)可行的方向。5.1 優(yōu)先調(diào)整后臺(tái)線程池別讓“默認(rèn)值”背鍋如果在生產(chǎn)環(huán)境采用多列簇方案第一件事就是把max_background_jobs調(diào)大。一般建議至少和CPU核數(shù)掛鉤比如8核機(jī)器可以設(shè)為416核可以為8。但要留意后臺(tái)線程數(shù)是CPU和磁盤IO之間的權(quán)衡調(diào)大了會(huì)帶來更頻繁的任務(wù)切換和內(nèi)存開銷實(shí)際需要實(shí)測(cè)調(diào)整。還有另一個(gè)容易被忽略的參數(shù)max_subcompactions。它允許單個(gè)compaction任務(wù)被拆分為多個(gè)子任務(wù)并行執(zhí)行對(duì)緩解單個(gè)大列簇獨(dú)占線程池的問題很有幫助。配合max_background_jobs調(diào)整能讓大體積的compaction更快完成減少長(zhǎng)時(shí)間占用線程池的概率。5.2 給低優(yōu)列簇套上“軟限速”RocksDB原生提供了RateLimiter機(jī)制可以在全局層面限制寫入速度。新版RocksDB支持按列簇設(shè)置不同的寫入速率上限。思路是這樣的給低優(yōu)列簇日志、流水、歷史數(shù)據(jù)設(shè)置一個(gè)相對(duì)嚴(yán)格的寫入限速比如50MB/s。給高優(yōu)列簇留足余量別讓限速成為瓶頸。這個(gè)方案的優(yōu)點(diǎn)是改動(dòng)小、見效快。缺點(diǎn)是RateLimiter的粒度比較粗它限制的是寫入請(qǐng)求本身的速率不能直接控制compaction的消耗速度。在實(shí)操中還可以結(jié)合SlowdownWrite和StopWrite兩套閾值階梯設(shè)置讓低優(yōu)列簇在堆積時(shí)先降速再全停而不是一下子拖累全局。5.3 調(diào)整觸發(fā)與Level策略讓低優(yōu)列簇“少折騰”面對(duì)寫放大異常偏高的列簇調(diào)整Compaction策略能從根本上減少后臺(tái)資源消耗。對(duì)寫入量大但歷史數(shù)據(jù)不需要頻繁讀取的列簇考慮使用Universal Compaction Style。它的寫放大通常低于Leveled適合“寫多讀少、導(dǎo)入型”數(shù)據(jù)。對(duì)于存在大量覆蓋寫和刪除的列簇適當(dāng)調(diào)大write_buffer_size讓更多數(shù)據(jù)在內(nèi)存中完成合并減少早期的flush與compaction頻率。對(duì)低優(yōu)列簇可適當(dāng)提高level0_file_num_compaction_trigger讓L0層多積壓一些文件再觸發(fā)compaction減少小文件合并的“折騰”次數(shù)。但這會(huì)讓L0層查詢性能略降需要權(quán)衡。這些方案的核心思路其實(shí)就一句話讓不同列簇通過不同的內(nèi)部策略去匹配自己真實(shí)的數(shù)據(jù)訪問模式減少不必要的后臺(tái)負(fù)擔(dān)。5.4 物理隔離把壓力不一致控制在架構(gòu)層面如果參數(shù)調(diào)整已經(jīng)做到位故障依然反復(fù)出現(xiàn)那就需要考慮更徹底的方案——物理隔離。常見的做法有幾種按業(yè)務(wù)優(yōu)先級(jí)拆DB實(shí)例核心數(shù)據(jù)放一個(gè)RocksDB實(shí)例日志數(shù)據(jù)放另一個(gè)實(shí)例。不同實(shí)例走不同的線程池、不同的磁盤、不同的部署單元。這是最徹底也是成本最高的方案。多目錄/多盤部署如果一個(gè)實(shí)例拆不了至少在系統(tǒng)層面把不同列簇的SST目錄拆到不同磁盤上。RocksDB支持--dir參數(shù)指定列簇的數(shù)據(jù)目錄這樣compaction的IO落盤壓力可以分散。容器化隔離給高優(yōu)列簇對(duì)應(yīng)的實(shí)例單獨(dú)設(shè)置CPU綁核避免和低優(yōu)列簇爭(zhēng)搶CPU資源。這里提醒一下拆實(shí)例并不是萬能的。拆分后需要處理跨實(shí)例的數(shù)據(jù)一致性、備份任務(wù)變多、監(jiān)控復(fù)雜度上升等額外問題。所以我通常建議先做參數(shù)和限速層面的治理把物理隔離當(dāng)作最后一步的大招。6. 從一次真實(shí)壓測(cè)看多列簇調(diào)優(yōu)的見效過程理論說再多不如看一組實(shí)測(cè)數(shù)據(jù)。我曾經(jīng)在一個(gè)模擬業(yè)務(wù)場(chǎng)景下做過一次對(duì)比壓測(cè)兩個(gè)列簇一個(gè)模擬核心交易數(shù)據(jù)一個(gè)模擬突增的日志寫入。初始配置下兩個(gè)列簇共享默認(rèn)后臺(tái)線程不區(qū)別處理。當(dāng)日志列簇寫入速度從5MB/s拉高到30MB/s時(shí)核心列簇的寫入P99直接從8ms漲到了96ms。隨后我做了三件事將max_background_jobs從2調(diào)到6并把max_subcompactions設(shè)為4給日志列簇單獨(dú)配置了RateLimiter限速在50MB/s以內(nèi)同時(shí)將它的write_buffer_size從64MB調(diào)大到128MBlevel0_file_num_compaction_trigger從4提升到8將核心列簇單獨(dú)分配到一塊獨(dú)立的SSD目錄。同樣的壓測(cè)場(chǎng)景下核心列簇的寫入P99回落到10ms左右日志列簇自身的吞吐雖然受到一定約束但業(yè)務(wù)上完全可以接受。這個(gè)調(diào)整過程實(shí)際上就是把“不可控的資源搶占”變成了“可控的資源分配”——前者讓人心慌后者讓人安心。有一點(diǎn)很值得注意壓測(cè)驗(yàn)證的時(shí)候不要只測(cè)“正常狀態(tài)”一定要測(cè)“極端狀態(tài)下的隔離性”。也就是說在日志列簇瘋狂寫入時(shí)核心列簇的指標(biāo)是什么表現(xiàn)。只有極端場(chǎng)景下才能暴露出參數(shù)的真實(shí)短板。這也是我在實(shí)戰(zhàn)中反復(fù)強(qiáng)調(diào)的一點(diǎn)——性能不是“平均狀態(tài)”下的性能而是“有人搗亂時(shí)”的性能。7. 幾點(diǎn)實(shí)錄經(jīng)驗(yàn)與最后的建議最后分享幾個(gè)我自己在多列簇運(yùn)維中總結(jié)的零散心得不按教程順序純粹是踩坑換來的經(jīng)驗(yàn)。第一監(jiān)控一定按列簇維度去做不要只做DB總維度。RocksDB暴露了豐富的列簇級(jí)指標(biāo)但默認(rèn)的Prometheus采集配置有時(shí)候不會(huì)區(qū)分列簇標(biāo)簽。如果沒有做這一層故障發(fā)生后你只能憑猜測(cè)定位效率極低。哪怕初期只接核心列簇的指標(biāo)也比沒有強(qiáng)。第二對(duì)寫壓力不一致要有預(yù)期管理。我在設(shè)計(jì)存儲(chǔ)方案時(shí)通常會(huì)在需求階段就評(píng)估每個(gè)列簇的真實(shí)寫入特征——是高頻小寫還是批量大包、是否包含大量Delete、數(shù)據(jù)生命周期多長(zhǎng)。這些特征直接決定列簇的參數(shù)配置方向。而不是把所有列簇都當(dāng)成同一種負(fù)載來對(duì)待等到線上出問題了再追悔莫及。第三調(diào)參一定要記錄基線。RocksDB的參數(shù)調(diào)優(yōu)高度依賴具體場(chǎng)景同樣的參數(shù)在不同機(jī)器、不同數(shù)據(jù)量下表現(xiàn)可能完全不同。每次做參數(shù)調(diào)整我習(xí)慣在變更記錄里寫清楚改了什么、為什么改、預(yù)期收益是什么、實(shí)際結(jié)果如何。長(zhǎng)期沉淀下來這些記錄比任何官方文檔都值錢。第四高危列簇寧可不共享實(shí)例。如果有一個(gè)列簇明確是“批量導(dǎo)入型”或者“日志型”而資源預(yù)算又充分我的建議是直接物理拆分出去不要賭它不會(huì)干擾其他列簇。一次線上事故的代價(jià)可能會(huì)遠(yuǎn)超一臺(tái)額外機(jī)器的成本。RocksDB的多列簇設(shè)計(jì)本身是優(yōu)秀的它讓我們能在同一個(gè)實(shí)例里優(yōu)雅地組織不同業(yè)務(wù)的數(shù)據(jù)。但越是靈活的機(jī)制越需要精確的治理。寫壓力不一致帶來的連鎖反應(yīng)本質(zhì)上是一個(gè)資源調(diào)度問題——理解了底層共享與隔離的邊界你就能在故障發(fā)生前提前布防而不是在故障發(fā)生后疲于奔命。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久98| 青草热视频这里只有精品| 久久精品系列| 亚洲欧洲中文日韩久久AV乱码| 99爱爱网| 五月丁香综合| 亚洲狠狠干| 久久婷婷的综合色丁香五月| 久久女婷| 丰满人妻一区二区三区| 久久婷婷亚洲| 另类色网| 五月婷中文娱乐综合| 综合一本道| 婷婷五月精品| 深爱激情五月网| 五月婷视频久久| 丁香久久| 综合五月天| 婷婷狠狠久久| 婷婷久久性爱| 欧美亚洲色色色色| 1024人妻| 狠狠干综合| 五月丁香六月激情综合啪啪| 久青操| 99热8| 在线观看中文字幕| 都市激情五月婷婷综合| 综合性爱网| 久久99久久99久久99| 丁香五月欧美激情| 婷婷国产日本欧美| 色婷綜合网| 一区中文字幕电影| 777久久久| 亚洲日日日| 色婷婷激情视频| 伊人9草在线观看| 99视频免费播放| 亚洲成人在线播放| 精品夜夜澡人妻无码AV| 中文字幕视频在线播放| 超碰1999| 成人在线视频一区| 思思热在线播放| 日韩性视频| 日本99久久| 婷婷五月天亚洲丁香| 色婷婷久久天天性爱| 国产成人精品亚洲线观看| 俺去也综合| 97香蕉碰碰人妻国产欧美| 欧美性丁香色色五月天干干| 成人精品在线观看| 婷婷五月激情基地| 久久综合99综合| 4399在线日本A片| 天天摸天天高潮天天爽| 日日操夜夜爽天天天| 91九色国产熟女| 99色.com| a色色色色色| 91n网站cad入口在线观看| 99热免| www超碰| 99视频只有精品| 人人操AV| 国产综合A片| 久久精品国产AV一区二区三区 | 九九碰九九爱97| 激情深爱五月天| 五六月丁香激情视频| 无码人妻激情| 色综合久久天天综合网| 激情亚洲五月| 婷婷开心综合人妻小说网址| 欧美丁香五月| 69精品人人人人| 日本大人久久| 五月婷婷激情综合| 在线观看熟女少妇| www.日日日.com| 婷婷五月丁香激情色情| 激情99| 五月丁花六月丁香综合| 四色99久久| 国产精品扒开腿做爽爽爽A片唱戏 亚洲爆乳无码精品AAA片蜜桃 | 久久婷婷桃花五月天| 大地资源色婷婷视频在线| www.超碰97| 免费操超碰| 丁香婷婷五月天成人| 免费看欧美成人A片无码| 欧美A级成人婬片免费看理论| 亚洲激情网| 丁香五月婷婷社区| 99色6爱9热| 丁香婷婷色情社区成人小说| 五月天大香蕉婷| 26UUU欧美| 日日影院 | 色婷婷超碰| 五月色丁香综合| 久久综合丁香五月| 狠狠爱婷婷爱| 欧美性猛交99久久久久99按摩| 1024你懂的欧美曰韩| 婷婷丁香社区网| 五月婷婷综合精品| 免费视频WWW在线观看网站| 五月丁香狠狠爱婷婷综合| 久久婷网| 视色网在线播放| 五月五婷婷| 欧美成人精品三区综合A片| 99色色网| 超碰免费人妻| 九九人人精品| 超碰九热| 天天日天天做天天操| 超碰九九热| 香蕉网婷婷| 少妇婷婷五月天| 日韩 中文 欧美| 五月丁香六月欧美| 99在线精品免费视频| 五月天婷婷色色网| 久久综合天天综合| av操逼网| 五月婷婷m| 人妻久久久| 久久桃花网色婷婷| 在线成人网站| 丁香婷婷91在线观看视频| 欧美亚洲999| 五月丁香久久综合精品| AA片在线观看视频在线播放 | 丁香五月色网| 久99久在线观看| 人妻在线观看视频| 噜噜色婷婷| 久久大香蕉丁香| 中文网AV| 爱久久小说下载网| 国产成人99久久亚洲综合精品| www.婷婷| 久久9精品| 天天天天干| 丁香婷婷综合喷| 亚洲性爱99在线| 久久婷婷91| 婷婷五月激情五月丁香五月| 五月丁香色婷婷| 亚洲成人精品三区| 中美日韩成人在线| 操操操www.com| 婷婷丁香六月| 亚洲婷婷六月天| 婷婷在线视频| 午夜丁香| 99精品国产乱码久久久人妻| 五月婷婷自拍| 激情综合网激情五月天| 99热97| 色婷婷五月色| 91狠狠色| 超碰二区| 国产欧美熟妇另类久久久| 丁香五月天天哦| 色久综合| 久久婷五月综合色| 99久久久久久久| 色色热| www,com,五月色色| 夜夜大香蕉婷婷丁香| 免费看成人747474九号视频在线观看| 99色视频| 久久丁香五月| 丁香狠狠| 九月av在线| WWW.桔色成人.COM| 手机AVAV天堂看网| 99噜噜| 五月激情六月宗合| 久久久五月四色| 黑人熟妇一区二区三区| 午夜天堂一区人妻| 日韩操逼大片| 色999;丁香五月| 美国天天操无码| 亚洲综合婷婷| 99 热| www.超碰| 超碰成人在线观看| 2025色婷婷| 丁香婷婷五月综合| 色五月人妻| 婷色五月| 日本婷婷激情四射中文字幕在线观看| 91综合在线| 丁香色啪综合| 91婷婷| 伊人狼人干| 色综合射婷婷| 色婷婷婷婷成人网| 久热九九| 六月婷婷七月丁香| 婷婷色综合网日韩国产| 成人视频网| 亚洲AV成人精品网站在线播放| 碰超99| 色婷婷久久| 99色.com| 五月综合六月婷婷| 国产伦亲子伦亲子视频观看| 五月丁香六月综合图| 色婷婷五月天激情| 婷婷五月综激情| 99久久九九视频| 色99热| 日本特黄aaaaa| www.黄色片-久久成人国产精品在线播放-999AV | 久久只有这里精品免费| 丁香六月激情| 97极品在线| 超碰在线50| 五月丁香六月激情欧美综合| 夜色综合网| 婷婷综合在线观看视频| 色婷綜合网| 久久xxxx| 成人AV免费观看| 久久99免费视频| 狠狠操狠狠| 久久狠色噜噜狠狠狠狠97| 91xxxx九色| 色狠狠婷婷| 九九久久精品| 久久人妻精品| 国产成人精品一区二三区熟女在线| 日韩一级网站| 婷婷五月丁香91| 在线1青婷| 激情五月亚洲| www.五月.com| 久久久全国免费视频| 玖玖无码中文| 婷婷爱五月天| 专区无日本视频高清8| 97福利视频| 啪啪黄页网| 激情五月丁香亭亭| 亚洲AV网站在线观看| 婷婷激情六月| 人人操AV| 五月丁香影视| 丁香五月婷婷图片综合| 狠狠色九月| 色婷婷色丁香色欲av| 丁香五月欧美婷婷综合| 色婷婷五月丁香色| 久久久欧美精品sm网站| 久久久18| 色色丁香五月婷婷| 久机视频这只有精品| 亚洲色色香蕉| 激情五月天无码| 色色网站在线免费观看视频| 91久久久久久久| 久久色婷婷| 激情久久久| 天堂色色色| 成人AV中文字幕| A在线观看| 日韩九区| 婷婷五月深爱五月| 狠狠综合久久| 成人αV视频免费观看| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 这里只有国产精品在线| 九九成人视频| 亚洲中文字幕网| 亚洲无AV在线中文字幕| 亚洲AV无码成人精品区电影网| www91在线| 亚洲综合色色| 五月丁香婷婷中文网| 五月 婷婷 成人| 天天色天天| 天堂草在线观| www婷婷| 99热超碰| 精品亚洲国产成AV人片传媒| 婷婷亚洲激情在线观看视频| 少妇性按摩无码中文A片| 婷婷性爱| 人妻中文av| 免费黄色片子| 色五XX| 六月婷婷久久| 亚洲99热| 青青草a在线| 热久久99热欧美国产亚洲| 五月丁香欧美综合| 婷婷六月天国产综合| 天天干天天操天天射| 五月天国产成人| 26uuu亚洲欧美| www.狠狠干com| 婷婷色五月开心五月| 婷婷五月天影院| 色八戒操婷婷| 五月丁香久久综合精品| 色播五月网| Caoub青青超碰| 99操99| 五月婷婷丁香社区| 九九视频在线观看视频6| 色情五月| 五月天五月天成人网亭亭成人色网站| 亚洲蜜桃精久久久久久久久久久久| 日日做A爰片久久毛片A片英语| 亚洲视频码| 人人色人人摸人人看| 五月婷婷六月情| 色爽干| 久99| 女婷久久| 99热综合网| 再綫Av免费視品| 99在线视频精品| 99久久9| 97碰碰人人视频| 亚洲成人AV在线播放| 人人干AV| 欧美色男人网站| 久久婷五月天| 99热这里只| 六月激情丁香一道本7777| 嫩草视频在线观看| 操操天堂| 182.t午在线观看| 丁香五月天激情婷婷丁香六月| 国产精品爽爽久久久久久| 国产探花一片区| 深爱婷婷色| 99热国产免费| 九九热视频精品2| 97久久人人操| 99ri视频| 国产一级片| 天天射影| 久热99热| 91九色在线| 人人操人人干AV| 久久婷婷五月天激情| 亚洲天堂aaa| 日韩性爱AV| 这里只有国产精品在线| 91九九九九九九| 婷婷五月天免费| 日韩成人中文| 婷婷六月天激情| 欧美丰满熟妇BBB久久久| 无码四色色色| 免费观看欧美成人AA片爱我多深| 色色亚卅| 99精品高潮| 伊人激情影院| 99精品热| 国产露脸150部国语对白| 五月视频日本免费观看| 婷婷丁香五月天激情四射| 五月丁香六月情亚洲| 欧美A片在线视频免费观看| 五月婷婷久草在线视频综合| 97很鲁在线视频| 天天插轮理| 丁香五月婷婷老师网站| 97人人操人人| 丁香六月婷婷综合麻豆| 日韩精品VIP| 五月婷婷六月情| 97在线精品视频| 五月天伊人网| 色五月视频,小说| 丁香五月ⅤA久久久| 五月婷婷六月丁香五月| anquye伊人| 337久久| 色五月天婷婷| 天天日天天干天天爱| 精品人妻一区二区三区在| 常久最新免费的色吊丝| 99视频在线| 国产古装妇女野外A片| 五月婷色啪| 色欲五月婷婷| 久草婷婷网| 婷婷六月综合激情| 亚洲色爽| 99热免费精品| 狠狠婷婷综合| 亚洲成人免费电影| 亚洲综合五月天婷婷| 啪啪综合网| 97人碰人操| 婷婷操超碰| 五月婷婷狠天天色综合| 久久婷婷网| 成人AV在线中文版| 婷婷开心激情| 成人在线99| 97色色色视屏| 黄色片区子| 黄色av网站在线免费播放| 99ri国产在线| 偷拍五月丁香| 九九热视频免费| 天天噜日日噜综合无码| 91色色色视频| 日韩AV免费电影在线播放| 婷婷五月香蕉| 99热成人| 五月婷天天搞视频| 色婷婷六月精品| 九九色影视| 欧美色偷偷大香| 嫩草AV久久伊人妇女超级A | 人妻六月天| 99热精品在线观看| 91欧美| 亚洲另类视频| 99自拍视频| 热九九九九| 99热热热99精品丁香| 婷婷天堂站| 小视频久久久aaa| 性爱电影科技贸易有限公司| 五月天激日本色情在线| 色就是色婷婷五月亚洲激情| 久久久97| 99精品久久久| 91黄址| 丁香五月123| Aaa久久| 天天操夜夜操| 中文字幕日产A片在线看| 久久伊人大香蕉| 97操碰在线视频| 激情开心五月天婷婷基地丁香社区| 久久五月激情综合| 久久丝袜婷婷| 99精品自拍视频| 亚洲综合另类| 国产免费AV在线| 开心婷婷中文字幕| 亚洲天堂啪啪| 婷婷伊人綜合中文字幕小说| 看片视频在线免费日产在线看| 色爱99| 综合XX网| 久久久久9| 人妻九九九九| 综合色五月| 99久久6| 久久婷婷综合五月天| 丁香五月婷久久| 婷婷亚洲影院| 色狠狠综合| 成人在线日韩| 丁香综合| 99伊人婷婷在线| 久热婷婷在线视频| 五月丁香999| 色色色五月婷婷| 亚洲成人在线播放| 五月天堂婷婷| 久久人妻www| 激情五月婷婷开心网| 色五月丁香婷婷| 成人精品人妻| 日本欧美成人片AAAA| 日本少妇裸体做爰高潮片 | 综合aV在线| 91在线精品一区二区| 国产99久9在线+|+传媒| 亚洲无线视频| 九九一综合精品| 婷婷五月情天| 99色婷婷视频| 精品国产乱码久久久久久免费| 色婷婷六月| www.玖玖婷婷在线| 伊人婷婷青青cao| sewuyuejiqingwang| 精品久久66| 91视频一起草| 91天天操天天干天天射| 天堂婷婷丁香六月网| 丁香六月婷婷激情| 欧美婷婷综合| 99综合99| 久久婷婷五月国产激情综合片| 婷婷五月色网| 国产成人av在线播放| 国产成人精品亚洲线观看| 丁香五月色激情| 色婷婷a v| 26UUU成人网| 五月天婷婷婷| 六月色婷婷| 91seAV| 激情五月天婷婷直播| 婷婷五月色网| 婷婷激情综合| 人妻aV在线| www 五月天 com| 综合视频久久| 婷婷桃色网| 五月激情丁香五月| 五月天久久综合| 国产精品久久久爽爽爽麻豆色哟哟| 香蕉中文在线| 人妻肉射免费观看| 色色色色色色色色网站| 色婷婷丁香社综合| 综合在线丁香五月| 黄网在线免费观看| 97人人操人人拍| 久热精品视频在线观| 五月天婷婷丁香社区| 亚洲va成人va成人va在线观看| 97操碰在线97| 亚洲精品操一操、噜一噜、摸一摸、爽 | 另类综合婷婷五月天欧美视频| 99热爱爱干干日| 五月天婷婷激情六月久久| 激情婷婷五月亚洲| 91爱啪啪| 插逼综合网| 婷婷五月天激情五月天深爱五月天| 久久综合激情| 丁香五月激情宗合网| 亭亭玉月丁香| 99丝袜精品视频网站| 五月激激网w'w'w| 五月天天天色| 色五月首页| 久久激情天堂| 99热这里有精品首页10| 色综合色| 啪啪夜久久| www.五月瑟| 99燥99日| 这里只有免费的精品| 六月激情婷婷| 日本女天天爽| 九九热在线视频| 99在线观看亚洲| 99无码视频| 五月婷婷啪啪啪| 久久999久久999久久999久久| 超级久久久| 丁香婷婷五月基地| 狠狠色九月| 色色色免费视频| 碰人人97| 色婷婷电影网| 色噜噜狠狠色综合网| 九九色播五月丁香| 久热黄色| 丁香婷婷六月| 精品无码色欲AV| 中字幕视频在线永久在线观看免费 | 色吧网综合| 天天做天天爱天天玩夜夜爽 | 饮料下药迷倒漂亮女同事强干| 色情五月天导航| 婷婷五月花.97| 五月伊人视频在线看| 亚洲午夜在线视频| 婷婷五月激情视频在线| WWW免费视频碰碰碰碰| 午夜成人综合| 99热 这里只有精品 国产 日韩| 久久伊人大香蕉| 男人综合网| 超级久久久| 91丨九色丨熟女丰满| 99热偷拍| 怡红院AV亚洲一区二区三区H| 婷婷五月天激情AV影院| 玖玖五月丁香| 99免费视频| 久久这里只有精品网| 丁香五月激情五月色综合| 91午夜激情| 激情伊人| 九九丁香社区欧美激情| 丁香五月在线播放| 黄色大片又大粗又爽| www.9操| 丁香五月婷婷AV在线| AV在线资源| 成人国产欧美大片一区| 色婷婷亚洲五月天| 青青操绿aaa一区日v| 久久九九思思| 香蕉久久国产AV一区二区| 丁香婷婷人妻综合网| 天天婬色综合| 伊人五月天| 这里只有精品视频一区| 99ri在线视频| 91传媒无码人妻精| 精品久热| 99色在线观看视频| 综合五月激情| 伊人婷婷91| 五月天色丁香| 六月丁香婷啪射| 天天操天天曰天天射| 色色五月天婷婷| 五月婷婷真爱激情网| AV色五月婷婷| 视频1区2区| 亚洲成av人影院| 婷婷丁香六月| 婷婷五月天激情五月天网站| 女人露出p毛视频www网站| 碰人人97| 操碰色一区就去操| 亚洲热视频| 99国产精品久久久久久久久久久| 五月天色网站| 成人欧美一区二区三区在线观看| 99九九热在线观看| 久久国产高潮白浆免费观看99| 啪啪综合网| 99色综合网| 激情综合激情五月一起草| 电影《战争与艾拉》免费观看| 99久久97久久欧美综合网| 五月天综合在线网| 99在线精品免费视频| 久久9精品| 亚洲色热| 五月丁香六月情| 99视频在线观看欧| 开心婷婷五月花| 久久久久久欧美精品se一二三四| 91久久色| 色综合视频| 伊人久久婷婷| 激情婷婷综合| 97色色-99久久| 狠狠色噜噜狠狠狠狠综合| 中文成人在线| 9 1在线视频| 日韩爱操视频| 亚洲国产成人裸舞| 五月婷深深爱激情网| 成人精品网站在线观看| 五月婷婷综合成人| www色婷婷| 最新久久网址| 婷婷五月天影院| 天天操无码| 免费婷婷| 亚洲五月花| 热久久99热欧美国产亚洲| 99热这里都是精品| 伊人五月天在线| a网站免费观看| 国产精产国品一二三在观看| www,色色色网站| 久久开心五月天激情| 99这里只有| 丁香五月婷婷在线| 色呦呦美女| 五月大香蕉| 思思久久99| 99在线免费观看| 欧美成人AAA片一区国产精品| 99热这里有精品| 少妇伦子伦精品无吗| 成人国产网站在线免费看| 丁香婷婷成年| 六月丁香成人| 大香蕉久艹| 丁香五月 综合| 深爱五月亚洲| 色色综合成人网| 91 九色 入口| 先锋五月婷婷丁香草草| 久久久久久久久久久久久久人妻视频| 天天操天天操综合| 怡红院一二三| 久9热| 黄桃AV无码免费一区二区三区| AⅤ网站在线看| 久9视频| 欧美色五月| 亚洲AV久久久久久久久久久久久久久久 | 五月丁香网av| 天天色激情| 99九九玖玖| 亚洲成人在线播放| av电影在线播放| 超碰99热| 五月丁香花激情综合网| 色婷婷狠| 97caop| 亚洲小电影在线观看黄999| 人妻激情综合| 亚洲字幕AV一区二区三区四区| 1024在线观看免费视频| 色婷婷五月开心六月综合| 99视频精品全部免费观看| 亚洲精品99| 五月丁香激情婷婷综合| 日本婷婷在线| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 丁香五月天狠狠操| 激情婷婷丁香色五月综合| 天天天久久人人人合| 激情五月五月婷婷| 91大神在线免费看视频全集男男一起操| 五月婷婷丁香大陆免费| 亚洲久久婷婷| 综合久久99| 91九色成人原创视频| 五月丁香六月婷婷,婷| 99A片| 丰满少妇猛烈A片免费看观看| 停停五月色宗合| 久久er+| 五月婷婷天堂| 超级碰碰视频无码| 另类激情五月| 色婷婷婷婷| 99热加勒比| 热99热9| 天天爽人人综合免费7799| 日本在线视频看se99| 新99色色色色色色| 少妇高潮一区二区三区99欧美| 99精品免费| 欧美婷婷色| 六月丁香成人| 六月婷婷色综合| 久久超视频| 色狠狠色噜噜AV天堂五区消防| 欧美经典片免费观看大全| 天堂久久精品| 99啪99| avv在线| 综合九九| 狠狠色综合图片| 极品 少妇 内射| 深爱激情五月天| 成人视屏在线观看| 伊人久久婷| 婷婷色色欧美| 66成人网| 色五月偷偷| 婷婷五月天色播| 亚洲色图啪啪| 99精品小视频| 97日日碰碰| 婷婷在线免费| 丝雨一区二区| 午夜五月天| 五月婷婷,六月婷婷| 色色综合网络| 大香伊人婷婷影院| 天天插天天插天天插天天插| Caoporn公开| 婷婷久久综合久色| 久久大香蕉伊人| 五月天成人综合| 密乳Va| www.婷婷五月天| 婷婷色播婷婷| 亚洲精品亚洲人成人网| 久久久er热| 久久在线视频免费观看| 操你av| 久久99免费视频| 狠狠狠色激情综合适合| www.henhenl| 91蜜桃婷婷狠狠久久综合9色| 色五月激情视频在线综合| 99精品热| 国产丁香五月天婷婷| 亚洲激情四谢| 青草五月天| 五月丁香琪琪| 五月婷婷激情综合| 天天色色婷婷| 97久操| 99热自拍| 狠狠狠狠狠狠狠狠草| 婷婷五月天丁香综合网| 九九无码| www.婷婷五月天,com| 亚洲精品V天堂中文字幕| 丁香欧美| 91凹凸在线| 五月激情小说| 色综合日日| 2015超碰| 久久er99热精品一区二区| 久久aaaa片一区二区| 99久操| 五月婷色| 色色亚洲视频| 亚洲小说五月婷婷| 99超级超级超级碰| 成人看片网站| 激情五月天色婷婷综合| 91人人操人人看| 亚洲欧美成人在线| 色婷婷亚洲六月婷婷中文字幕| 香蕉综合在线| 啪啪日本欧美| 丁香五月电影| 五月婷婷激情四月| 五月婷婷影院| 5Www色5夜| www,天天干| 五月丁香欧美综合| 最新日本A片| 婷婷六月丁综合| 99久热| 婷婷俺去也| 免费成人va| 日韩天堂久久| 午夜不卡久久精品无码免费 | 99re欧美精品| 99精品视频网站| 这里只有精品1| 久久er+| 五月婷婷久久久| 激情综合文学| 99热久| 毛片新网地| 日韩精品色| 婷婷五月天堂网| 婷婷99丁香| 色婷婷丁香花五月天| 久99| 婷婷五月色情| 久久色五月天激情小说| 色9色| 91avse| 97操| 玖玖九九超碰| 96精品成人无码A片观看金桔| 色婷婷中文在线| 婷婷开心五月| 韩国婷婷丁香五月| 秋霞黄色一级久久| 色5月婷婷色| 亚洲精品中文字幕成人片| 色色网站毛片| 少妇水多A片太爽了| 亚洲成人免费在线| 蜜臀av粉嫩av懂色av| 直接看的AV| 天天摸天天日天天舔| 五月婷婷丁香伦理网| 99免费视频久久| 9久精品视频| 丁香五月综合激情啪啪| 草榴视频网| 超级97碰碰| 丁香五月成人自拍| 97干在线免费| 丁香婷婷五月天成人| 日本大人久久| a免费在线| 五月美女婷婷风骚| 日B日潘金莲BB| 人与禽A片啪啪| 极品人妻XXXXOOOO| 被强行糟蹋的女人A片| 五月天综合在线| 大香蕉五月天婷婷| 99操逼| 激情五月婷婷| 免费视频WWW在线观看网站| www.色综合| 99无码精品| 国产欧美日韩综合精品一区二区| 超碰v| 婷婷丁香五月综合| 乱岳熟女50岁| 激情综合丁香六| 日本44久久在线| 日本丰满久久| 狠狠色丁香久久婷婷综合五月| 丁香五月婷婷99| 国产精品国产| 色欲久久综合| 人妻系列久久久久久久久久久 | 97在线视频观看| 九九激情| 大地资源色婷婷视频在线| AV中文网| 激情电影五月婷婷| 4399在线观看免费高清黄色视频| 人人九色| 成人五月天色天堂| www.五月丁香av| 五月天成人小说| 97亚洲婷婷| 99热这里全都是精品| 农村熟妇高潮精品A片| 精品二区| 成人在线视频一区| 99精品热| 思思热久久婷婷五月天| xx人人xx| 26uuu在线观看| 日本女色人人| 国产精品国产| jiujiu无码五区| 五月色天情| 亚洲六月婷婷| 情欲禁地| 色综合偷拍| 【乱子伦】黄色| 婷婷丁香五月综合激情小说| 六月丁香色色| 欧亚成人A片一区二区| 最新日韩AV中文字幕| 五月丁香六月综合基地| 精品婷婷五月天| 中文AV网站| 激情五月天色色网| Caoporn公开| 99久久99视频只有精品| 五月激情婷婷女| 97啪啪| 1024欧美看片| 丁香色五月婷婷17C| 五月网在线| 激情五月天在线视频| a免费在线| 激情综合网五月在线播放| 天天射综合网夜夜操| 五月丁香久久综合| 丁香五月婷婷香| 99这里有精品视频3| www.狠狠艹| 大香蕉啪啪网| 91久久电影| 成人五月天在线视频在线观看| 婷婷五月婷婷| 碰97 久| 国产精品人妻欲求不满| 色婷婷丁香五月综合| 激情五月天色播| 91丨九色丨老农村| 亚洲六月婷| www婷婷| 色五月婷婷激情基地| 六月丁香婷婷尤物| 六月激情网| 五夜丁香| 五月丁香啪啪伦理电影| 国产日韩精品SUV| 日本一级黄色电影| 丁香六月激情| 免费91久久精品| 婷婷久久五月天亚洲欧美国产日韩在线观看 | www激情com| ..真实国产乱子伦对白在线_欧| 婷婷五月激情综合| 香蕉人在线香蕉人在线 | 91嫩草国产线观看亚洲一区二区| 欧美五月丁香啪啪响视频| 99丁香五月婷| 午夜日韩久久久网站| 亚洲五月情| 97精品人人A片免费看| 69精品人人人人| 91丨九色丨熟女丰满| 五月婷婷 激情按摩| 激情精品久久| 日日干夜夜干| 丁香五月婷婷狠狠色| 亚洲AV综合网| 97干视频在线| 五月丁香网站| 77777亚洲午夜久久| 日本VA视频| 婷婷狠狠香蕉综合| 毛片毛片毛片毛片| 天堂久热| 99亚洲色| 五月丁香亭亭A片| 日韩av网址大全| 色婷婷中文| anquye五月| 精品香蕉99久久久久网站| 精品综合久久久久久五月天| 精品人妻伦一二三区久久| 五月天色婷婷激情综合| 97在线精品| 九九精品这里只有| 中文字幕无码人妻少妇免费视频 | 五月婷婷狠狠干| 伊人高清无码| 天天天天色天天天天天干| 狠狠色婷| 天天摸天天透天天舔| 99热一本久道| 日本天堂免费99| 伊人玖玖精品| 激情丁香五月天| 久久婷婷成人视频| 99热在线观看| 婷婷五月天激情视频| 99久热视频在线| 五月天亭亭俺也| 色婷婷五月天成人网| 影音先锋一区二区三区| 99热综合在线| 久久久国产精品黄毛片| 天天操天天爱天天玩| 五月婷av| 久99综合婷婷| 五月激情五月丁香| 超碰成人公开| 九九热在线视频观看| 大香线蕉伊人| 久久曰曰| 99综合免费视频| 亚洲免费观看高清完整版AV线| 九月色婷婷| 综合在线丁香五月| 婷婷久久图片| 99精品视频网| 五月婷婷综合潮喷| 人人性久久| 噼里啪啦在线观看免费完整版视频| 色五月成人在线| 国产99久9在线| 五月丁香婷婷综合网| 思思热在线视频99| 久久久久激情网| 五月天色五月| 丁香五月婷综合网| 99操视频| 亚洲天堂婷婷| 久色网址| 欧美婷婷五月天综合| 国产精品人妻在线网址| 操人91| 久久六月天| 欧美va亚洲va| 野外99热| 婷婷九月| 99这里热| 五月综合亚洲婷婷| 六月婷婷久久| 激情五月黄色| 久久久久久久久久8888| 伊人9999| 99热 这里只有精品 国产 日韩| 丁香花狠狠婷婷亚洲中文字幕| 操操碰| 色色综合网络| 久久婷婷成人视频| 在线99色| 九九九九精品精| 色色色999| 色五婷婷开心缴| .操區COm| 久久婷婷五月综合成人d啪| 久草婷婷网| 色五月综合在线| 天天澡天天狠天天天做| 五月丁香激情综合六月涩涩爱| 久热AA| 丁香五月婷婷久久久| 欧美成人AAA片一区国产精品| 人人干99| 婷婷.com| 天天拍夜夜爽日日| 这里只有精品视频222| 丁香婷婷五月人体| 日本操天堂| 狠狠操狠狠操AV| 偷拍91九色| 天天综合网亚洲综合网| 国语对白性爱视频播放| 婷婷九月激情| 久久久久98| 五月丁香激情综合网官网| 极品少妇XXXX精品少妇偷拍| 婷婷综合色图| 五月丁香六月激情视频| 九九久久五月天综合伊人| 国产99美少妇| AV在线免费网站| 99热九九在线| 99热黄| 婷婷五月精品| 男人大jjc女人免费视频| 久久激情视频| 日韩无码色色| 九九激情综合| 成人电影在线免费试看| 五月天激情综合网| 色五月婷婷亚洲最大| 99热这里只有精品最新地址获取| 激情婷婷另类| 亚洲 在线 性爱| 久久婷出差欧美色两性综合网| 新久久五月天激情| 久久网站免费亚洲| www.yw尤物| 五月婷婷色| 婷婷色色五月天| 色婷婷五月天激情| 丁香六月婷婷激情综合| 欧美婷婷六月丁香综合色| 东京热免费视频| 99小视频在线| 丁香午月AV中文字幕| 99热在这里只有免费精品| 色黑鬼导航| 激情婷婷亚洲五月| 婷婷五月情色| 婷婷日日天天| 噜噜噜噜噜色| 亚洲色情网站| 99乱视频| 丁香五月综合激情性爱| av在线观看网站| 91男同| 久久九九99| 色五月综合激情网| 4399精品一区二区| 婷婷色吧| 婷婷色色网| 99er6| 日本性激情色播| 狠狠色噜噜狠狠| 色婷婷激情四射视频| 国产67194| 天天爽夜夜操| 久久久精品免费啪啪国| 97伊人综合婷婷| 激情99热| 婷婷成人综合免费视频| 丁香婷婷色五月合集| 天天干夜夜想| 婷色五月天| 色色综合网站| 在线免费视频caop| 操日视频| 新99思思视频| m色激情网| 99热日| 激情视频网址| 97在线天堂| 日韩在线视频网站| 秋霞午夜理论| 婷婷五月深爱五月| 超碰二区| www.色五月| 精品综合爱| 欧美五月丁香在线| 夜丁香五月婷婷| 色色免费网站| 女人被躁到高潮嗷嗷叫小| 97色视频网| 91一起操| 99re热视频这里只精品| 五月天婷婷激情| 九九久久9 9在线观看| 日本啪啪网| 婷婷五月婷婷五月天| 九九综合| 久久小说网| 亚洲乱码w在线观看| 五月丁香啪啪拍| 日本色婷婷| 99精品在线观看| 超碰精品国产首页| 影音先锋女人av鲁色资源网小说免费 | 成人午夜天| 丁香五月停停基地| 激情小说五月天中文字幕| 亚洲欧美丁香五月天亚洲欧美| 激情综合五月| pom538精品视频| 婷婷综合五月激情| 9久热免费视频99| 国产在线激情视频| 欧美一级色| 五月色综合网| 亚洲V国产V欧美V久久久久久 | 中文人妻主播久久| 久久免费精彩视频| 超碰日韩成人| 思思热这里只有精品视频666| 丁香五月婷婷影院| 国产欧美日韩综合精品一区二区| 婷婷在线综合| 淑女丝袜bi操逼123| 99性爱| 亚洲综合1024| 五月婷婷六月丁香激情| 中文字幕欧美日韩VA免费视频| 亚洲第一成人无码A片| 直接看的AV| 日本强伦片中文字幕免费看| 国产成人+综合亚洲+天堂| 丁香五月激情婷婷婷婷在线观看| 99精品国产在热久久| 五月天久久久| 九艹在线| 成人一区在线观看| 99er视频在线| 婷婷成人基地| 久久久久久草黄色片AV在线观看| 97香蕉久久超级碰碰高清版 | 久久综合99| 伊人久久大香线蕉av一区| 丁香色影院| 色性五月天| 婷婷婷婷午夜| 思思热在线精品视频网站| 久热99| 婷婷五月天播| 99亚洲视频| 六月丁香婷婷视频综合在线观看| 丁香色综合| 色丁香五月| 26.uuu丁香五月婷婷| 日本99视频精品免费播放| 久久开心五月天激情| 精品视频网| 99色色色色| 六月丁香啪| 99爱这里只有精品免费视频| 91丨九色丨国产| 丁香五月激情无码视频| 色综合视频在线| 六月五月婷婷| 99久久97| 丁香五月六月婷婷怡红院| 色九月丁香婷婷蜜桃在线观看| 激情网五月婷婷| 91久久18| 六月婷婷色综合| 色婷婷精品视频| 久久婷婷网站| 国产日产成人亚洲欧美国产VA|