免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐 很多朋友看到rea這個標(biāo)題時大概率會以為打錯了字或者覺得這是某個庫的縮寫。我要先坦白一件事——它最初真沒有什么標(biāo)準(zhǔn)全稱只是某天我在終端里隨手敲的三個字母用來命名一個空目錄。后來這個目錄慢慢長成了一個完整的資源效率分析工具Resource Efficiency Analyzer內(nèi)部代號縮寫就是rea專門負(fù)責(zé)采集服務(wù)器的CPU、內(nèi)存、磁盤與網(wǎng)絡(luò)指標(biāo)再把這些數(shù)據(jù)整理成實時看板幫我從被動救火式運維變成主動觀察式管理。這篇文章就把一個模糊標(biāo)題如何變成一個可運行系統(tǒng)的完整過程寫出來適合手里有個想法、但還沒想清楚架構(gòu)的開發(fā)者參考也適合那些想自建一套輕量監(jiān)控體系、又不想直接套用重型全家桶的朋友。1. 先給 rea 一個定義從模糊代號到明確需求1.1 代號背后的真實需求別再讓服務(wù)器走在下線邊緣見過凌晨兩點的告警郵件嗎說的不是那種CPU 忽高忽低再觀察一下的假警報而是磁盤使用率沖到 98%數(shù)據(jù)庫進(jìn)程直接崩掉然后你在睡夢中被電話叫起來瞇著眼睛查哪張表把空間吃光了。我經(jīng)歷過幾次這種場景之后決定不能再靠感覺運維了。我需要一個工具能持續(xù)地告訴我每一臺機器的資源消耗長什么樣不是事后翻日志而是事前能看到趨勢。rea 的第一個需求就這么定下來了采集多臺服務(wù)器的系統(tǒng)資源指標(biāo)存入數(shù)據(jù)庫用圖表展示歷史趨勢。聽起來很簡單但里面藏了幾個硬約束。一是采集不能太影響業(yè)務(wù)agent 本身要輕二是數(shù)據(jù)量會持續(xù)增長存儲和查詢得接得住三是展示要讓人能快速定位問題不能打開看板還要等十幾秒。給項目起代號的時候我壓根沒花心思。rea 就是 resource efficiency analyzer 的縮寫順手打的也沒打算對外發(fā)布。但正式動手前我給自己寫了一段項目說明用最低的運維成本記錄基礎(chǔ)設(shè)施的資源水位讓趨勢可見、異??刹椤_@段話后來幫我擋掉了不少需求膨脹的沖動誰再說順便加個 XX 功能我就把這段話翻出來給他看。1.2 誰是它的目標(biāo)用戶我為什么不做成通用監(jiān)控平臺市面上的監(jiān)控平臺很多從老牌開源方案到商業(yè)全家桶隨便挑一個都能用。但我做 rea目標(biāo)用戶從一開始就只有兩類一個是我自己另一個是和我類似的小團(tuán)隊——機器數(shù)量在 5 到 30 臺之間沒有專職運維預(yù)算有限又不想為了看幾個指標(biāo)把整套重型框架搬回家。自研的邊界一定要劃清楚。我不追求覆蓋所有監(jiān)控場景也不打算做高可用集群。rea 要解決的是 80% 的常見問題機器負(fù)載有沒有異常、內(nèi)存是不是長期吃緊、磁盤大概還有多少天會被寫滿、網(wǎng)絡(luò)流量是不是有突發(fā)。至于分布式鏈路追蹤、日志檢索、APM 這類能力那是另外的戰(zhàn)場硬塞進(jìn)來只會讓項目失焦。而且自建這條路有個隱形好處整個系統(tǒng)從采集到展示都是自己寫的每個環(huán)節(jié)都清楚出了問題不會像黑盒一樣無從下手。公司里如果買了商業(yè)產(chǎn)品排障時只能提工單用開源方案遇到不滿足的場景得讀源碼改插件。而 rea 是我自己的我想讓它支持什么業(yè)務(wù)指標(biāo)直接加一個字段就行這種掌控感用錢買不到。2. 技術(shù)方案怎么定三層結(jié)構(gòu)是小項目的保命符2.1 為什么第一反應(yīng)不是全家桶監(jiān)控系統(tǒng)有現(xiàn)成的開源監(jiān)控組合可用為什么要自己寫這個問題我在動手前認(rèn)真回答過自己。最直接的原因是學(xué)習(xí)成本。全家桶方案確實強大但它的學(xué)習(xí)曲線很陡配置項非常多默認(rèn)參數(shù)不一定適合你的場景踩坑時要在告警規(guī)則、服務(wù)發(fā)現(xiàn)、模板變量之間來回排查。我見過不少團(tuán)隊把監(jiān)控系統(tǒng)裝起來了結(jié)果沒人會配告警閾值最后變成一個昂貴的圖表庫。另一個原因是業(yè)務(wù)指標(biāo)接入的靈活性。系統(tǒng)監(jiān)控指標(biāo)可以用現(xiàn)成方案采集但業(yè)務(wù)指標(biāo)比如某個核心接口的響應(yīng)時間、某條消息隊列的積壓數(shù)量、今天新增的訂單量這些需要業(yè)務(wù)代碼主動上報。與其在自研系統(tǒng)之外再接一套上報通道不如把 rea 做成一個通用的指標(biāo)接收器無論是系統(tǒng)數(shù)據(jù)還是業(yè)務(wù)數(shù)據(jù)只要按約定格式推過來就能落庫、查詢、展示。當(dāng)然現(xiàn)成方案也有它的價值。我并沒有完全否定它只是在 rea 這個特定項目里我希望它足夠輕、足夠可控。如果哪天機器規(guī)模漲到上百臺需要服務(wù)發(fā)現(xiàn)、自動告警、多租戶隔離這些能力到時候再評估遷移也不遲。先解決眼前的問題不為了未來可能的規(guī)模提前背上復(fù)雜度的包袱。2.2 前后端與存儲選型的一個參考組合rea 的技術(shù)棧沒有用花哨的新框架全是經(jīng)得起時間考驗的組合。前端選了 Vue3 加 TypeScript用 Vite 做構(gòu)建工具圖表庫用 ECharts。后端用 Python 的 FastAPI接口寫起來快性能也夠用。存儲這塊是重頭戲選的是 TimescaleDB跑在 PostgreSQL 之上既保留關(guān)系數(shù)據(jù)庫的熟悉感又針對時序數(shù)據(jù)做了專門優(yōu)化。選擇依據(jù)其實很務(wù)實環(huán)節(jié)選型核心理由前端框架Vue3 TypeScript Vite組件化清晰類型安全開發(fā)效率高圖表庫ECharts折線圖、面積圖開箱即用大數(shù)據(jù)量渲染有內(nèi)置優(yōu)化后端框架Python FastAPI異步支持好自動生成接口文檔開發(fā)速度快數(shù)據(jù)存儲TimescaleDB原生支持時序表分區(qū)壓縮率高SQL 查詢降低成本部署方式Docker Compose Nginx一套命令拉起全部依賴適合小規(guī)模場景為什么不用 MySQL 或者 MongoDBMySQL 存時序數(shù)據(jù)不是不行但數(shù)據(jù)量上來后按時間范圍刪除舊數(shù)據(jù)、按時間窗口聚合這些操作都會變得別扭。MongoDB 文檔模型靈活但聚合查詢寫起來不如 SQL 直觀而且對時間序列的壓縮能力幾乎沒有。TimescaleDB 本質(zhì)上還是 SQL我可以用熟悉的 JOIN 和 GROUP BY同時獲得自動分區(qū)和壓縮帶來的性能紅利這是它最打動我的地方。2.3 一次架構(gòu)的簡化-膨脹-再簡化很多個人項目死在想得太多上rea 也不例外。最初畫架構(gòu)圖的時候我列了一堆組件消息隊列緩沖采集流量流處理引擎做實時聚合NoSQL 存原始數(shù)據(jù)寬表存聚合數(shù)據(jù)再配一套 Redis 做緩存前端還要考慮 WebSocket 推送。畫完之后自己看著都害怕這哪是個人工具這是照著大型互聯(lián)網(wǎng)公司的基礎(chǔ)設(shè)施在搭。后來我做了個減法把架構(gòu)壓縮成三條鏈路采集器定時把指標(biāo) POST 到后端接口后端寫入數(shù)據(jù)庫前端通過查詢接口取數(shù)繪圖。中間的消息隊列和流處理全部去掉理由是數(shù)據(jù)量沒有大到需要異步削峰的程度一臺采集器 10 秒上報一次20 臺機器也就每秒兩條請求FastAPI 處理這點請求綽綽有余。這個砍需求的過程讓我學(xué)到一點小項目最值錢的優(yōu)勢就是簡單任何你覺得以后可能用得上的組件都先記在文檔里而不是裝進(jìn)代碼里。真到了需要消息隊列的那天再把它加進(jìn)來而不是一開始就為想象中的人流量修一條十車道的高速公路。3. 核心鏈路落地采集、寫入、查詢、展示一個都不能少3.1 數(shù)據(jù)表設(shè)計時序數(shù)據(jù)的第一課rea 落地的第一個關(guān)鍵環(huán)節(jié)是數(shù)據(jù)庫表結(jié)構(gòu)。時序數(shù)據(jù)的特點是寫多讀少、數(shù)據(jù)只追加、舊數(shù)據(jù)需要定期清理所以表結(jié)構(gòu)不能照搬普通業(yè)務(wù)表。我建的第一張表是主機資源指標(biāo)表核心字段包括采集時間、主機名、CPU 使用率、內(nèi)存使用率、磁盤使用率、網(wǎng)絡(luò)流入量、網(wǎng)絡(luò)流出量以及一個 JSONB 類型的擴展字段。建表語句如下CREATE TABLE host_metrics ( time TIMESTAMPTZ NOT NULL, host TEXT NOT NULL, cpu_usage DOUBLE PRECISION, mem_usage DOUBLE PRECISION, disk_usage DOUBLE PRECISION, net_in BIGINT, net_out BIGINT, tags JSONB DEFAULT {} ); SELECT create_hypertable(host_metrics, by_range, time);這里有幾個設(shè)計細(xì)節(jié)值得展開說一下。第一個是為什么用TIMESTAMPTZ而不是TIMESTAMP。時序數(shù)據(jù)最怕時區(qū)混亂如果用不帶時區(qū)的TIMESTAMP采集器從不同時區(qū)的機器上報數(shù)據(jù)時時間軸會錯位。統(tǒng)一用帶時區(qū)的類型所有時間都按 UTC 存儲展示層再按用戶時區(qū)轉(zhuǎn)換這是最不容易出錯的方案。第二個是為什么保留一個tags字段。單臺機器的指標(biāo)字段是固定的但業(yè)務(wù)上可能想給不同機器打標(biāo)簽比如區(qū)分線上環(huán)境、測試環(huán)境或者標(biāo)注機器所屬的可用區(qū)。把這些維度塞進(jìn)單獨的列會很死板放在 JSONB 里就靈活多了查詢時用tags-env就能做過濾。第三個是為什么time和host不加聯(lián)合主鍵。剛開始我也習(xí)慣性地想加后來實測發(fā)現(xiàn)唯一約束會嚴(yán)重拖慢寫入速度時序數(shù)據(jù)本身就帶有時間戳這個天然標(biāo)識重復(fù)數(shù)據(jù)靠應(yīng)用層去重就夠了數(shù)據(jù)庫層的唯一性約束在這里性價比很低。3.2 寫一個不添亂的采集器采集器是 rea 的神經(jīng)末梢它要足夠輕不能給被監(jiān)控的機器添亂。我用 Python 的 psutil 庫實現(xiàn)資源采集這個庫的優(yōu)勢是跨平臺、接口穩(wěn)定、文檔全Linux 和 Windows 都能跑對個人項目來說覆蓋面足夠了。核心采集邏輯比較直接import socket import time import requests import psutil INTERVAL 10 ENDPOINT http://rea-server:8080/api/metrics def collect_once(): return { host: socket.gethostname(), cpu_usage: psutil.cpu_percent(interval1), mem_usage: psutil.virtual_memory().percent, disk_usage: psutil.disk_usage(/).percent, net_in: psutil.net_io_counters().bytes_recv, net_out: psutil.net_io_counters().bytes_sent, ts: int(time.time()) } while True: try: data collect_once() requests.post(ENDPOINT, jsondata, timeout3) except Exception as exc: log_to_file(freport failed: {exc}) time.sleep(INTERVAL)代碼看著簡單但有幾個細(xì)節(jié)如果處理不好后續(xù)會相當(dāng)難受。第一個是cpu_percent的interval參數(shù)。psutil.cpu_percent(interval0)是絕大多數(shù)初學(xué)者的寫法結(jié)果往往返回 0因為第一次調(diào)用沒有歷史采樣數(shù)據(jù)。代碼里傳interval1含義是阻塞 1 秒、計算這 1 秒內(nèi)的平均使用率這樣第一次拿到的值就是可信的。當(dāng)然這 1 秒阻塞是可以接受的畢竟采集頻率本來就不高。第二個是網(wǎng)絡(luò)流量讀的是累積值而不是速率。bytes_recv和bytes_sent是從開機以來的累計字節(jié)數(shù)存到數(shù)據(jù)庫里之后繪圖時要用當(dāng)前值減去上一時刻值再除以時間間隔才能得到平均速率。我可以選擇在采集器里先把速率算好也可以把累積值存下來交給查詢端計算。我選了后者理由是想保留最原始的計數(shù)這樣即使后來想調(diào)整時間窗口也能靈活重算。第三個是采集器不需要花哨的并發(fā)能力單線程循環(huán)加異常隔離就足夠了。上傳失敗不能影響采集日志要寫到文件而不是控制臺不然服務(wù)跑起來之后根本看不到報錯。啟動之后先用一次cpu_percent(None)做預(yù)熱避免第一次上報的數(shù)據(jù)點失真這也是容易忽略的小坑。3.3 服務(wù)端接口別讓單條寫入拖垮寫入性能后端接口是整個鏈路的中轉(zhuǎn)站它要同時面對兩個問題來自多臺采集器的持續(xù)寫入請求以及來自前端的時間范圍查詢請求。寫入接口的寫法一定要考慮批量處理。最直觀的做法是每收到一條數(shù)據(jù)就 INSERT 一條但這樣做數(shù)據(jù)庫壓力會大連接頻繁開關(guān)TPS 一口就被壓死了。我采用的方案是內(nèi)存隊列加定時 flush。接口收到指標(biāo)后先把數(shù)據(jù)放進(jìn)一個線程安全的隊列后臺任務(wù)每隔 5 秒或者隊列累積到 500 條時統(tǒng)一執(zhí)行批量插入。這樣數(shù)據(jù)庫每次操作面對的是一批數(shù)據(jù)寫入吞吐量能差出一個數(shù)量級。下面是簡化后的核心結(jié)構(gòu)import asyncio import asyncpg from fastapi import FastAPI app FastAPI() _batch [] async def flush_batch(): if not _batch: return records _batch[:] _batch.clear() async with pool.acquire() as conn: await conn.executemany( INSERT INTO host_metrics (time, host, cpu_usage, mem_usage, disk_usage, net_in, net_out, tags) VALUES ($1, $2, $3, $4, $5, $6, $7, $8) , records ) app.post(/api/metrics) async def receive_metrics(item: MetricItem): _batch.append(( datetime.fromtimestamp(item.ts, tztimezone.utc), item.host, item.cpu_usage, item.mem_usage, item.disk_usage, item.net_in, item.net_out, json.dumps(item.tags) )) if len(_batch) 500: await flush_batch() return {status: ok}這個設(shè)計的關(guān)鍵不只是批量還包括失敗重試和容量控制。如果后臺 flush 任務(wù)拋異常不能把隊列里已有的數(shù)據(jù)丟掉要記錄日志并保留備份否則會出現(xiàn)看板缺數(shù)據(jù)的詭異現(xiàn)象。隊列本身也需要一個上限比如最大 5000 條超過上限的請求先返回錯誤而不是無限堆積內(nèi)存否則采集器一旦異常大量上報后端的進(jìn)程內(nèi)存會被撐爆這時候反而需要采集端主動降頻。3.4 查詢與前端看板如何讓頁面不卡數(shù)據(jù)寫進(jìn)去之后查詢接口要能支持時間范圍、主機過濾、指標(biāo)選擇這些常見條件。最關(guān)鍵的一個優(yōu)化是降采樣。一張時序表里如果存了數(shù)十萬條數(shù)據(jù)前端小屏幕根本畫不下強行渲染只會讓頁面卡死。SQL 層用time_bucket函數(shù)把秒級數(shù)據(jù)聚合成分鐘級或小時級數(shù)據(jù)曲線既平滑又輕量這才是正確姿勢。一個典型的趨勢查詢是這樣的SELECT time_bucket(1 minute, time) AS bucket, host, avg(cpu_usage) AS cpu_avg, max(cpu_usage) AS cpu_max FROM host_metrics WHERE host $1 AND time $2 AND time $3 GROUP BY bucket, host ORDER BY bucket;前端看圖只關(guān)心大體趨勢分鐘級均值足夠用了。如果用戶想看某個瞬間的精確值再加一個下鉆接口返回原始明細(xì)數(shù)據(jù)這樣的兩級策略兼顧體驗和性能。前端看板用的是 Vue3 加 ECharts。整體布局分三塊頂部是時間范圍選擇器左側(cè)是主機列表中間是多個指標(biāo)折線圖。主機列表支持多選選中的每臺機器用不同顏色區(qū)分時間范圍改變后所有圖表聯(lián)動刷新。實現(xiàn)聯(lián)動時有一個并發(fā)問題要注意多個請求同時發(fā)出返回順序可能不一致后返回的舊數(shù)據(jù)不能覆蓋新數(shù)據(jù)。我用請求序號做了一層校驗只渲染最后一次發(fā)起的請求結(jié)果這個細(xì)節(jié)花了我一晚上才定位到。4. 部署細(xì)節(jié)與踩坑實錄rea 從本機跑到服務(wù)器的過程4.1 Docker Compose 一鍵拉起整套環(huán)境rea 的部署目標(biāo)是一臺 2C4G 的云服務(wù)器所有組件用 Docker Compose 管理。這個選擇意味著環(huán)境依賴被全部封進(jìn)容器換機器、重新部署都很從容不用在一臺新服務(wù)器上手動裝 Python、Node、PostgreSQL也避免版本不一致的問題。docker-compose.yml 的骨架如下version: 3.8 services: timescaledb: image: timescale/timescaledb:latest-pg16 environment: POSTGRES_PASSWORD: rea_db_pass POSTGRES_DB: rea volumes: - rea_db_data:/var/lib/postgresql/data ports: - 5432:5432 rea-server: build: ./server environment: DATABASE_URL: postgresql://postgres:rea_db_passtimescaledb:5432/rea depends_on: - timescaledb ports: - 8080:8080 rea-web: build: ./web ports: - 80:80 depends_on: - rea-server volumes: rea_db_data:容器化部署里有幾個容易踩的點。第一個是數(shù)據(jù)庫數(shù)據(jù)卷必須單獨掛載否則容器一刪數(shù)據(jù)全沒。第二個是容器之間通信用服務(wù)名而不是 IP因為每次重建容器 IP 都可能變而timescaledb這個服務(wù)名在 Compose 網(wǎng)絡(luò)內(nèi)是穩(wěn)定的。第三個是整個鏈路的前端與后端分離部署前端服務(wù)不僅負(fù)責(zé)提供靜態(tài)頁面還要用 Nginx 反向代理后端接口這樣頁面里的請求地址可以統(tǒng)一寫相對路徑避免瀏覽器跨域問題。4.2 我踩過的四個坑每一個都是性能殺手rea 從能跑變成好跑的過程中我踩了不少坑撿四個印象最深的分享出來。第一個是唯一約束拖垮寫入性能。開始建表時我習(xí)慣性地加了PRIMARY KEY (host, time)想著防止重復(fù)數(shù)據(jù)結(jié)果寫入一壓測TPS 只有幾百完全不是 TimescaleDB 該有的水平。去掉唯一約束之后寫入吞吐直接翻了幾倍。時序場景下重復(fù)數(shù)據(jù)很少偶爾重復(fù)也可以容忍數(shù)據(jù)庫不應(yīng)為不可能發(fā)生的情況買單。第二個是時區(qū)混亂導(dǎo)致曲線偏移八小時。采集器上報的是 UTC 時間前端 ECharts 默認(rèn)按瀏覽器本地時間格式化看起來所有曲線都平移了一段。折騰了半天才發(fā)現(xiàn)是時區(qū)問題?,F(xiàn)在我的原則是通信全程用時間戳展示層轉(zhuǎn)成用戶本地時間數(shù)據(jù)庫里統(tǒng)一存 UTC三層各管一段絕不混用。第三個是cpu_percent首次調(diào)用返回 0。這個問題說起來有點可笑但新手真的會碰到。psutil 的 CPU 使用率計算依賴前后兩次調(diào)用之間的差值第一次調(diào)用沒有基準(zhǔn)直接返回 0。在采集器啟動后先做一次預(yù)熱調(diào)用問題就消失了。第四個是前端圖表一次性拉全量數(shù)據(jù)導(dǎo)致瀏覽器崩潰。最初我沒做降采樣一次查 7 天秒級數(shù)據(jù)幾萬甚至十幾萬個點ECharts 直接卡成幻燈片。后來改成time_bucket降采樣加 ECharts 自帶的sampling: lttb圖表不卡了加載速度也快了。在數(shù)據(jù)可視化里聰明地丟棄細(xì)節(jié)比死磕完整性重要得多。4.3 常見問題速查表把日常運行中出現(xiàn)過的問題整理成一張速查表方便自己排查也方便后來者現(xiàn)象可能原因處理方式看板長時間沒有新數(shù)據(jù)采集器進(jìn)程掛了或網(wǎng)絡(luò)不通檢查采集器日志telnet 測試接口連通性數(shù)據(jù)庫磁盤快速增長保留策略未配置舊數(shù)據(jù)無限堆積添加定時任務(wù)刪除超期數(shù)據(jù)圖表曲線出現(xiàn)缺口批量寫入失敗且無重試檢查后端日志確認(rèn) flush 隊列是否丟失數(shù)據(jù)跨天數(shù)據(jù)時間軸錯亂采集端時區(qū)與數(shù)據(jù)庫不一致統(tǒng)一用 UTC 時間戳展示層再做時區(qū)轉(zhuǎn)換多臺機器曲線顏色重復(fù)前端只按主機名取色主機名過短改用主機列表的索引作為顏色區(qū)分依據(jù)查詢接口響應(yīng)越來越慢沒有按時間范圍建立索引確保time列有索引查詢盡量帶時間下推條件5. 給 rea 留出的后路從監(jiān)控工具變成分析平臺5.1 告警、預(yù)測、權(quán)限優(yōu)先級怎么排rea 目前已經(jīng)能穩(wěn)定采集和展示了接下來要擴展的方向按優(yōu)先級排告警第一預(yù)測第二權(quán)限第三。告警最好做因為數(shù)據(jù)已經(jīng)有了只需要在后端加一個定時檢查任務(wù)對最近一分鐘的指標(biāo)做閾值判斷觸發(fā)條件時把消息推到通知渠道。這個功能能極大降低人肉盯看板的頻率算是對自由時間的解放。預(yù)測功能更有意思也更能體現(xiàn)數(shù)據(jù)分析的價值。比如磁盤使用率可以根據(jù)過去三十天的增長趨勢做線性擬合估算出按當(dāng)前速度還能用幾天。這種預(yù)測不需要復(fù)雜的機器學(xué)習(xí)模型最小二乘法就夠了但它的提醒效果比生硬的閾值告警好得多讓人有充分的緩沖時間去清理或擴容。權(quán)限這塊暫時不急因為目前只有我自己在看。但如果未來某個團(tuán)隊要用多用戶體系就必須考慮了。我的思路是在 API 層面加一層 Token 鑒權(quán)前端每個請求帶上身份標(biāo)識后端按用戶維度限制可見的主機范圍。暫時不需要引入完整的關(guān)系權(quán)限模型保持簡單等需求真的來了再細(xì)化。5.2 業(yè)務(wù)指標(biāo)接入后看板才真正有生命力系統(tǒng)資源指標(biāo)只能告訴你基礎(chǔ)設(shè)施健不健康但業(yè)務(wù)指標(biāo)才是決定要不要立刻起床的關(guān)鍵。rea 的上報接口是通用的這意味著業(yè)務(wù)代碼可以把關(guān)鍵指標(biāo)直接 POST 進(jìn)來和系統(tǒng)指標(biāo)存在同一張鏈路里看板就能把業(yè)務(wù)異常和資源異常對照著看。比如某個核心服務(wù)響應(yīng)時間突然上漲很可能是部署機器 CPU 被打滿導(dǎo)致的。只看業(yè)務(wù)指標(biāo)你只知道慢了只看 CPU 指標(biāo)你不知道它影響到什么。兩個維度疊加在一個時間軸上看因果關(guān)系就清晰多了。我的做法是給業(yè)務(wù)指標(biāo)加一個metric_type標(biāo)識字段系統(tǒng)指標(biāo)使用system業(yè)務(wù)指標(biāo)使用business查詢時既可以在同一張圖上疊加展示也可以按類型分開過濾。我在實際使用中還有一個體會是自研監(jiān)控最有價值的點不是省掉了采購成本而是在這個過程中建立的數(shù)據(jù)第一的觀念。當(dāng)你連續(xù)觀察了一段時間的曲線之后你會開始相信數(shù)據(jù)而不是直覺。以前我總覺得機器快不行了打開看板一看流量平穩(wěn)心里就踏實了有時候我感覺一切正常但曲線顯示內(nèi)存緩緩爬升反而能提前發(fā)現(xiàn)隱患。這種感覺用任何人都給你裝不上的監(jiān)控配方也換不來。最后再分享一個小技巧如果你也想做類似的項目名字叫什么并不重要哪怕像我一樣隨手敲三個字母也行。重要的是從第一天開始就把數(shù)據(jù)模型當(dāng)成地基來打采集頻率、存儲格式、時間精度這些基礎(chǔ)決策一旦定了后面很難改改一次就牽一發(fā)動全身。先把地基打穩(wěn)再慢慢加樓層。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
狠狠色噜噜狠狠| 五月丁香六月婷婷激情视频在线观看免费 | 99久久終合| 99热精品在这里| 中文字幕不卡+婷婷五月| A久久| 提提热五月天婷婷| www.99久| 久操大屁股女人av| 国产精品18久久久| 人妻九九九九| 日韩无码色色| 久久96热| 狠狠操狠狠爱| 天天色综| 人人摸人人干| 午夜少妇在线观看视频| 99热伊人| 日本婷婷在线| 99热精品6| www.99精品视频| 99日韩| 思思热99在线视频| 第四色婷婷最爱| 99 福利 导航| 久久婷婷五月综合网| 九九色精品| 精品久久久久久久久久久久人妻| 99热这里只有精品5| 亚洲旡码| 亚洲精品视频电影| 69精品无码一区二区三区| 色婷婷91激情小说| 9 1超碰九色| A片试看50分钟做受视频| 九九在线精点品| 欧美噜噜免费观看| 99色视| 91精品国产综合久久蜜芽解析速度| 96丁香六月婷婷蜜桃综合久久| 丁香六月激情综合啪啪| 日韩色情亚洲五月天婷婷| 乱码操操| 思思99热这里只有精品| 91超级碰碰碰| 久久综合干| 婷婷色五月天色| 中文字幕免费高清电视剧| 天天舔天天摸| 狠狠五月激情丁香六月| 久久综合首页| 日日色综合| 伊人国产婷婷五月天| 中美日韩成人在线| 99精品在线观看| 日韩视频女神99| 国产一级片色色| 熟女激情五月天| 欧美成人va| 五月婷婷六月丁香激情| 99国产小视频| 99热在这里只有精品| 婷婷深爱五月天在线| 99精品在线播放| 丁香五月AV| 九九热内射| 婷婷色五月大香蕉在线| 国模狼狼| 东京热免费视频网站| 97干资源在线观看| 天天肏高清在线| wwww.色婷婷| 99久久超级| 丁香五月天成人| 丁香激情网| 色色色色热| 色色五月丁香婷婷| 久久香蕉网| 丁香婷婷大香蕉| 婷婷五月天成人网| 激情五月天婷婷丁香| 噢美99| jiujiuxiangjiaowang| 1024欧美看片| 久久看婷婷| 中文字幕97超级碰| 婷婷激情鹿城五月天| 婷婷五月丁香在线观看| 五月天 另类图片| 久久久久久久合一狠狠做深爱| 六月五月婷婷| 久久婷婷视频| 三日本无码| wwww.9免费视频| 在线91日韩| 综合久久五月天| 成久综合视频| 99视频在线| 五月天久久综合| 色色色色色色网站| 熟女国产在线一区二区三区四区| 久久婷五月| 丁香五月婷婷无码AV| 九九精品这里只有| www.婷婷| 综合在线观看99| 激情国产综合| 亚洲色婷婷激情| 99免费热视频| 婷婷视频网| 丁香五月婷婷综合啪啪| 91丨九色丨熟女|新版| 五月丁香综合啪啪啪啪啪| 五月丁香六月激情综合在线| 超碰成人免费| 丁香深五月婷婷| 色五月天丁香| 5月婷婷6月六月丁香| 91婷婷丁香| 天天干天天插| 天堂A∨在线| 噜噜噜噜在线| 99色色| 奇米四色五月天| 噜噜噜狠狠色综| 五月天欧美 另类小说| 99A片| 婷婷五月天社区| 久久婷婷五月综合色区| 精品在线| 五月色丁香| 亚洲妇女熟BBW| 婷婷五月丁香综合桃花色网| 天天色天天爱天天爽| 人人色婷婷| 五月婷婷六月色| 91综合网| 99这里只有精品|v| 婷婷94s| 成人操呦av| www.夜夜操| 国产AV一区二区三区最新精品| WWW·色色色·COM| 色婷婷精| 婷婷激情五月天色| 日韩成人无码| 五月天婷婷久色| 另类激情五月| 五月婷婷偷拍| 九九碰九九爱97超| 国产67194| 日日噜噜夜夜狠狠久久丁香六月| www.久久99精品| 狠狠狠狠狠狠草| 欧美日韩91| 色婷婷亚洲综合av| 情婷婷五月天| 色色色色色综合| 99热精国产这里只有精品| 天天在线久久综合| 精品夜夜澡人妻无码AV| 日本无va视频| 少妇出轨做爰高潮A片| 久久九九怡红院| 超碰猛烈的性猛交| 国产1区2区3区| 色婷婷六月丁香综合欲精品| www.99热精品99.com| xfplayav在线| 99碰碰碰| 九九热re99re6在线精品| 婷婷九月久久| 五月婷婷在线观看黄| 日本大逼91| 国产日韩亚洲欧美在线观看| 日本欧特黄色刺激一区影视久精品无码| 亚洲 小说 欧美 激情 另类| 婷婷WWW久久| 久久视频这里99| 九九爱精品网站| hd五月婷婷在线| 在线99热| 色六月视频| 五月天婷婷乱| 久久天堂女人| 精品网站:999WWW| 九九九午夜视频| 丁香五月影院| 青青草a在线| 免费无码毛片一区二区A片| 看黄的网站18禁| 久久曰曰| 婷婷国产成人| 色婷婷狠狠| 涩涩五月天| 激情综合五月色在线| 国产亚洲精品AAAAAAA片 | 七七九色| 免费视频WWW在线观看网站| 桃色激情婷婷伊人网| 538在线精品| 狠狠干在线视频| 97操操网| 91黄址| 激情五月婷黄版| 嫩草AV久久伊人妇女超级A| 这里只有国产精品在线| 色色色97| 亚洲乱码日产精品BD| 婷婷激情啪啪| 久久久婷婷婷| 五月婷婷激情在线| 五月色网| 波多野结衣AV无码Porn| 天天摸,天天爽| 丁香六月婷婷操逼网| 婷婷 色 丁香 夜| 色5在线| 人人操9| 久久综合干| WWW.桔色成人.COM入口| 五月丁香六月激情综合| 玖玖婷婷五月天毛片| 色七七九九| 亚洲五月综合色播| 激情小说五月天社区丁香| 97碰碰叉| 成人国产欧美大片一区| 婷婷五月天综合网| 色色AV色色色东莞| 伊人婷婷激情| 九九国产视频| www.99精品视频| 欧亚成人A片一区二区| 狠狠搞亚洲| AV在线中文| 年轻的妺妺伦理HD中文 | 欧美 日韩 成人| 久久黄色网扯| 99热都是精品| 婷婷少妇激情| 激情婷婷五月综合| 综合色色五月| 无码一区精品一区视频| 天天干夜夜想| 8区视频在线| 97色婷婷五月天| 九月丁香婷婷| 91超碰在线观看| 日本天堂网站99| 大香蕉九九| 九九99免费理论| 五月婷婷影| 爱草视频在线观看| 九九综合精品| 亚洲婷婷月丁香五月| 欧日韩成人| 久久丁香婷婷五月| 激情五月天婷婷色色色色色色色色色色色 | 久久久精品免费啪啪国| 久久婷综合| 玖玖爱综合网| 超碰人人艹| 色丁香影院| 狠狠干在线视频| 99综合色色色| 欧美色色色色色色色色色色影视| 婷婷色色狠狠| 天堂爱爱| 激情美女五月天激情在线| 中海油常州环保涂料有限公司| 热99在线精品| 五月婷在线影院| 九九色院| 草草视频91| 大香线蕉伊人| 久久新地址| 亚洲综合五月天婷婷丁香| 婷婷五月天堂| 在线99热| 99在线观看| 狠狠插狠狠操| AA片在线观看视频在线播放| 国产乱妇乱子在线播视频播放网站| 操碰97| 色婷婷丁香A片区毛片区女人区| 久久久久久久人妻| 精品国产一区二区三区四区阿崩| 99视频热99| 亚洲中文AV| 丁香99| www.91AV.com| 综合久久9| 久久综合激情| 先锋av性爱成人电影| 激情六月婷| 五月天激情图片| 婷婷六月综合基地| 99视频只有精品| 操老逼综合网| 丁香五月婷婷激情四射| 草操AV在线| 乱抡小BB| 九九热啪啪| 色色色com| 国产毛片精品一区二区色欲黄A片| 五月婷婷色| 五月丁香本色在线观看| 99riAV国产精品视频| 丁香五月色五月| 九月丁香| 丁香五月婷婷在线观看| 热99精品视频在线观看| 99思思热只有在这里看 | 成人做爰高潮A片免费视频| 久热一区| 91久久久久久久久18| 久久成人性爱| 五月婷婷综合在线| 久久在线视频免费观看| 五月丁香六月综合基地| 亚洲人成人五月天| 97干在线| 无码yw| 五月天激情在线视频| 第五色婷婷| 婷婷六月丁香五月| 97自拍99| 亚洲综合狠狠艹| 婷婷色在线播放| JAPANRCEP老熟妇乱子伦视频 | 五月天com| 久久精彩免费视频| 大香蕉婷婷丁香视频在线| 手机看片日日做夜夜| 91人人操人人爱| 日韩成人影片网站| 亚洲免费看片| 99综合熟女| 激情婷婷丁香色情五月天| 久色大| 91.www综合| 九九AV在线| av五月天婷婷丁香| 人人人操 超碰| 综合久久影院| 婷婷五月花西瓜| 亚洲第一综合| 91碰碰碰| 九九五月天| 精品五月花| 狠色综合网| 五月丁香六月婷婷色日| 97婷婷五月| 久久久久久久久久久久久久人妻视频 | 91丨九色丨东北熟女| 久婷婷五月综合欧美| 激情婷婷五月天在线观看| 婷婷五月激情五月激情| 五月丁香综合激情| 九九精品自拍| www.精品99| 亚洲熟妇无码乱子AV电影| 99精品久久久久久| 婷婷丁香色情五月天| 六月综和久久| 五月婷久久| 欧美熟女99| 九月色婷婷综合| 丁香五月久久社区| 99热这里只有精品3| 久热精品免费视频4| 婷婷久久视频| 人妻激情久久| 婷婷色情六月| 玖玖综合玖玖| 99亚洲色| 久热在线观看视频9| 99热久草| 青青草Avb在线| 五月激情六月宗合| 婷婷久久免费| 99色在线视频| 五月花综合网| 另类五月激情| 色婷婷久久综合久色综| 激情九月天天天天婷婷| 婷婷五月天激情网| 久一这里有精品国产| 久热这里| 婷婷日日夜夜| www.五月婷婷| 色狠狠色噜噜AV天堂五区| 六月婷伊人| 婷婷五月天在线观看| 思思网站| 婷婷五月丁香99| 色香欲综合| 非洲一级AV| 成人AV免费观看| 九九这里只有精品在线视频| 久久五月婷天天干| 99视频网址| 日韩成人免费电影| 99色爱| 婷婷综合色五月天| 91九色国产| 五月丁香激情综合| 亚洲天天| 性爱动图国产麻豆一区二区三区 | 五月天久久婷婷| 婷婷黄色五月天在线视频| 91中文狠狠综合| 狠狠色噜噜色狠狠狠综合久久成人波 | 婷丁香久综合| 天堂久热| 久久伊人五月天| 色婷婷六月开心中文字| 操久久网| 少妇被躁爽到高潮无码文| 五月天激情av| 99激情网| 日本3级片一区2区| 专区无日本视频高清8| 婷婷久久综合久色| 色色精品色| 一区二区三区四日本| 五月丁香五月婷婷| 欧美熟女乱又伦| 久久999久久999久久999久久| 大香蕉五月天| 极品另类| 久久婷婷在线| 亚洲国产色婷婷| 激情五月www| 操97免费超级视频| 久久婷婷网址| 三年高清大片免费观看国语| 激情九月婷婷| 狠狠狠色激情综合适合| 精品成人无码A片观看香草视频 | 可以免费观看的AV| 色播五月| 亚洲综合激情五月久久| 婷婷五月天色网久| 婷婷五月亚洲激情| 激情综合色图| 亚洲艹网| 婷婷影院A成人| 五月婷婷网站| 欧美日韩国产伦精品日韩人妻一| aa久久| 91九色在线| 五月天成人综合| 精品久久人妻热| 丁香五月花| 玖玖福利视频资源| 丁香五月综合无码趴趴| 色色色图| 五月丁香婷婷人体| 色婷婷久久视屏| 另类专区在线| 五月色无码| 大香伊人婷婷影院| 激情久久综合| 久热这里有精品视频| 亚洲精品久久久无码| 丁香5月婷婷| 97超级碰碰碰| 婷婷色色网| 欧美性色五月天| 亚洲啪啪自拍| 九九色逼| 热成人网| 婷婷色导航| 搡BBBB搡BBB搡18| 99在线精品视频在线观看| 色碰碰| 中国丰满熟女A片免费观| 色播播之激情五月婷婷| 久久天堂加勒比| 99久久性爱| 亚洲 在线 性爱| 色婷婷五月影院| 久久性爱视频| 囯产精品久久欠久久久久久九大| 十月丁香婷婷| XX久久| 欧美性色A片免费免费观看的 | 五月丁香婷婷综合久久| av在线色五月丁香婷区久| 91精品久久久久久久久| A片试看120分钟做受图片| 日本欧美成人片AAAA| 99在线观看精彩视频| 日日干天天| eeuus五月婷| 色婷婷啪啪| 激情视频网址| 少妇搡BBBB搡BBB搡毛茸茸 | 中文字幕色色色| 久热伊人| 久久狠婷婷| 亚洲V国产V欧美V久久久久久| 免费在线观看欧美激情xx小视频| 激情婷婷五月天伊人在线观看| 久久图色4| 国产精品涩涩涩视频网站 | 久久ri精品| 青青草激情网| 天天干,夜夜爽| 思思99re这里只有| 啪啪色激情五月天| 激情综合在线观看| 任你干嘛免费视频播放| 欧美午夜乱妇午夜福利| 久久这里只有精品热在99| 天天精品视频免费观看| 快色t v在线入口| 久久色五月天| 亚洲AV成人片无码网站| 五月天丁香久久| 五月婷婷电影院| 天天草狠狠擦| 97天堂| 久久天堂| 中文字幕黄色电影网址| 任你干线上免费视频有3吗| 91chinese在线| 成人短视频在线| 婷婷色五月婷| 亚洲成人五月| 99re思思热久久| 五月丁香婷中文| 99在线观看这里都是精品| 久久色天堂| 欧美超碰人人| 大天天伊人| 婷婷五月激情小说| 国产乱轮一区二区三区| 五月天婷婷偷拍| 成人做爰黄A片免费看直播室男男| 99色色| 99久在线精品99re8热| 99re6久热只有精品6在线直播| 九色色| 丁香五月综合在线播放| 六月色色婷婷| 精品草原久久视频| 超碰熟女拍拍| 日韩AV大全| 欧美人妻一区二区| 色情五月综合婷婷| 欧美成人精品A片免费一区99| 五月天亭亭俺也| 91成人性爱视频| 夜夜干 夜夜操| 丁香五月婷婷影院| 五月丁香六月婷婷啪啪| 日本色久| 一起草av| 嫩草AV久久伊人妇女超级A| 色啪网| 99亚洲精品| 91丨九色丨东北熟女| 婷婷五月丁香五月| 精品99*| 大香蕉久久久久久久久| www.99精品视频| 色狠狠999综合| 色婷婷久久久| 思思久ren热| 丁香五月日本| 激情综合色婷婷啪啪六月天| 久久草中文日韩欧美| h亚洲| 成年人夜夜喷水| 九九五月天| 六月亚洲婷婷6月中文字幕| 开心激情色婷婷五月天| 天天高潮夜夜爽| 五月综合久久| 另类激情中文| 天天弄天天操| 一级视频网址| 色综合久久综合| 91色五月| 99热综合在线观看| 婷婷五月天社区| 97色碰| 在线观看免费视频| 综合日本婷婷| 天天婷婷综合| 午夜丁香五月天综合| 久re热视频| 欧美日综合| 久久91久久精品久久| 激情九色| 激情五月丁香色婷婷| 噜噜久| 狠狠香蕉| 丁香五月色情av| 黄网免费看| AV五月丁香| 婷婷五月天久久久| www.久久99| 大香蕉丁香婷婷| 97在线视频人妻九色| 久草久青福利| 91se在线观看| 逼特逼在线免费播放| 可以看的av| 九九热狼人| 激情综合网五月丁香| 九九热99精品在线| 99视频久久| 日本婷婷激情四射中文字幕在线观看| 亚洲精品国产setv| 五月丁香婷婷潮喷中文字幕| 婷婷五月天视频| 五月婷婷 自拍| 婷婷第六色| 日本丁香五月| 另类五月激情| 激情五月天综合网站网站网站| 色五月丁香五月天| 成人免费120分钟啪啪| 91九色 婷婷| 激情综合网亚洲色图| 日本色婷婷| 久久青草国| 久久在这里有精品| 日韩啪啪网| 人人操大| 日本在线免费中文com.| 五月丁香啪啪啪综合网| 91干网| 婷婷色五月色妇| 99色婷婷视频| 97婷婷丁香| 丁香婷婷色五月| 人妻22p| 精品牛仔裤超碰| 日日插日日干| 色五月婷婷在线观看第一页舔| 91大神操美女| 五月婷婷综合在线| 伊人久久大香线蕉亚洲五月天,| 色综合色欲综合天天免费| 婷婷天堂综合| 熟女网站久久| 久久99综合网| 婷婷狠狠97| 色综合激情| 综合另类激情| 91久久婷婷人人澡草| 亚洲精品第一色色色色色色| 色人五月婷婷| 欧美大肥婆大肥BBBBB| 日日骑夜夜撸| 婷婷久久久| 99热高清在线| 99成人| 亚洲激情综| 久久综合五月天| 香蕉狠狠爱视频| 香蕉婷婷| 色噜噜狠狠色综合无码久久欧美| 欧美色五月| 欧美欧盟性爱网| 色色婷婷五月| 99色精品视频| 久久丁香五月天| 丁香六月婷婷开心| 色五月婷婷在线| 激情小说五月丁香在线视频观看视频| 色色激情五月天| 97自拍视频在线| 丁香五月激情啪| 五月婷婷色综图片| 色区久久| 激情六月丁香综合| 婷婷五月六月丁香| 99热在线免费观看精品| 精品人妻伦九区久久AAA片| 激情婷婷综合| 婷婷影院A成人| 婷婷色情五月| www久久久久| 人人人操| 碰碰91| 天天插天天爽| 深爱激情AV| 99热精品免费| 五月丁香六月婷婷综合网| 五月婷婷涩涩爱| 丁香激情婷婷网| 91大神在线免费看视频全集男男一起操| 思思热精品在线| 五月婷婷久久大香蕉| 久热91| 色婷婷伦理| 亚洲精品网址| 天天操综合网| 五月草视频| 日韩999| 性生生活大片又黄又| 婷婷五月天综合久久| 97人人射| 中文字幕高清av| 久久婷婷伊人| 九九精品在线观看视频6| 久久久99久久| av操B网站| 五月丁香激情综合网| 狠狠色无码| 91精品91久久久中77777久久玖玖九九| 色五月首页| 狠狠草狠狠草| 色综合xx| 五月丁香无码| 亚洲精品第一国产综合亚AV| 久久98| 99热99热99热99热| 日韩色色网| 在线91日韩| 伊人激情| 97干网站| 色欲色香综合网| 色综合播放| 丁香婷婷五月综合影院| 啪啪日本欧美| 99色在线观看| 碰碰女| 天天综合网网欲色| 婷五月天在线草| 影音先锋毛片网站| 91 久热| 天天爱天天操| 99色色网| 狠狠色五月天| 丁香五月在线看| 激情六月丁香综合| 五月丁香婷婷色色色| 99精品综合在线| 人妻丰满精品一区二区A片| 久草视频一,二三四| www.深爱激情| www.丁香黄色五月天人与| 婷婷六月色| www.综合久久.com| 丁香六月亚洲| 亚洲人操亚洲人| 天天插天天干| 亚洲天天操| 久久精品4| 久久精品人妻| 国产五月天欧美色| 新激情五月天色播| 五月丁综合在线观看| 只有精品在线观看| 九九RE视频在线精品| 婷婷五月天中文字幕| 丁香婷婷久久综合在线| 在线超碰免费| 久在热99| 1级欧美日韩| 玖玖爱伊人网| 极品精品一区二区三区在线| 最近免费中文字幕大全高清大全1| 99久久这里只有精品| www.婷婷| se99视频| 丁香婷婷六月| 大香蕉久| 婷婷久久综合| 欧美美女视频| 国产精品涩涩涩视频网站| 婷婷在线视频| 午夜69成人做爰视频| 欧美性色A片免费免费观看的| www.色五月| 色婷婷成人做爰A片免费看网站| 夜夜干天天操| 成人精品在线| 免费无码毛片一区二区A片| 丁香五月激情网| 亚洲V国产V欧美V久久久久久| 人妻AV中文系列| 裸体做A爰片毛片A片免费| 一本大道嫩草AV无码专区| 日韩免费视频| 爱iii做iiii日| 色情成人五月天| 国产第99页| 91色在线 | 日韩| 久久色五月| 九九久久综合| 人人澡天天色天天做| 5月丁香婷婷| www.五月激情红色| 伊人久久五月天综合| 色色色色色色网站| 91九色熟女| 日本色五月| 久久小说| 五月丁香A∨在线| 日韩99视频| 九九激情网| 五月丁香婷婷AV天堂| 欧美丁香五月天| 五月丁香另类图片| 欧洲亚洲免费视频9| 婷婷久久综合| 色五月丁香91| 玖玖婷婷色五月| 五月丁香成人网| 噜色精品| 色播播五月| 超碰在线观看99| 天天操夜夜操| 91精品综合久久久久久五月天| AV动漫不卡无码免费| 久久99热这里只有精品首| 五月天影院婷婷在线观看| 天堂草在线观看| 日韩久热| 国产精品久久久爽爽爽麻豆色哟哟| 亚洲99一级无嗎特制在线| 97人妻碰碰碰久久香蕉| 99久久99热| 逼里香不卡| 成人 在线 日韩| 免费视频在线观看的网站| 免费成人中文字幕| 九九热这里只有精品556| 五月丁香六月婷综合成人综合| 香蕉人在线香蕉人在线 | 久久久久久久人妻| 激情网色五月| 这里都是精品99| 开心五月天激情网站| 久久9久| 色五月婷婷成人| 开心五月综合激情网| 欧美黑人巨大猛烈cuckold| 久久人人妻| 色色国产| 色婷婷五月天成人网| 亚洲综合网激情五月天| 五月丁香欧美综合| 婷婷日日天天| 色婷婷久久久| 日噜噜色| WWW.五月天9999| 天天干电影| 亚洲亚洲人成综合网络| 色噜噜夜夜夜综合网| 天天成人丁香美女AV| 五月丁香影院| 操逼五月天| 操国产人妻| 啪啪综合| 狠狠色婷婷丁香五月| 婷婷激情综合无月| 99久热在线精品| 玖玖婷婷五月天毛片| 五月丁色AV| 超碰三级片| 九九伦子片| 天天爽—爽| 99热这里| 五月亭久久无码视频| 五月天性色| 婷婷五月天精品| 五月天另类图片区99| 久久久精久人妻| 激情五月综合亚洲另类| 丁香婷婷色九月| 色五月丁香伊人五月| 九九99久久| 色婷婷狠狠18禁| 噜啊噜在线| 婷婷五月天综合久久日美女| 熟女五月天久久综合| www.yw尤物| 久久九九国产| 欧美婷婷综合| 亚洲不卡123| 天天操夜夜肏| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 这里只有精品偷拍| 色~性~乱~伦~噜| 六月婷婷开心| 国产精品久久..4399| 精品99在线观看| 久久婷婷六月综合综合| 日日爽天天| 岛国在线观看91| 五月婷婷色丁香| www.婷婷六月天| 欧美狠狠草| 99操| 九九無碼| 五月天成人小说| 九九色影视| 五月天综合久久| 色婷婷av在线| 99精品久久久久久久婷婷| 欧美图片丁香五月天| 五月天丁香婷婷社区| 中文在线成人| 青青草原伊人网| 91精产一区三区免费观看| 五月激情婷婷播播开心| 99热高清在线| 97碰碰在线观看视频| 九九色之九九色之88| www.99热精品| 久久大香蕉同僚| 婷婷五月丁香综合| 亚洲操逼网| 五月天成人综合| 午夜理论片最新午夜理论剧 | 99热这里只有精品33| 一二线视频 另类| 欧美综合五月丁香五月天| 伊人婷婷福利网| 天天插天天插天天插| 九九九九成人| 99精品久久久久| 超碰人人干| 久久99网站| 婷婷五月丁香成人| 婷婷中文综合网| 色婷婷的五月天| 色五月婷婷操逼| 国产欧洲欧洲精品久久| 这里只有精品99视频| 全部老头和老太XXXXX| 久热中文字幕在线线观看| 五月天另类小说久久小说网| 婷婷婷婷色| 棕合影院色色| 久久久网站| 思思热久久婷婷五月天| 国产综合久久久777777| 在线色色| 精品视频二级九九| 天天做天天爱天天要| 台湾无码A片一区二区| 五月天啪啪啪| 五月丁香色狠狠干大屄| 成年视频免费观看| 五月激情小说网| 五月天色导航| 99热99天堂| 成年人丁香五月| 色情免费视频播放| 大香蕉久久婷婷精品综合| 五月丁香婷婷六月| 99热只有精品在线观看| 中文字幕av亚洲| 超碰AV在线| 色色色色色色色色色色色色色色,网站| 大天天伊人| 激情五月天丁香| 99久久综合| 九九黄色网| 久久大大香| 91视频一起草| 99久久综合网| 六月丁香色色色| 性一交一乱一交A片久| 婷婷丁香五月色| 丁香六月婷婷基地| 99精品久久久久| 黄色99网| 久99久视频免费观看| 亚洲亚洲人成综合网络| 六月激情综合| 五月婷婷和六月| 色婷婷AV在线| 国产午夜精品AV一区二区麻豆| 婷婷成人视频| 插插网爽妇五月丁香| 五月天天综合| 艳妇野外情欲放荡HD| 激情六月婷婷| 亚洲狠狠操| 激情综合5| 丁香五夜激情四射夜夜夜| 五月丁香偷拍| 五月丁香六月婷婷色日| 五月婷婷开心色伊人| 91热视频色网站| 色色婷婷综合| 思思热视频在线| 91婷婷五月天嫩女| 色五月婷婷五月久久| www.91九色| 色九月丁香婷婷蜜桃在线观看| 久久538| 五月丁香六月婷婷激情网| 五月丁香综合精品| 久久五月天婷婷| 亭亭玉月丁香| www.com久久久久久久久久久久久久久久久| 99亚洲天堂| 色天五月天在线观看视频| 好大好粗嗯啊-一级黄色大片免费观看-成人AV | 色婷婷基地| 91se在线观看| 一本到不卡高清DVD| 99熟女| VA色婷婷| 五月婷婷综合网| 丁香五月综合网亚洲综合欧美狠狠 | 99视频| 色狠狠色| 亚洲综合成人网| 六月色婷婷| 六月丁香色婷婷| caopeng97日韩| 97色色色色色色色| 久久久激情视频| 成人网站av免费网站推荐| 亚洲免费成人电影AV| 日韩中文字幕| 激情五月综合| 婷婷五月激情小说| 丁香激情久久| 伊人久久大香线蕉av一区| 5月婷婷6月六月丁香| 五月婷婷激情综合视频| 五月丁香婷中文字幕| 79亚洲精品少妇| 亚洲艹网| 婷婷五月色播网| 91ncom.色| 亭亭色网| 99色色| 97人妻碰碰碰久久香蕉| 五月天激情网址| 永久免费一区二区三区| 岛国操B不卡在线| 九九九九九九九九九九九九九国产精品| 亚洲精品第一色色色色色色| 青草青草视频2免费观看| 激情婷婷| 另类少妇人与禽zOZZ0性伦| 九九香蕉网| 五月婷婷激情综合| 五月婷在线| 婷婷久草| 免费看欧美成人A片无码| 国产亚洲精品久久久久久郑州| 丁香六月婷婷| 成人做爰高潮A片免费视频| 粉嫩AV久久一区二区三区| 大学生高潮无套内谢视频| 午夜天堂一区人妻| 欧美性生交XXXXX无码小说| 亚洲深喉AV| 玖玖九九超碰| 色欲色香综合网站| 日韩久综合| 香蕉婷婷| 2018国产大陆天天弄| 日韩艹比| 丁香五月婷婷综合激情啪啪啪| 操b视频在线观看一区二区| 五月婷婷黄色毛片| 天堂爱啪啪| 国产激情AV| 婷婷综合另类小说| 亚洲综合五月天综合| 99性爱精品| 99热这里只有精品中文字幕| 9l视频自拍九色9l视频在线观看| 亚洲综合五月天婷婷丁香| 激情综合色图| 五月婷婷在线视频| 丰满人妻妇伦又伦精品国产 | 色八戒操婷婷| 色人久夂| www.粉嫩av.com| 色国产五月| 五月丁香淫淫婷婷婷| 婷婷丁香宗合888| www九九热| 国产av网| 色碰干| 思思99热在线| 五月婷婷网五月在线| 影音先锋91资源站| 网站免费一站二站| 色婷婷中文| 欧美性爱一区| 5月婷婷综合| 亚洲另类噜噜| 91久久久久久久久18| 成人做爰A片免费看视频| 91干99| 天天爽人人综合免费7799| 性爱电影科技贸易有限公司| 丁香五月在线观看| 久久九九色| 五月婷婷激情啪啪| 色婷网| 亚洲一区二区无码蜜乳av| 青青草原伊人网| 蜜桃人妻无码AV天堂三区| 久热9热| 99re思思热在线视频| 一级操逼内射在线视频| Av大香蕉| 97久久综合网| 日日噜噜夜夜狠狠久久丁香六月| 五月丁香综合啪啪対白| 国产美女视频久| 99精品偷自拍| 91在线视频综合| 五月激情精品视频| 久久在线大香蕉| 国产精产国品一二三在观看| 91久久综合亚洲噜噜成人在线 | 色六月视频| 91精品综合久久久久久五月丁香| 久热99中文字幕| 婷婷色色五月| 深爱五月激情| 天天日天天舔| 欧美色色色色色色色色色色| 日逼免费视频| 天天日夜夜拍| 97在线干| 夜夜骑日日夜夜| 日本综合久久| 日本99婷婷| 五月天久久婷婷婷| 久久99久久久久久| 超碰永久在线| 天天综合干| 成人AV免费观看| 久久精彩视频99| 婷婷五月天六月综合| 91九色精品女同系列| 98毛片| 久久久精品99亚洲综合| 婷婷六月天激情| 丰满少妇乱A片无码| 丁香婷婷久久 | 大香蕉婷婷久久| 久久婷婷五月综合伊人| 激情五月综合网| 亚洲精品国产成人AV在线| 婷婷五月天视频亚洲| 亚洲日韩久久婷婷伊人| 人人玩人人橾| 婷婷五月天激情综合| www99xxxx五月丁| 少妇婷婷五月天| 亚洲无码99| 婷婷五月丁香啪啪| 亚洲色婷婷五月天| 男人的天堂av俄罗斯热| 色视五月天婷婷| 亚洲色啪| 丁香五月天导航| 久久资源网五月婷| 99视频在线观看网址| 天天爱夜夜爽| 伊大人久久| 丁香五月天婷婷中文| 另类天堂| 无码地址| 婷婷综合网| 超碰人人干| 丁香五月网址| 色婷婷五月天偷拍| 婷婷丁香五月网| 91综合在线观看首页| 无码网站视频| 亚洲成人电影在线免费观看| 色丁香婷婷美女视频网站| 亚洲国产精品SUV| 五月婷婷激情四季| 激情五月天色播| 婷婷六月丁香五月| 99色色热| 久久这里只有国产视频| 丁香五月花| 天天噜天天爱| 欧美精品XXXXBBBB| henhencao国产在线| 99自拍视频| 亚洲午夜精品久久久久久人妖| 日本99视频| 欧美日韩成人在线| 激情综合五月| 婷婷丁香69精华| 婷婷成人视频| 噜噜色五月| av九九| 婷婷六月激情啪啪| 99热在线观看| 日本成人小说婷婷六月| 99久久婷婷国产综合精品电影| 色人妻五月| 亚洲影院婷婷色| 色色亚洲视频| 色情五月天丁香社区| 欧美丁香五月97色| 97人人射| 99热这里只有精| 狠狠色丁香婷婷综合久久97AV| 成人AV在线中文版| 丁香激情婷婷网| 婷婷香蕉视频| 91日视频| 成人丁香五月| 久久久久9999| 午夜精品777| 中文字幕高清av| 狠狠狠狠狠| 91ncom.色| 五月婷婷大香蕉| 99热这里有精品2| 免费观看2018www黄色操逼网站| 五月婷婷导航| 丁香婷婷六月激情文学| 久久久国产精品黄毛片| 99热在线观看这里只有精品| 黄色91在线观看| 五月婷色色| 综合激情网五月激情| 九九99精品视品| 五月天亚洲综合网| 国产成人av在线| 国产毛多水多女人A片| 99热中文字幕久久| 久艹大香蕉| 丁香五月电影| 99热亚洲精品66| 色碰干| 少妇熟女视频一区二区三区| 26uuu亚洲精品国产| 日本久久视频| 国产精品美女久久久久AV超清| 这里只有精品9| 婷婷97碰碰| 99热这里有精品| 亚洲成人五月| 久久最新色色色| 色综合中文综合网| 激情九月婷婷| 99只有这里是精品| 久久99激情| 亚洲国产精品二二三三区| 激情综合网五月激情网| www.久久| 996黄色片| www.超碰在线| 五月丁香六月在线| 2050人人操免费工开爱|