免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁(yè)采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁(yè)采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁(yè)沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁(yè)、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁(yè)Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁(yè)讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁(yè)本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁(yè)或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁(yè)。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁(yè)采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉(cāng)庫(kù)或 Zabbix 官方倉(cāng)庫(kù)安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉(cāng)庫(kù)會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉(cāng)庫(kù)地址差異很大。建議參考官方安裝文檔或者直接看倉(cāng)庫(kù)安裝提示按照“添加官方倉(cāng)庫(kù) - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁(yè)開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)。看已安裝 Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁(yè) location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁(yè)面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁(yè)轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁(yè)內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁(yè)。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁(yè)。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁(yè)面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少?gòu)哪0彘_始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁(yè)是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁(yè)面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁(yè)Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁(yè)的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁(yè)的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁(yè)訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
思思久日精品视频| 99精吕视频在线观看了| 五月婷婷九九热| 开心五月综合激情网| 丁香五月六月久久综合 | 97久久超碰| 激情开心五月亚洲| 五月天激情在线视频| 五月色婷丁香| 久久婷婷一级片| 99人人干| 欧美色色色色色| 天插天啪天啪天啪| 五月综合婷婷久久在线| 天天插天天很| 色亭亭五月天网扯| 开心四月婷婷在线色播播| 97在线视频人妻九色| 综合色五月亭亭| 天天日天天色| 天天精品视频免费观看| 五月婷婷六月丁香综合在线| 丁香五月电影| 五月婷婷六月色| 亚洲人妻Av| 色爱五月天| 狠狠999| 五月丁香操婷逼| 99久久婷婷综合| 搡BBBB搡BBB搡五十| 五月婷婷天| 婷婷五月天亚洲| 五月丁香激情婷婷综合| 九九久热| 狠狠干五月天| 天天爽天天| WWW.色婷婷.COM| 三级成人网站| 常久最新免费的色吊丝| www夜夜| 亚洲综合婷婷六月丁香五月| 婷婷色丁香六月| 99这里只有精品在线| 色色热99| 九九热在这里只有精品| 99成人免费热视频| 亚洲婷婷五月| 永久精品| 亚洲愉拍99热成人精品| 影音先锋一区二区资源站| 深夜婷婷 丁香| 日日夜夜天天| 欧美黄色一级| 91无码视频| 丁香婷婷五月色成人网站| www.久久色.com| Caoporn公开| 一起草日本| 亚洲天堂AV综合网| 亚洲在线操| 精热在线综合网| 久久久人妻不卡| 99热在线播放| 色婷婷香蕉丁丁网| 亚洲免费观看高清完整版AV线| 精品人妻伦一二三区久| 五月婷婷成人| 九色激情| 亚洲思思热久| 人人操人av| 五月婷婷 激情五月| 亚洲六月婷婷| 亚洲亚洲人成综合网络| 青青草原爱爱网| 婷婷黄色五月| 五月开心六月婷婷在线播放网站| 婷婷.com| 日韩另类| 久久嘟嘟丁香| 欧美成人网婷婷综合在线| 91在线观看www| 人妻系列久久久久久久久久久| 婷婷色五月综合丁香| 99激| 日韩欧美成人片| 久久精彩视频| 26uuu丁香婷婷五月| 国产精品成人AV在线| 精品久久99码| 五月丁香婷婷爱| 99热国产精品| 综合玖玖偷拍| 五月天狠狠干| 色婷婷六月| 日韩在线观看网址| 大香蕉久久| 色 五月婷婷基地| 深爱激情五月天| 丁香五月激情五月| 亚洲五月婷| sewuyuejiqingwang| 五月成人天| 久久97| 51精品国自产在线| 六月婷婷网| 色色综合色| 97人人操人人爽| 亚洲av电影在线| 婷婷五月丁香六月| 亚洲欧美婷婷五月色综合| 天天插综合| 字幕网AV中文字幕| 婷五月丁香| 狠狠色噜噜狠狠狠狠综合| 亚洲婷婷免费| 337p大胆噜噜噜噜噜91Av| 韩国婷婷丁香五月| 国产亚洲成AV人片在线观黄桃| www.99热精品| 天天色天天操天天射| 99性爱视频| 九九干视频| 久久五月丁香激情综合| 色优久久| 乱女乱妇熟女熟妇综合网站| 99热日本| 日本美女天天日天天爽| wwwss在线观看| 伊人久久大香蕉网| 婷婷五月综合久久中文字幕| 婷婷少妇激情| 97在线/亚洲| 九九色婷婷Av| 亚洲综合热| 五月婷视频| 97人人操在线| 五月婷在线观看| 一级二级色大片| 欧美噜一噜| 五月丁香网站| 婷婷五月天Av| 久久五月婷天天干| 噜噜色com| 色六月 婷婷| WWW激情五月天| 婷婷91| 色播五月婷婷| 被强行糟蹋的女人A片| 人人爽天天莫| 丁香五月花| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 久热无码| 久久人妻爱爱| 91九色PORNY大屁股| 色婷婷色久综| 国产探花一片区| 五月中旬婷婷丁香六| 丁香五月成人| 五月天激情无码| 69精品无码一区二区三区| 色六月视频| 婷婷五月天 丁香五月天 裸体| 综合狠狠干| 国产五月视频| 婷婷五月在线视频| 丁香色五月婷婷17C| 五月丁香亭亭| 蜜乳中文字| 伊人五月天久久| 播五月开心婷婷欧美综合| 色蜜婷婷| 大地9中文在线观看免费高清| 五月天激情综合10p| 超碰cap| 激情五月六月婷婷| 色婷婷基地| 色婷婷香蕉| 久久99热精品a片在线观看| 国内久久婷婷| 精品色| 激情五月婷黄版| 99热思思| 天天操婷婷| 日本久久视频| 成人婷婷色综合| 色色哒五月婷婷六月丁香| 日本99视频精品免费播放| 九九色综合网| 99热最新网址| 久草天堂| www.久9| 综合久久婷婷| 色五月综合在线| 久久草中文日韩欧美| 婷婷综合五月| 99热这里都是精品| 婷婷丁香五月,狠狠综合| 久久天堂| 狠狠插.com| 欧美丁香五月夫妻天| 久热九九| 影音先锋天天日| 桃色五月天| 五月丁六月婷| 热久久思思热思思| 天天色天天射天天日| 日韩av手机在线观看| 9l视频自拍九色9l视频在线观看| 婷婷丁香人妻久久在线观看| 色五月涩涩婷婷蜜桃| 99热很操老逼| 五月天丁香婷婷视频网址| 久久WW| 色五月婷婷开心| www.五月天婷婷| 99精品偷自拍| 开心五月深爱五月| 日本综合色色| 九九色色| 激情五月天婷婷在线网址发给我| 啪啪激情网站| renre人人操国产超碰在线| 丁香五月91| 婷婷丁香www视频日本韩国| 91久久久久久久久18| 超碰成人av| 播五月丁香六月| 五月丁香六月婷婷,婷| 踪合专区啪啪| 婷婷丁香成人五月天| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 婷婷五月免费在线| 日在线V视频在线播放| 超碰人人操在线| 操逼综合网| 精品一二三区久久AAA片| 亚洲色五月| 亚洲五月停停| AV成人在线播放| 天天色天天爱天天爱天天爱y| 99小精品| 丁香五月婷婷激情123| 五月婷丁香花| 蜜桃婷婷丁香五月天狠狠久久综合| 五月丁香啪啪综合| 人妻中文在线| 日日噜狠狠色综| AV中文在线| 色色五月天丁香婷婷| 婷婷九色| 亚洲中文字幕av| 中文字幕,综合,91| 深爱婷婷基地| 五月婷婷中文网| 色五月开心五月激情五月| 综合亚洲六月婷婷在线| 色婷婷精品小视频| www,婷婷五月天777me,com| 99久久66| 99视频这里只有久久精品| www.爱操com.| 天天婷婷色六月| 五月丁香龟婷婷| 激情五月亚洲| 操逼三区| 色婷婷成人做爰A片免费看网站 | 色狠狠色| 婷婷丁香五月激情中文字幕版| 色婷婷中文字母五月丁香| 成人电影一区| 五月丁香六月婷婷玖玖| 色五月婷婷影院| 激情五月天伊人影院| 婷婷五月天高清无码| 婷婷综合在线| 久久女婷| 丁香婷婷老司机久操| 色婷婷a| 色情综合| 久狠日av| 狠狠狠狠狠狠狠狠| 久操欧美在线观看97| 99久操视频| 黄色aa观看aaguochan| 成人VAV视频在线观看| 色九月婷婷丁香| 激情人妻综合| 五月天婷婷基地| 8090在线影视少妇| 五月天三级久久| 色色五月婷婷| 日本婷婷色日| 三男玩一女三A片| 日本综合九九| 亚洲超碰在线| 婷婷五月天在线综合| 天天干,夜夜爽| 日本色婷婷| 色啦啦视频| 五月间天堂综合| 久久视频66| 99热99re6国产在线播放| 九九青草热| 99热| 996er热| 99热99免费| 色噜噜狠噜噜视频| 五月婷婷影视| 色五月涩涩婷婷蜜桃| 婷婷五月天成人网站| 丁香五月婷婷色情综合| 99久久五月婷婷| 综合色播| 五月丁香色综合| 国自产拍偷拍精品啪啪一区二区| www.henhenl| 亚洲精品性色| 无码人妻精品一区二区蜜桃色欲| 中文字幕视频在线播放| 色五月天婷婷| 婷色综合| 另类图片婷婷五月天| 亚洲超碰在线| 98永久精品| 日撸夜撸日操| 日曰躁夜夜躁2026| 国产夫妻操逼内射视频| 另类图片天天影视在线观看| 最新日韩久热免费视频看看| 日日操,夜夜爽| 久草五月天| 欧美日韩五月婷婷| 亚洲激情精品| txt五月激情四射网综合俺也来了 五月天婷婷丁香人人操91 | 爆乳熟女-区二区三区| 丁香五月视频在线观看| 大香蕉AV在线| 国产伊人五月天| 婷婷色丁香五月| 久久久久视剧HD| 天干干夜夜操| 内射人妻视频国内| 色婷五月天亚洲| 色五月激情五月| 99男人天堂| 亚洲色99| 在线不卡中文字幕| 久草大| 午夜天天精品视频| 色情免费视频播放| 97日本在线播放| WWW、日本色丁香、co m| 天天色天天日| 色五月成人婷婷| 亚洲成人综合在线| 天天干,天天舔| 99啪啪视频| 殴美日比视频| 色吧综合网| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 四川BBB搡BBB爽爽视频| 婷婷六月天亚州| 婷婷欠久少妇| 久久精品视频在这里有| 久久综合影院| 五月天成人综合| 这里只有精品日韩| 欧美丰满熟妇BBB久久久| 五月婷婷 六月丁香| 搡BBBB搡BBB搡18| 春色激情第四色| 五月天婷婷偷拍| 久久一热| 996热| 国产无套精品一区二区| 天天色伊人| 色婷婷网大全在线| 色爽九九| 久1色色| 国产AV一区二区三区日韩| 天天干-天天日| 91九色超碰| 99久久玖玖| 97人妻碰碰碰久久| 丁香五月天社区| 一本道综合网| 任你日热视频| 99在线精品视频| 丁香五月婷婷成人网| 丁香伊人五月色婷婷五十路| 丁香五月天啪啪| 五月丁香六月婷婷综合免| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 九一99| 久久98热re| 能直接看的av网站| 婷婷丁香五月,狠狠综合| 香蕉中文在线| 曰韩少妇内射免费播放| 精品色色| 激情二色月| 亚州色综合| 五月天桃色深爱网| 五月丁香六月婷婷操操操| 九九热视频99| 伊人狼人干| 丁香五月激情啪| 色婷婷丁香五月观看| 麻豆123区| www.minyis.com【JT】实力收量可预付QQ2101460746 | 99热18| 日本操B视频在线观看| 亚洲色婷婷五月天| 欧洲综合色| 五月婷婷深深爱| 嫩草AV久久伊人妇女超级A| 99精品亚洲| 狠狠色丁香综合| 男人天堂AV在线一区二区| 成人丁香五月| 久久婷婷影院| 青青草原伊人网| 思思99re这里只有| 五月亭亭六月色| 第四色大香蕉| 色色999三级片| 26uuu亚洲| 婷婷免费视频| 五月丁香花开综合网| 丁香综合网| 天天综合网色欲香| 另类丁香五月天区图| 日韩啊啊啊| 国产精品爽爽久久久久久| 色五月婷婷大| 激情播丁香| 黄网免费观看| 五月天婷婷爱| 大香蕉五月| 影音先锋 萱萱| 99色在线| 丁香六月激情| 久久XX| 激情AV综合| 六月婷婷之青青草| 五月丁香久| 中文字幕高清av| 婷婷五月成人| 99亚洲精品| 欧美日韩99| 五月丁香六月婷婷网| 丁香五月天欧美在线| 激情综合播播| 99热20| 婷婷五月天成人在线视频| 欧美婷婷日本| 五月六月播婷婷| 五月婷婷六月丁香综合| 99热欧美| 伍月婷婷免费视频| 久久婷婷激情五月天一区二区| 91九色在线| 伊人久久婷| www.色色五月天.com| 色婷婷91| 91人人操人人| 激情综合五月婷| 大香蕉手机视频| 国产99久久久| 另类色视频| 六月丁香视频网站| 六月婷婷狠狠做| www.日日夜夜| 激情伊人五月天| 五月天成人小说网| 噜噜在线| 天天看A片| 超碰人人色| 激情五月婷婷视频一区二区三区| 777精品久无码人妻蜜桃| 亚洲无码99| 国产XXXX搡XXXXX搡麻豆| 少妇人妻人伦A片| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 丁香九月激情| 天天人人天天爽| 天天做天天要天天爽| 最新五月天婷婷影| 99久久这里只有精品| 久99热在线观看| 91丨九色丨熟女|新版| 天天色色天天| 欧美性爱丁香五月| 伊人网碰碰| 日日干五月天婷婷| 激情深爱五月| 9久热| 成人免费120分钟啪啪| 丁香六月婷婷色XXXX| 亲子乱av一区二区三区的| 色色色婷| 亚洲AV日韩在线观看| 婷婷九月在线| 五月天婷婷网站| 五月天激情婷婷久久| 久久综合激情| 99热亚洲只有色| 久久性刺激| 99热这是里只有精品| 久久久五月婷婷| 婷婷99中文字幕| 内射人妻视频国内| 久久婷丁香五月| 丁香五月婷婷丫| 天天插天天射| http:色情日本com| 91在线日| 久热这里只有精品视频免费观看| 色婷婷综合网| 91九色无码日韩| 五月丁香六月综合激情网| 五月丁香精品| AV中文字幕夜夜操b天天摸bb | 人妻九九九九| www.久久色.com| 丁香六月激| 人妻久久久久久久| 狠狠ri| 亚洲区,视频区,视频区免费| 日日天天干| 无码99| 五月天天综合| 色婷婷狠狠18| 激情婷婷狠狠干综合| 97人妻碰碰中文无码久热丝袜| 可以免费看AV网站| 极品少妇XXXX精品少妇偷拍| 久热无码| 色综合com| 久久中国毛毛片爱久久| 国产色五月| 99精彩视频| 香蕉综合在线| 久久久香| www.maotanji.com| 五月婷婷导航| 久婷久婷激情肉| 激情五月天在线视频| 天天躁日日躁狠狠躁日日躁2022年5月9日| 九九成人精品免费视频| 丁香九月久久| 97视频91| 97在线精品| 99人人操人人操人人精| 中文av网站| 九九视频在线观看视频在线播放69| 日韩一区二区三区无码| www.婷婷六月天| 久久黄A片| 九色自拍| 99re热在线视频| 夜夜大香蕉婷婷丁香| 免费啪啪啪网站| 美国色五月天婷婷资源站| 天天综合天综合久久网| 99热777| 亚洲狠狠丁香婷婷香蕉| 色婷婷五月天在线| 丁香婷婷老司机久操| 婷婷激情五月呦呦| 婷婷激情五月天小说| 综合色色五月| 五月丁香婷婷潮喷中文字幕| 九九热91| 丁香五月香蕉| 五月丁香综合啪啪| 午夜69成人做爰视频| 久久狠色噜噜狠狠狠狠97| 国产精品18久久久| 丁香五月综合亚洲| Aα在线免费观看| 99热这里只有精品55| 色综合香蕉| 玖玖99免费视频| 久久久久久综合88| 欧洲第一无人区观看| 久久五月婷综合网| 九九综合五月欧美| 久热中文字幕| 五月天婷a在线| 成人国产欧美大片一区| 日日操天天| 日韩免费99| 狠狠色婷婷7777久| 五月婷综合性中心| 99国产欧美视频| 丁香五月色五月| 成人五月天婷婷| 中文字幕 中文字幕明步| 五月天 另类图片| 精品亚洲国产成AV人片传媒| 伊人久久艹| 9这里只有精品| 综合亚洲AV| 99色视频| 99视频在线精品免费观看2| 9热在线观看| 日本丁香五月| 丁香五月天啪啪a日本| 激情黄色小说色五月| 亚洲精品V天堂中文字幕| 99热99热在线| 激情五月激情综合俺也去婷婷小说| 日韩色色色色| 九色婷婷| 老司机日日夜夜青草| 91狠狠综合久久久| 中文字幕在线不卡视频| 中文字幕无码人妻少妇免费视频 | 欧洲色色| 精品久久久91久久影视网| 99色亚洲| 丁香五月婷婷色五月| 操操熟女| 影音先锋91网站在线观看| 色婷婷88| www、色色色| 人妻自慰在线| 五月婷婷久久大香蕉| 综合av在线| 中文字幕在线日亚洲9| 激情久久综合网| 婷婷伊人网| 亚洲综合碰| 北京熟妇搡BBBB搡BBBB| 婷婷色在线观看| 五月丁香花激情综合网| 婷婷五月天激情网址| 九九色院| 免费日本aⅴ中文字幕| 桃色五月天| www.超碰在线| 久久婷婷五月天激情| 丁香五月23111| 免费的日逼视频| 欧美va视频| 丁香激情五月少妇| 七七色综合| 亚洲亚洲人成综合网络 | 六月丁香五月婷婷首页| 五月丁香婷婷色色| 一级二级色大片| 久久日本wwww色| 亚洲 在线 另类| 婷婷99狠狠| 天天插综合| 超碰97免费在线| 五月激情五月婷婷五月天在线| 午夜九九电影| 情欲综合网| 亚洲精品色色| 久久婷婷五月综合97色一本| 超碰chaompinm| 另类激情五月| 色停停香蕉视频| www.婷婷.com| 亚洲综合在线播放| 另类A片| 手机在线日韩视频中文字幕| 9999三级片| 色狠狠色综合久久久绯色AⅤ影视| 久久久久久久久久久44| www五月天com| 久久婷婷综合基地| 另类视频综合| 91婷婷丁香五月天免费视频网站| 激情色播| av在线超清中文| 99热这只有| 夜夜噜夜夜奇| 少妇人妻综合色6699| 激情五月狠狠| 精品爆操| 香蕉婷婷| 99国产精品久久久久久久久久久| 九九九激情综合| 97人人干视频| 99热久久日本| 丁香五月激情啪啪| 狠狠擼综合| 五月天色婷婷基地| 日日夜夜狠狠| 色色色9| 色情成人五月天| 激情都市另类| 国产免费av在线| 97久久久| 婷婷亚洲五月色综合| 色五月天成人| 亚洲旡码| 激情婷婷狠狠干| 综合色激情| av在线激情| 五月天激情网图片| 久久色吧| 狠狠艹狠狠艹| 色婷婷色婷婷五月| 中文字幕永久免费| 日本不卡高字幕在线2019| 超碰99热在线观看| 九玖视频这里只有精品| av性爱在线| 9久久婷婷国产综合精品性色| 天天精品视频免费观看| 182.t午在线观看| 91ncm视频| 深爱激情AV| 噜噜狠狠色| 天天爱天天操| 五月天色色色色色| site:esunnet.com| 欧美色97| 99热香港| 99er日韩| 色色亚洲| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 性日本精品| 99热手机在线精品| 婷婷激情四射五月天| tingtingjiqingwuyue| 欧美五月婷婷| 丰满少妇乱A片无码| 碰碰女| 五月成人综合| 色婷婷成人做爰A片免费看网站| 婷婷的色色五月天| 99久久综合精品五月天| 岛国av网站| 五月婷婷综合影院| 五月天激情小说婷婷基地| 在线成人网址| 色综合色色色色色| 91久久久久久久| 97婷婷丁香五月天激情图片| 五月天婷婷色播在线网| 夜夜躁爽日日| 成人在线不卡| 九九热在线观看视频| 午夜天天精品视频| 99超在线| 五月综合无码| 26UUU欧美激情一区二区| 五月丁香六月婷婷亚洲视频| 精品一二三区久久AAA片| 激情九月婷婷| 激情综合在线观看| 9久久精品视频| 色狠狠色噜噜AV天堂五区消防| 国产成人精品一区二三区熟女在线 | 99综合| 婷婷香蕉| 99亚州综合精品成人网| 婷婷丁香激情综合色情| 久99在线视频| 国产avapp 网| 国产9色在线/日韩| 99热1| 狠狠爱五月婷婷| www.com任你艹| 激情婷婷五月天日本系列| 五月综合激情久久| 欧美性爱特黄一级aaaassss| 成人综合网站| 欧美婷| 成人超碰网| 五月天婷婷乱| avh片在线观看| 五月之婷婷| 久久综合最新网址| 精品久久久人妻| 婷婷久久天堂网| 婷婷五月激情五月激情| 五月丁香天堂| 思思热在线观看| 国内一级精品| 九九综合色| 99色综合网| 极品少妇XXXX精品少妇偷拍| 成人色情五月天婷婷丁香| 国精产品一区一区三区免费视频| 高清无码一区二区三区四区| 亚洲操女| 成年人丁香五月| 久热中文字幕| 五月丁香啪啪| 中文aV网| 亚洲综合碰| 欧美日比视频| 丁香五月天欧美成人| 内射爽无广熟女亚洲| 五月婷婷激清网| 激情性爱网站| 99re这里| 婷婷五月丁香婷婷| 黄色毛片精品| 色婷婷www| 五月丁香天堂网婷婷| 五月婷综合| 久久精品婷婷| 午夜不卡成人一区二区| www.色情五月天.com| 激情五月婷婷综合| http://www.lingjunshare.com/| 婷婷丁香先锋资源网站| 色婷婷狠狠| 伊人五月人妻精品| 亚洲一级AV在线免费播放| 99超级碰免费视频| 亚洲免费99| 成人国产综合| 嫩草免费视频| 综合婷婷| 五月第四色| 丁香婷最新动态| 日本熟女啪啪| 九九热这里只有精品6| 性99网站| site:xiongshengzz.com| 丁香婷婷五月综合欧美另类| 五月婷婷丁香在线| 激情婷婷五月天日本系列| 97人人射| 五月天婷婷激情四射综合| 97人人射| 国产26uuu| 大波美女VA网站| 六月丁香六月婷婷欧美| 亚洲精品白浆高清久久久久久| 亭亭玉月丁香| 六月婷婷影院| AV堂狠狠干| 色婷婷亚洲综合av| 五月婷婷五月天| 久久婷婷五月综合色丁香| 丁香色播五月天| 中文字幕婷婷| 国产色香蕉精品五夜婷| 日日夜夜天天| 亚洲午夜AV| 亚洲六月色| 97婷婷丁香五月天激情图片| 四虎成人精品永久免费AV九九| 日操夜操天天操不卡| 丁香五月天之婷婷影院| 超碰国产在线观看| 五月花婷婷丁香| 激情com| 激情五月天色网站| 九9九9无码| 超碰人人摸AV| 久草热久草在线视频| 久久五月天婷婷| 丁香玖玖视频大全| 五月天丁香婷婷视频网址| 亚洲操操操| 啪啪婷婷五月天激情| 五月天婷婷激情综合| 五月丁香色狠狠干大屄| 怡红院99| 激情五月天黄色小说| 五月丁香琪琪| 99精品一二三四视频| 国产精品视频网| 久久精99| 婷婷桃色网| 亚州欧美黄色电影| 日韩在线视频9色| 大地9中文在线观看免费高清| 亚洲成人综合在线| 97操碰视频| 色婷婷激情四射视频| 五月亭亭直播| 婷婷五月草| 丁香五月天网友自拍啪啪啪视频| 色婷婷五月天在线| 中文字幕性爱丰满| 五月丁香亭亭操逼| 色一情一乱一乱一区9| 在线视频区| 狠狠CAO日日穞夜夜穞AV| 欧美日韩91| 嫩草AV久久伊人妇女超级A| 99精彩视频| 国产做A爰片毛片A片美国| 亚洲精品又粗又大又爽A片| 激情综合五| 国产成人精品一区二三区熟女在线| AV九九| 欧美大肥婆大肥BBBBB| 精品一二三区久久AAA片| h在线看免费版在线看| 午夜精品人妻无码一区二区三区| 99精品国产在热久久| 精品一二三区久久AAA片| 狠狠五月婷婷| 在线中文字幕免费视频| 婷婷94s| 99九九视频精彩在线| 丁香婷婷91在线观看视频| 粉嫩av懂色av蜜臀av熟妇| 思思热国产视频| 青青草蜜臀| 婷婷丁香综合| 日本狠狠干| 色综合综合色| 九热视频| 日韩99无码| 综合网啪| 激情五月天久久丁香| 五月婷婷丁香五月亚洲色| 青青草婷婷综合五月| 天堂草在线观看| 玖玖婷婷五月| 婷婷丁香六月| 91综合视频丁香| 四季AV综合网| 99rewww| 婷婷五月天BBw| 97碰碰在线看视频免费| 深爱激情五月天| 亚洲三A| 欧美性爱日韩性爱| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 色色色综合色| 色综合综合综合| 五月激情综合性爱| 久热这里只有精品3| 淫荡工a| 色综合com| 日本一级淫| www.久久综合| 亚洲综合五月天综合| 五月丁香在线观看| 婷婷中文字幕| 色五月大| 综合在线丁香五月| 国产综合婷婷| 影音先锋日本三级资源| 9久热免费视频99| 深爱五月中文字幕| 91碰碰视频| 五月成人丁香av91| 99亚洲天堂| 久久少妇视频| 啪啪综合网| 五月丁香久久综合色| 五月色情网| 久久婷婷色综合| 香蕉婷婷五月| 色婷婷基地| 五月天啪啪啪| 在线观看国产高清视频免费网站 | 性做久久久久久久免费看| 五月亭亭色| 日日夜夜噜噜爽爽| www.婷婷五月| 97超碰在线免费观看| www,五月天激情| 九九99精品视频在线观看| 久久久性爱网| 99热精品中文字幕| 激情婷婷狠狠干综合| 久久三级视频| 亚洲婷婷五月| 偷拍99在线视频观看| 色必久悠悠影院| 亚洲成人免费在线| 色五月婷婷伊人| 日日激情网| 99国产精品久久久久久久久久久| 亚洲在线操| 六月丁香五月婷婷| 六月丁香婷婷爱| 色五月天综合| 99热这里是精品| 99自拍视频在线观看| 婷婷五月天亚洲五码| 久久电影五月天丁香电影| 色五月激情五月丁香五月婷婷啪啪综合| 久婷| 色综合中文| 播五月,色五月,开心五月播放器| 国产女18毛片多18精品| www.婷婷,com| 强辱丰满人妻HD中文字幕| 麻豆科斗777| 激情婷婷六月天| 99色婷婷视频| 色五月天堂| 免费婷婷| 黄色AV日韩| 久久久久久综合88| 99人人干| 五月丁香啪啪网| 色情综合| 成人短视频在线| 色噜噜综合网| 九九色人| 思思久久99| 五月丁香影院| www.狠狠| 9 1在线视频| 日本美女五月天| 4399伦理午夜| 五月婷婷色播| 日韩不卡DvD| 久久久婷| 青青草a在线| 天天色情站| 思思w99| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | www.婷婷com| 亚洲色图欧美色图日本视频| 九九色99| 极骚大香蕉伊人| 欧美大奶熟女噜噜噜噜| 亚洲欧洲国产精品| 亚洲激情 久久| 欧美综合激情五月丁香| 丁香婷婷五月天亚洲| 久久91久久精品久久| 五月久久亚洲| 色yeye色综合| 五月丁香成人小说| 色5月婷婷色| 能直接看的av网站| 99人这里只有精品| 久久婷婷丁香花综合网| 综合久久99| 婷婷丁香五另类网站| 婷婷香蕉| 亚洲最大五月六月丁香婷婷| 97碰在线免费观看| 深爱五月激情| 九九视频精品视频精品| 爱狠射| 在线观看的av| xxxx五月| 丁香深五月婷婷| 熟女网站久久| 狠狠狠狠狠狠草| 激情五月九九九| 另类天堂| 五月开心激情网| 超碰在线9| 国产暴力强伦轩1区二区小说| 99精品免费欧美小视频| 婷婷亚洲综合| 99久久户外勾搭| 五月激情网站| 激情五月综合色婷婷| www色综合亚洲92| 久热这里| 五月激情婷婷国产精品久久久久久| 永久无码色| 日韩三十六页| 色综合久| 日本五月天一页| 精品视频这里只有精品| 五月丁香花激情啪啪网| 99热精品在这里| 五月宗合激情网| 99热在线观看免费中文| 欧美人人草草| 色婷婷亚洲婷婷| 免费亚洲婷婷五月| 国产探花AV在线| 九九综合九九| 影院久久久| 亚洲人妻av伦理| 国产精品成人AV在线| 狠狠狠狠狠草| 欧亚洲在线高清视频| 成人AV综合在线| 精品成人无码A片观看香草视频| 久碰婷婷视频| 五月激情婷婷开心| 丁香香五月激情免费视频| 亚洲熟女乱色综合亚洲网站| 日本一级黄色片。| 99视频在线精品| 无码橾| 五月丁香婷婷成人综合网| 思思热思在线精品视频| 婷婷综合色图| 亚洲啪啪自拍| 人妻丰满精品一区二区A片| 激情视频网址| 看全色黄大色大片| 伊人色欲五月天| 五月丁香好婷婷姑娘综合网| 午夜亚洲国产精品av一区二区| 欧美成综合在线观看| 影音先锋男人女人| av九九| 午夜天堂啪啪| 亚洲成人av在线| 99色热视频在线| 99热只有这里有精品| 久久精品人妻| 午夜色丁香| 五月婷婷综合色拍| 五月丁香啪啪啪免费看| 91九色精品女同系列| 99久精品视频| av在线不卡播放| www.久操| 激情五月四色| 9色婷婷| 疯狂做受XXXX高潮A片| 激情丁香五月婷婷| 婷婷99| 丁香五月性| 日韩成人综合网| 亚洲视频二区| www色五月| 丁香六月婷婷综合激情欧美| 99久超碰| 97碰久久| 色婷久久| 天天做夜夜爽| 99这里只有| 亚洲这里只有精品| 久久综合丁香激情五月| 久久这里都是精品| 思思久久99| 国产激情久久久| 99re在线播放| 成人无码精品1区2区3区免费看| 五月婷婷六月丁香| 精品亚洲国产成AV人片传媒| 亚洲午夜成人av电影网| 久月久在线视频| 五月婷性爱| www色婷婷com| 色婷婷888| 天天干,天天舔| 日韩成人网站精品久久大全| 色婷婷丁香五月天在线视频| 熟女五月天久久综合| 欧美日本一区二区三区| 丁香狠狠色婷婷久久无码视频| 五月色影院| 91丁香五月| 在线只有精品| 超碰成人黄色网| 在线亚洲综合网| 久久婷婷丁香| 五月婷婷开心亚洲无| 26uuu国产精品| 日日爽日日爽| 日韩综合久久| 色婷婷激情| 亚洲AV日韩在线观看| 丁香五月成人丝袜| 色婷婷香蕉| 五月人妻婷婷| 天天日夜夜曹| 婷婷金品综合视频| 色噜噜狠狠色综无码久久合欧美| 久热99中文字幕| 五月婷婷黄色毛片| 亚洲AV网站| 婷婷丁香五月天小说| 色情五月综合婷婷| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 亚洲欧美成人在线观看| 九九人人自拍| 色国产五月| 天天做天天爱天天玩| 日日干夜夜干| 国产黄色av| 美女va| 久播影院免费观看电视剧大全最新网| 美欧日韩国产成人在战| 粉嫩AV久久一区二区三区| 伊人五月婷婷国产视频| 色婷丁香五月| 99色性爰网络| 亚洲久热| 国产婷婷综合| 五月婷婷之六月丁香| 殴美激情综合网| 爱操天堂| 婷婷伊人| 国产视频婷婷| 婷婷伊人| 亚洲性视频| www.com操| 五月婷婷婷婷| www.91AV.COM| 六月米奇色综合| 91久久1118| 久草视频大香蕉99| 69堂午夜视频最新地址| 啪色综合| 99热这里只有精品1998| 亚洲啪视频| 色婷婷AV在线观看| 成人久久天天x资源站| 中文字幕激情综合| 天天干天天日蜜臀av| 五月丁香六月婷婷啪啪综合| 天天天天操| 国产免费一区二区三州老师F1……| 亚洲思思热久| 丁香婷婷色情| 在线观看欧美3区| 国产探花AV在线| 国产在这里只有精品| 五月婷婷|欧美| 午夜丁香五月天综合| 强辱丰满人妻HD中文字幕| 日韩成人无码人妻| 五月婷婷在线视频| 亚洲182在线观看| www·五月天| 欧美99热| 狠狠色婷婷7777久| 大香蕉中文| 婷婷丁香综合| 五月丁香婷婷成人综合网| 色色网站毛片| 天天色伊人| 婷婷五月天av| 99热99成人| 99操99| 天天射综合网站| 五月丁香啪啪啪综合网| 婷婷五月网图片区| 激情网五月| 激情婷婷五月天丁香| 色五月婷婷久久| 五月婷婷综合天天操| 婷婷十月丁香| 狠狠ri| 伊人五月天婷婷| 色综合77777| 成 久久| 色婷婷六月| 五月天婷婷深深爱| 色色五月婷婷网| 色色色色色色97| 久久久精品免费啪啪国| www,五月天激情| 亚洲欧美成人在线观看| 999影院成人在线影院| 大香蕉伊然在亚洲90| 综合网视频| 五月天丁香婷婷社区| 日本天堂免费99| www.91九色| 人人摸人人| sewuyue第四色| 人妻免费网站|