免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Redis集群三主三從一鍵部署與故障轉(zhuǎn)移排錯

Redis集群三主三從一鍵部署與故障轉(zhuǎn)移排錯 簡介一份面向 CentOS 7.x 環(huán)境搭建 Redis 集群的自動化部署腳本包服務(wù)于需要快速驗證集群方案的運維與后端開發(fā)者把主從復(fù)制、16384 個槽位分配、故障轉(zhuǎn)移等集群要點固化為可一鍵執(zhí)行的流程免去逐臺手工編譯與配置的重復(fù)勞動。壓縮包共 5 個文件、約 1.86MB以 3 個 sh 腳本為主體分別承擔主流程調(diào)度、Redis 安裝配置與集群卸載清理另含 redis-5.0.0.tar.gz 源碼包和一份 txt 使用說明覆蓋從解壓編譯到集群成型的完整環(huán)節(jié)已有 777 人學習。按說明修改 IP 與端口變量后依次執(zhí)行即可完成依賴安裝、編譯、節(jié)點配置與集群創(chuàng)建卸載腳本便于回收實例與殘留配置腳本中的變量定義、條件判斷與循環(huán)結(jié)構(gòu)也可作為編寫同類自動化部署腳本的參考。對初次接觸集群部署的讀者還可借此理解節(jié)點角色劃分與槽位分配在真實環(huán)境中的含義并沿著腳本順序梳理常見故障的排查方向。1. 手工搭三主三從熬到凌晨這份 Redis 集群一鍵部署腳本省掉的四件事三臺 CentOS 機器、六個 Redis 實例我第一次手工搭集群從下午兩點折騰到凌晨配置文件手改六遍meet 完節(jié)點卡在 handshake最后發(fā)現(xiàn)是 17000 端口沒放行。后來拿到這份 redis 集群一鍵自動部署腳本.rar真正省事的不是redis-cli --cluster create那一行而是它前面那堆重復(fù)勞動——批量生成 conf、按順序拉起實例、把客戶端端口和集群總線端口一起放通、創(chuàng)建完再跑一遍 check 把狀態(tài)確認下來。這套東西是 shell 寫的貼著 CentOS 的 systemctl、firewalld、sysctl 走沒有額外運行時依賴幾百行讀一遍就能按自己的機器改。它適合三類人手上只有兩三臺測試機、需要反復(fù)重建集群做課程設(shè)計或壓測的線上出過槽位故障、想在預(yù)發(fā)環(huán)境原樣復(fù)現(xiàn)的以及剛接觸 Redis Cluster、想先跑通再回頭補原理的。下面從機制講到執(zhí)行鏈路再講翻車點。2. 槽位、總線與選舉一鍵腳本必須替你做對的四個集群機制腳本只做「生成配置、拉進程、建集群」三件事但每一件背后都壓著 Redis Cluster 的運行時規(guī)則。不理解這四條腳本跑掛了連日志該往哪看都不知道。反過來理解了這四條腳本里那些看起來多余的 sleep、循環(huán)和判斷你就知道它在防什么。2.1 16384 個槽位怎么分腳本為什么默認給三主Redis Cluster 把整個鍵空間切成 16384 個槽key 落到哪個槽由CRC16(key) mod 16384決定槽再歸某個主節(jié)點管??蛻舳四玫?MOVED 重定向后自己緩存槽位表所以集群的核心不是「數(shù)據(jù)分片存儲」這件事本身而是「槽位歸屬必須全集群一致」。任何一個槽沒有主人集群在cluster-require-full-coverage yes默認值下會直接拒絕所有寫請求。一鍵腳本之所以默認三主三從不是審美選擇是硬約束--cluster-replicas 1要求主節(jié)點數(shù)至少 3因為故障轉(zhuǎn)移要靠主節(jié)點多數(shù)派投票兩個主節(jié)點掛一個就湊不出多數(shù)。三主是最小可用拓撲腳本里如果寫成「節(jié)點數(shù) / 2」來算主節(jié)點數(shù)節(jié)點少于 6 個時就會算出 2 主create 階段直接報*** ERROR: Invalid configuration for cluster creation。槽位分配默認是均分再取余16384 / 3 5461、5461、5462第三個主節(jié)點多拿 2 個槽。這個數(shù)字在很多巡檢腳本里被寫死成5461做斷言一旦集群做過 reshard 就會誤報。我的做法是只看cluster info里的cluster_slots_assigned:16384不校驗單節(jié)點槽數(shù)。另外要記住集群模式只支持 db 0配置里寫databases 16不會報錯但SELECT命令會被拒絕返回ERR SELECT is not allowed in cluster mode。涉及多 key 的操作必須落在同一個槽用 hash tag 把 key 的一部分用{}包起來比如user:{1001}:name和user:{1001}:age會被強制分到同一槽這是設(shè)計鍵名時就要定下來的事不是部署階段能補救的。2.2 cluster bus 與握手meet 之后到底發(fā)生了什么每個集群節(jié)點會額外監(jiān)聽一個「客戶端端口 10000」的總線端口7000 對應(yīng) 17000。節(jié)點之間交換 gossip 消息、投票、傳播槽位表都走這個端口用的是二進制協(xié)議和客戶端協(xié)議不是一回事。手工搭集群最常見的卡點就在這里6379 能 telnet 通17000 不通cluster nodes里對方節(jié)點永遠是handshake狀態(tài)日志里反復(fù)刷Unable to connect to MASTER。握手的完整鏈路是腳本對 A 節(jié)點執(zhí)行CLUSTER MEET B_IP B_PORTA 通過總線端口連 B交換節(jié)點信息B 再把 A 的信息 gossip 給已知節(jié)點。所以只要有一個節(jié)點的總線端口不通整個集群就可能分裂成兩個互不可見的孤島而cluster_state在每個孤島內(nèi)部都顯示 ok。這就是為什么腳本里的防火墻規(guī)則必須成對出現(xiàn)客戶端端口段和總線端口段一起放少寫一行就是幾小時的排查。還有個容易被忽略的點節(jié)點的 node id 存在cluster-config-file指定的文件里默認叫nodes.conf。這個文件是 Redis 自己維護的腳本絕對不能刪、不能提前創(chuàng)建、不能手改。刪掉它的后果是節(jié)點重啟后生成新 id其他節(jié)點還拿著舊 id 做 gossip集群視圖徹底錯亂。我在腳本里見過用rm -rf $DATA_DIR/*做「清理重來」的寫法看著干凈實際上把 nodes.conf 一起干掉了第二次執(zhí)行必翻車。2.3 主從復(fù)制與自動故障轉(zhuǎn)移的判定鏈路從節(jié)點默認每秒向主節(jié)點發(fā)REPLCONF ACK主節(jié)點把復(fù)制偏移量記在內(nèi)存里。某個主節(jié)點失聯(lián)后其余主節(jié)點在cluster-node-timeout默認 15000 毫秒之后把它標記為fail然后由持有該主節(jié)點槽位的從節(jié)點發(fā)起選舉拿到多數(shù)主節(jié)點投票后提升為主接管槽位。整個過程腳本管不了但腳本里的兩個參數(shù)直接決定它能不能成。一個參數(shù)是cluster-node-timeout。設(shè)太小網(wǎng)絡(luò)抖一下就觸發(fā)主從切換切完數(shù)據(jù)還沒同步完又切回來設(shè)太大真掛了要等半分鐘以上才恢復(fù)。生產(chǎn)上給 15000 到 30000 之間比較穩(wěn)測試機可以給 5000 加快演練節(jié)奏。另一個是cluster-replica-validity-factor默認 10從節(jié)點斷線時間超過node-timeout × factor就失去競選資格這是防止用一份過期數(shù)據(jù)頂上去的保護。把它設(shè)成 0 表示不管斷多久都能選只在「寧可丟數(shù)據(jù)也要保可用」的場景下才這么干。從節(jié)點能不能被選中還要看它的復(fù)制偏移量和主節(jié)點差多少。如果腳本為了讓啟動快把repl-diskless-sync之類的東西亂調(diào)或者從節(jié)點剛起來還沒完成全量同步就被拉進集群選舉時它的 offset 落后太多同樣會被其他主節(jié)點拒絕。所以腳本里「拉起實例」和「cluster create」之間應(yīng)該留幾秒讓復(fù)制鏈路建立這個 sleep 不是玄學是在等master_link_status:up。2.4 節(jié)點順序與副本錯位腳本里最容易寫錯的一段邏輯redis-cli --cluster create的節(jié)點列表順序是有語義的前 N 個被當作主節(jié)點后面按順序分配給它們做從節(jié)點。如果參數(shù)寫成--cluster-replicas 1列表是A B C D E F那 A B C 是主D E F 依次是 A B C 的從。但這個「依次」是按主機和端口的排列算的腳本如果用兩層 for 循環(huán)先生成所有 7000 端口再生成所有 7001 端口最終可能出現(xiàn)三個主節(jié)點全在同一臺物理機上另一臺機器上的三個從節(jié)點全在等它掛——機器一斷電集群直接沒了一半。正確的做法是按機器交錯排列每臺機器出兩個實例列表寫成A:7000 A:7001 B:7000 B:7001 C:7000 C:7001這樣主節(jié)點天然分散在三臺機器上從節(jié)點也落在不同的物理機。腳本里如果做了「按 IP 分組再拼接」的處理讀的時候要確認它是交錯而不是分段。這一點在驗收時可以用redis-cli --cluster check輸出的主從對應(yīng)關(guān)系直接看出來從節(jié)點和它的主節(jié)點在同一臺機器上就是錯位了。還有一種錯位是端口和目錄沒對上。同一個 IP 上跑 7000 和 7001 兩個實例配置里的dir必須是兩個不同目錄logfile、pidfile、dbfilename也都得帶端口后綴。腳本如果只替換了port而沒替換dir兩個實例會往同一個 dump 文件里寫AOF 也會互相覆蓋癥狀是集群能建起來但一重啟數(shù)據(jù)就亂。3. 解包看結(jié)構(gòu)CentOS 上的目錄、系統(tǒng)參數(shù)與端口三件套拿到 rar 之后第一件事不是急著bash deploy.sh而是先看清包里有什么、它假設(shè)你的機器處于什么狀態(tài)。這類腳本的失敗八成不是腳本邏輯錯而是它默認的前置條件在你的機器上不成立。3.1 壓縮包里的文件各管什么rar 在 CentOS 上默認解不開需要先裝unrar很多最小化安裝的鏡像里沒有這個包得先配好軟件源再裝。解出來的目錄結(jié)構(gòu)各家寫法不同但職責基本是固定的幾類讀之前先按下面這張表對一遍缺哪個文件就知道腳本會缺哪一步文件/目錄典型職責缺了會怎樣deploy.sh主入口串起檢查、生成、啟動、建集群無法一鍵執(zhí)行redis.conf.tpl配置模板用變量占位端口、目錄、密碼生成的配置全是默認值nodes.list/hosts.conf節(jié)點 IP 與端口清單腳本不知道往哪幾臺機器鋪start_all.sh/stop_all.sh批量拉起與停止實例只能手工 ps 后 killcheck_cluster.sh建完集群后的狀態(tài)校驗出問題沒有統(tǒng)一出口redis-*.tar.gz源碼包或二進制包需要自己準備同版本安裝包README端口、密碼、目錄約定參數(shù)只能靠讀腳本猜讀腳本時優(yōu)先確認三件事REDIS_HOME裝在哪、DATA_DIR數(shù)據(jù)落在哪、密碼是寫死在腳本里還是從外部傳入。寫死密碼的腳本在多人共用的測試環(huán)境里很常見改的時候記得同步改requirepass和masterauth兩處只改一處集群建不起來。3.2 CentOS 7/8 必須先改的四個內(nèi)核與資源項Redis 在集群模式下對系統(tǒng)資源更敏感因為多了總線連接和節(jié)點間心跳。以下四項如果腳本里沒做建議在執(zhí)行前手工補上用sysctl落成配置文件比sysctl -w臨時改可靠重啟不丟# /etc/sysctl.d/99-redis-cluster.conf # 允許內(nèi)存過量提交否則 fork 做 RDB 落盤時可能直接失敗 vm.overcommit_memory 1 # 監(jiān)聽隊列長度低于 511 時高并發(fā)下會出現(xiàn)連接被丟棄 net.core.somaxconn 1024 # 盡量不使用 swap避免節(jié)點間心跳因換頁抖動而超時 vm.swappiness 1 # 關(guān)閉透明大頁THP 會造成 Redis 的 fork 延遲 spikes echo never /sys/kernel/mm/transparent_hugepage/enabled echo never /sys/kernel/mm/transparent_hugepage/defrag sysctl --systemvm.overcommit_memory這一項是最容易被忽略的日志里表現(xiàn)為Background save is starting之后跟一條fork: Cannot allocate memory進程直接沒了而這臺機器內(nèi)存看起來還很空閑。原因不是內(nèi)存不夠是內(nèi)核在 fork 時按 overcommit 策略拒絕了地址空間申請。somaxconn則對應(yīng)TCP: request_sock_TCP: Possible SYN flooding這類告警連接數(shù)一上來就丟包。文件描述符也得提。Redis 默認建議ulimit -n不低于 10032systemd 拉起的服務(wù)要在 unit 文件里寫LimitNOFILE10032光改/etc/security/limits.conf對 systemd 服務(wù)不生效這是 CentOS 7 之后非常常見的坑。腳本如果用redis-server xxx.conf 的方式啟動繼承的是當前 shell 的限制換個終端執(zhí)行結(jié)果就不一樣我一般讓腳本顯式ulimit -n 10032再拉進程。3.3 端口放行7000-7005 只是其中一半六個實例用 7000 到 7005客戶端連這些端口沒問題但節(jié)點之間要走 17000 到 17005只放前半段的表現(xiàn)是cluster nodes里其他節(jié)點一直是handshake或者已經(jīng)connected但cluster_state:fail日志刷Cluster bus: connection refused。firewalld 的寫法是一次把兩段都加上# 客戶端端口段 firewall-cmd --permanent --add-port7000-7005/tcp # 集群總線端口段 客戶端端口 10000 firewall-cmd --permanent --add-port17000-17005/tcp firewall-cmd --reload firewall-cmd --list-ports如果機器在云上安全組是另一道門firewall-cmd --list-ports有輸出不代表外部能進來。驗證方式是換一臺機器用telnet 目標IP 17000或者nc -zv 目標IP 17000試本地ss -lntp | grep 1700看到監(jiān)聽只說明本機進程起來了跟網(wǎng)絡(luò)可達是兩件事。還有個細節(jié)如果同一臺機器上跑多個實例bind建議寫內(nèi)網(wǎng) IP 而不是0.0.0.0同時把protected-mode關(guān)掉集群模式和多節(jié)點訪問下通常要關(guān)并且顯式設(shè)置cluster-announce-ip為內(nèi)網(wǎng)地址。多網(wǎng)卡機器上不設(shè)這一項節(jié)點會把自己廣播成 127.0.0.1 或者某塊業(yè)務(wù)網(wǎng)卡的地址其他節(jié)點按這個地址連總線端口永遠連不上。4. 從零跑一遍配置生成、實例拉起、cluster create 的完整鏈路這一章按執(zhí)行順序走一遍每一步給出關(guān)鍵命令和需要核對的輸出。腳本再自動這四步的中間產(chǎn)物你都應(yīng)該知道長什么樣否則出問題只能干等。4.1 生成六份 redis.conf用循環(huán)替掉手改配置模板的核心是集群相關(guān)的那幾行端口、目錄、密碼用變量替換。手寫六份的失敗率遠高于想象一份漏了cluster-enabled yescreate 階段就報Node xxx is not configured as a cluster node。用循環(huán)生成模板只維護一份#!/usr/bin/env bash set -euo pipefail BASE_PORT7000 DATA_ROOT/data/redis-cluster NODES(10.0.0.11 10.0.0.12 10.0.0.13) PASSWORDChangeMe_2024 for ip in ${NODES[]}; do for idx in 0 1; do port$((BASE_PORT idx)) dir${DATA_ROOT}/${port} mkdir -p ${dir} cat ${dir}/redis.conf EOF port ${port} bind ${ip} protected-mode no daemonize yes pidfile ${dir}/redis.pid logfile ${dir}/redis.log dir ${dir} dbfilename dump-${port}.rdb appendonly yes appendfilename appendonly-${port}.aof # 集群三件套開關(guān)、節(jié)點狀態(tài)文件、失聯(lián)判定毫秒數(shù) cluster-enabled yes cluster-config-file nodes-${port}.conf cluster-node-timeout 15000 cluster-announce-ip ${ip} cluster-announce-port ${port} cluster-announce-bus-port $((port 10000)) # 密碼必須兩處一致否則從節(jié)點同步和集群創(chuàng)建都會失敗 requirepass ${PASSWORD} masterauth ${PASSWORD} EOF done done幾個參數(shù)值得單獨說。cluster-config-file帶上端口后綴避免同機多實例互相覆蓋這個文件由 Redis 維護腳本只負責給路徑。cluster-announce-ip顯式寫成當前機器的內(nèi)網(wǎng) IP多網(wǎng)卡環(huán)境下這是唯一可靠的廣播地址來源。appendonly yes在集群里建議打開從節(jié)點提升為主后如果只有 RDB最后一個 RDB 之后的數(shù)據(jù)就丟了。daemonize yes讓實例后臺跑腳本里要跟一個循環(huán)等待端口就緒不能生成完就立刻建集群。路徑權(quán)限也要順手檢查${dir}必須對運行 Redis 的用戶可寫用 root 生成目錄、用 redis 用戶起進程是常見組合權(quán)限沒給對的表現(xiàn)是啟動即退出日志里一行Cant open the append-only file: Permission denied。4.2 拉起實例并確認端口真的在監(jiān)聽啟動之后不要相信daemonize的返回值它只表示 fork 成功不表示配置正確。判斷標準是端口在監(jiān)聽且PING有回應(yīng)這一步放在腳本里就是一個帶超時的輪詢#!/usr/bin/env bash # 逐臺啟動并按端口探活超過 30 秒未就緒就打印日志尾巴退出 for ip in 10.0.0.11 10.0.0.12 10.0.0.13; do for port in 7000 7001; do ssh ${ip} redis-server ${DATA_ROOT}/${port}/redis.conf for i in $(seq 1 30); do if redis-cli -h ${ip} -p ${port} -a ChangeMe_2024 --no-auth-warning ping 2/dev/null | grep -q PONG; then echo OK ${ip}:${port} break fi sleep 1 done redis-cli -h ${ip} -p ${port} -a ChangeMe_2024 --no-auth-warning ping \ | grep -q PONG || { tail -n 30 ${DATA_ROOT}/${port}/redis.log; exit 1; } done done這里用--no-auth-warning只是避免密碼提示刷屏腳本里不要把密碼明文寫進 history正式環(huán)境建議用REDISCLI_AUTH環(huán)境變量傳。探活只看PING還不夠集群模式下要再確認cluster-enabled:yes和cluster_state的初始值剛啟動的節(jié)點應(yīng)該是cluster_state:fail、cluster_known_nodes:1這屬于正常狀態(tài)說明它以單節(jié)點身份起來了等著被 meet。如果某個端口一直起不來先看日志最后 30 行再看ss -lntp | grep 端口有沒有別的進程占著。測試機上經(jīng)常出現(xiàn)上一次的實例沒殺干凈pidfile 殘留導致新進程以為自己在跑daemonize yes下這種問題特別隱蔽。4.3 cluster create 的節(jié)點順序與副本分配六個節(jié)點都活了之后才能建集群節(jié)點列表按「主機交錯、主節(jié)點在前」的順序排。Redis 5 之后--cluster子命令是內(nèi)建的不需要額外裝 ruby 的 redis-tribredis-cli --cluster create \ 10.0.0.11:7000 10.0.0.12:7000 10.0.0.13:7000 \ 10.0.0.11:7001 10.0.0.12:7001 10.0.0.13:7001 \ --cluster-replicas 1 \ -a ChangeMe_2024 --cluster-yes前三個是主節(jié)點后三個按順序做它們的從節(jié)點所以 7001 的三個實例分別跟著三個 7000 主節(jié)點且從節(jié)點都不在同一個 IP 上——這就是 2.4 里說的交錯排列。--cluster-yes跳過多余的交互確認腳本里必須加否則會卡在Can I set the above configuration? (type yes to accept)等人輸入。-a在帶密碼集群里要給且必須和配置里的requirepass一致。執(zhí)行過程中會看到每個主節(jié)點分到5461/5461/5462個槽接著是Waiting for the cluster to join這一步耗時取決于總線端口是否通。如果卡在這里超過一分鐘別等直接去另一臺機器上看telnet 目標IP 17000是否可達九成是端口或cluster-announce-ip的問題。4.4 用 cluster check 把狀態(tài)釘死創(chuàng)建命令返回成功不代表集群健康必須再跑一遍 check它會逐個節(jié)點連過去核對槽位覆蓋和主從關(guān)系redis-cli --cluster check 10.0.0.11:7000 -a ChangeMe_2024 # 關(guān)鍵看三行 # [OK] All 16384 slots covered. # 每個 master 下列出的 slots 區(qū)間與 replica 數(shù)量 # [OK] All nodes agree about slots configuration.All nodes agree about slots configuration這句是核心它表示各節(jié)點的槽位視圖已經(jīng)收斂一致。如果這里報Different slots configuration說明有節(jié)點的信息還沒 gossip 到等幾秒重跑如果一直不一致檢查是不是有節(jié)點被 meet 過兩次、在集群里留了重復(fù)條目。驗收時我會把 check 的輸出存一份到日志目錄后面擴容、遷移、重啟都可以拿來對比。5. 避坑與排查cluster_state:ok 之后仍然會翻車的五個場景集群建起來、狀態(tài) ok只說明拓撲成立不代表業(yè)務(wù)能用。下面五個是我和同事在不同機器上真實踩過的癥狀看起來都不像集群問題根因全在配置和端口上。5.1 客戶端一直報 MOVED狀態(tài)卻是 ok現(xiàn)象應(yīng)用連上 7000 寫一個 key報MOVED 12345 10.0.0.12:7000程序里沒做重定向處理直接拋異常。集群側(cè)CLUSTER INFO顯示一切正常。原因客戶端沒開集群模式把 Redis 當成單機在用。MOVED 不是錯誤是告訴客戶端這個槽在別的節(jié)點集群感知客戶端會自動跟隨并緩存槽位表單機客戶端則把重定向當異常拋出來。另一種變體是連的是代理或 VIP請求被固定轉(zhuǎn)發(fā)到某一臺槽位表永遠變不過來。解決換成客戶端庫的集群模式初始化方式連接時給出全部種子節(jié)點而不是一個 VIP。如果確實只能給單地址必須在中間層做槽位感知轉(zhuǎn)發(fā)不能做四層負載均衡——四層會把同一個連接的所有請求固定到同一節(jié)點跨槽訪問必然失敗。5.2 節(jié)點卡在 handshake 半天不動現(xiàn)象cluster nodes里某個節(jié)點狀態(tài)是handshakecluster info的cluster_known_nodes比實際節(jié)點數(shù)少日志反復(fù)刷Unable to connect to node。原因總線端口不通或者節(jié)點廣播的地址是 127.0.0.1、某塊業(yè)務(wù)網(wǎng)卡地址。前者是防火墻只放了 7000 段后者是多網(wǎng)卡機器沒設(shè)cluster-announce-ip節(jié)點按默認網(wǎng)卡地址互相通告對方連過去自然不通。解決把總線端口段補進防火墻和安全組cluster-announce-ip顯式寫內(nèi)網(wǎng) IP 后重啟實例。已經(jīng)進過集群的錯誤節(jié)點不能直接改配置重啟要先CLUSTER RESET HARD清掉它的節(jié)點狀態(tài)再重新CLUSTER MEET否則舊地址會一直留在其他節(jié)點的視圖里。5.3 重啟之后集群整體 fail現(xiàn)象三臺機器重啟實例都起來了cluster_state:failcluster_slots_assigned遠小于 16384部分主節(jié)點顯示fail?。原因腳本的清理邏輯把nodes-*.conf刪了節(jié)點重新生成 id全集群不認它或者數(shù)據(jù)目錄權(quán)限變了節(jié)點讀不到原狀態(tài)文件只能當新節(jié)點啟動還有一種是從節(jié)點比主節(jié)點先起來且主節(jié)點長時間未就緒從節(jié)點把自己降級成孤立狀態(tài)。解決nodes.conf絕對不刪。重啟順序先主后從腳本里加等待邏輯確認所有主節(jié)點cluster_state恢復(fù)到 ok 再拉起從節(jié)點。真出現(xiàn)了 id 變更只能在剩下節(jié)點里用CLUSTER FORGET把舊條目錄掉再把故障節(jié)點以干凈狀態(tài)重新加回并遷移槽位這個操作要停機窗口。5.4 帶密碼的集群創(chuàng)建直接失敗現(xiàn)象redis-cli --cluster create輸出Node xxx replied with error: NOAUTH Authentication required或者從節(jié)點一直master_link_status:down。原因requirepass配了masterauth沒配或者值不一樣。requirepass管客戶端連它masterauth管它連主節(jié)點時用什么密碼集群里兩個方向都要通只配一處就是半通狀態(tài)。解決兩處寫成同一個值redis-cli --cluster相關(guān)命令帶-a或用REDISCLI_AUTH。改配置要六個節(jié)點全改一遍再重啟改完先用redis-cli -a 密碼 info replication確認從節(jié)點master_link_status:up再跑--cluster check。5.5 擴容加節(jié)點后槽位覆蓋不全現(xiàn)象新加兩個節(jié)點、遷移了部分槽過去--cluster check報Not all 16384 slots are covered但每個節(jié)點單獨看都正常。原因遷移過程中斷或者用了手工CLUSTER SETSLOT但漏了IMPORTING/MIGRATING兩步的收尾源節(jié)點把槽標成遷移中目標節(jié)點沒接管這個槽就懸空了。cluster-require-full-coverage yes下整個集群拒寫。解決用redis-cli --cluster reshard走完整流程不要手工拼SETSLOT。已經(jīng)懸空的槽用CLUSTER SETSLOT slot NODE node-id在相關(guān)節(jié)點上逐一修正修完跑 check 確認All 16384 slots covered。注意以上所有涉及CLUSTER RESET、FORGET、SETSLOT的操作都有數(shù)據(jù)丟失風險先在測試環(huán)境完整走一遍再上預(yù)發(fā)。6. 把一鍵腳本用成可維護工具故障演練與巡檢的固定動作腳本能建集群只是起點。真正決定這套東西能不能長期用的是你能不能在一次執(zhí)行之后回答兩個問題故障切換要多久、下次重建要改哪幾行。我給自己的固定動作是每次部署完做一次小型故障演練把切換時間記進部署記錄后面遇到「集群是不是變慢了」這類問題時至少有基線可比。演練很簡單找到某個主節(jié)點kill -9掉它的進程然后每兩秒查一次cluster info里的cluster_state和cluster_slots_assigned同時用redis-cli -c往這個主節(jié)點負責的槽寫 key看多久恢復(fù)寫入。默認cluster-node-timeout 15000下30 秒內(nèi)完成切換屬于正常超過 45 秒就要檢查是不是只有兩個主節(jié)點、投票湊不齊多數(shù)。演練完把殺掉的實例重新拉起它會以從節(jié)點身份回歸用redis-cli --cluster check確認主從關(guān)系復(fù)原。巡檢我習慣寫成一個小循環(huán)把每個節(jié)點的關(guān)鍵指標拉成一行肉眼掃一遍就知道有沒有異常#!/usr/bin/env bash # 逐節(jié)點采集關(guān)鍵狀態(tài)輸出一行一個實例便于 diff 和歸檔 PASSChangeMe_2024 for ip in 10.0.0.11 10.0.0.12 10.0.0.13; do for port in 7000 7001; do info$(redis-cli -h ${ip} -p ${port} -a ${PASS} --no-auth-warning cluster info 2/dev/null) role$(redis-cli -h ${ip} -p ${port} -a ${PASS} --no-auth-warning info replication 2/dev/null | awk -F: /^role/{print $2} | tr -d \r) state$(echo ${info} | awk -F: /^cluster_state/{print $2} | tr -d \r) assigned$(echo ${info} | awk -F: /^cluster_slots_assigned/{print $2} | tr -d \r) printf %-12s %-5s role%-6s state%-5s slots%s\n ${ip} ${port} ${role} ${state} ${assigned} done done這個腳本的價值在于輸出穩(wěn)定、可以直接 diff部署前存一份、演練后存一份cluster_slots_assigned從 16384 掉了就說明有槽懸空role變了就說明發(fā)生過切換。比翻日志快得多也不用記復(fù)雜命令。最后是一個參數(shù)化的習慣。拿到這類腳本我第一件事是把BASE_PORT、NODES、PASSWORD、DATA_ROOT四個變量抽到單獨的cluster.env里腳本開頭source進來第二件事是把生成的配置、check 輸出、演練記錄按時間戳落到logs/不做覆蓋。那次重啟后集群 fail 的經(jīng)歷之后我每次改腳本都會先在一臺干凈的虛擬機上從零跑兩遍確認第二遍執(zhí)行不會因為殘留目錄報錯再看一遍nodes.conf有沒有被動過——集群這東西一次省事的rm -rf能換來一整晚的恢復(fù)工作后悔藥是沒有的。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色婷婷影院| 九色七七| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 亚洲视频综合网| va亚洲中文在线| 男人天堂99| 国产精产国品一二三在观看 | 五月天色丁香| 少妇搡BBBB搡BBB搡毛茸茸 | 色婷婷视频综合| 99久久婷婷国产综合| 成人AV片播放| 狠狠色综合五月人人| 综久久久| 色婷婷成人做爰A片免费看网站| 日日日日操| 色五月婷婷天天干| 激情深爱五月天| 成人丁香婷婷| 996日日爱| AAAA亚洲| 丁香五月第九色| 久久激情五月婷婷| 67194中文字幕| 国模狼狼| www九九免费视频| 欧美色色色| 色五月天综合网| 另类激情五月| 色婷五月| 99re这里| 婷婷六月天激情| 婷婷色色综合激情| 久久99热这里只有精品23| 五月婷婷色播| AA久久| 1024成人免费看| 天堂成人A片永久免费网站| 精品人妻伦一二三区久久| 亚洲综合婷婷五月| 色丁香五月综合网| 五月激情婷婷六月| www,色婷婷| 色99xx| 1024在线一区| 色五月婷婷91在线| 久re热视频| 91大屁股在线| 亚洲av成人电影在线观看| 亚洲三A| 成人片黄网站色大片免费毛片| 大香网伊人久久综合| 婷婷综合五月| 丁香午夜天| 97人人射| 91|疯狂丨高潮丨对白| 九九热精品| 色99色| 99在线69| 日韩成人无码| 99超碰在线免费| 四射综合网| 亚洲最大视频网站| 乱码操操| 五月丁香六月婷婷a v| 涩涩五月天综合| 五月婷婷久久开心网| 婷婷激情五月天色| 色香欲综合| 伊人色综合网| 亚洲热视频在线| 成人在线99| 人妻av在线| 伊人99热| 无码橾| 久久人操| 2025年最新亚洲在线欧美| 丁香六月成人| 丁香六月婷婷| 丁香六月天婷婷| 狠狠色噜噜狠狠亚洲A∨| www.久操| 婷婷五月天无码视频| 插插五月天| 婷婷六月花| 丁香六月在线| 深爱激情综合| 九九色院| 天天开心AV色综合婷婷五月天| 操逼棍操逼| 日韩综合久久| 91热在线观看视频| 色一区高清| 久久只这里有精品| 99操逼| 噼里啪啦在线观看免费完整版视频| 丁香婷婷老熟女综合网| 婷婷在线视频| 亚洲激情五月天| 99综合视频一体| 婷婷综合仓库中文| 日韩九九视频| 狠狠干婷婷| 九久9精品| 色天堂婷婷| 婷婷综合偷拍| 天天撸天天干天天插| 亚洲AV综合在线观看| 在线只有精品| 色婷婷五月天天天天天| 丁香 久久| 亚洲精品久久久久久久久久吃药| 激情床戏| 天天操夜夜操| 91日综合欧美| 丁香五月停停av| 五月婷婷综合久久| 99久久视频| 玖玖精品视频99| 九九自拍网| 4438亚洲欧美| 激情五月综合ì香亚洲| 久久天天| 亚洲色色色色色色色色色| 新激情五月天色播| 国产精品扒开腿做爽爽爽A片唱戏| 熟美女麻豆| 性爱电影科技贸易有限公司| 国产毛多水多女人A片| 六月婷婷视频| 99视频激情四射| 99九九这里有免费视频| 99热这里全是精品| 成人va在线| 天天噜天天爱| 亚洲国产精品VA在线看黑人| 2020久久婷婷五月| 九久久婷婷| 五月丁香日本片| 99操免费视频| 婷婷视频网| 天天色天天| 久久99久久99久久99| 激情综合五月色在线| www99热| 大香蕉久久婷婷| 99热6色| 丁香五月亚洲综合| 玖玖热视频| 成人网在线观看视频| 国产婷婷五月中文字幕高清| 夜夜爽77777妓女免费下载| 婷婷五月天成人五月天| 亚洲精品又粗又大又爽A片| 天天日天天添| 国产亚洲精品AAAAAAA片| www.天天干.com| 大香蕉婷婷| 久艹大香蕉| 五月婷婷婷| 影音先锋男人资源站一区二区| 99热在线只有精品| 大香蕉五月天| 中文字幕免费高清电视剧| 久久色五月天| 97碰 在线视频观看| 思思久热| 国产av影片| 亚洲天堂爱爱| 狠色狠色狠色狠色狠色网| 亚洲人妻AV| 99热99热在线观看| 日本97人人| 婷婷色爱| 日韩婷婷五月| 男人的天堂在线婷婷| 久久亚洲婷婷| 丁香婷婷五月综合色情| 变态 另类 在线| 日日日天天干| 超碰免费在线| Www.Av网9| 色九月婷婷丁香| 色九区| www.激情| 九九在线精品| 五月丁六月香av| 以及AA大片看看| 五月激情在线| 亚洲综合婷婷| 人人97碰| 一区=区操屄高清大全av| 成人精品亚洲性爱| 久色成人| 爱操人妻| 丁香五月激情啪啪啪| 超碰男人色| 99色在线观看免费| 天天操天天曰天天射| 色婷久久| 毛片色五月| BT综合在线视频观看| 久久久婷婷| 99久久精品视频女神1| 97碰碰在线看视频免费| 五月色亭丁香| 天堂伊人干| 99热9999| 亚洲激情久久| 久色资源网| 色啪影院| 久久九九精彩| 99超级超级超级碰| AV成人在线网站| 夜夜资源站| 欧美激情五月| 亚洲激情视频网| 色五月婷婷91| 婷婷五月精品中文字幕| 人人综合色| 九九色色| 丁香五月婷婷色| 思思热精品在线视频| 六月亚洲婷婷6月中文字幕| 五月色亭丁香| 久9综合| 九九热AV| 天天干天天日天天操| 五月天婷婷乱论小说| 丁香五色月婷婷网| 久久网站观看免费欧洲国产| 99 热国产在| 丁香香蕉婷婷| 婷婷激情啪啪| 人妻中文字幕网| 超碰v| 婷婷色六月| 色色五月天婷婷丁香| 久久综合天天综合| 日本欧美国产| 欧美激情综合色综合色| 夜夜撸日日骑| 五月激情综合美女久久| 色欲色香伊人| 伊人五月综合网| 色色色.COM| 丁香五月丁香伊人| 婷婷五月偷拍| 色综合色综合网| 99热在线中文字幕| 91人妻视频| 色五月婷婷丁香国产在线| 色区久久| 亚洲激情淫网| 色婷婷激情视频| 人人色AV| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 五月丁香在线| 超碰亚洲天堂| 久久人妻视频| 五月天丁香啪啪网| 色情五月天导航| 草榴视频黄色网| 艹B高清无码| 尤物一区二区| 青青日韩| 丁香六月啪啪| 午夜爱爱爱成人| 丁香五月激情六月| 天天肏屄夜夜爽| 丁香婷婷基地| 日本一级黄色片。| 1024在线视频| 大香蕉久久草| 六月激情婷婷综合| 丁香五月婷综合网| 久热综合| 亚洲无码影音| 成人网在线视频| 激情综合国产| 婷婷丁香五月天色区| 5月婷婷性视频| 国产99视频永久免费| 99er视频在线| 丁香六月在线| 9热超碰| 亚洲4区国产欧美| 嫩模aV在线| 涩涩五月天综合| 手机AVAV天堂看网| 第四色五月婷婷| av九九| 最近中文字幕2019视频1| www.97视频| 亚洲电影中文字幕| 成人天天爽| 9999热这里只有精品| 五月丁香六月天| 九月婷婷综合| 自拍视频99| 日本一道久久| 久久五月天色| 亚洲色无码A片一区二区麻豆| 丁香五月婷婷综合激情啪啪啪| 五月开心久久| 99热的无码| 最新久久网址| 超碰A V在线| 色999;丁香五月| 欧美va亚洲va在线播放| 日本婷婷五月天| 天天操天天干天天射| 丁香五月婷婷Av| 婷婷色无码| 婷婷五月激情小说| 99婷五月| 久久亚洲色导航| 狠狠做深爱婷婷久久综合一区| 日日杆天天| 97伦色婷婷| 26uuu青青| 99er热精品视频| 26uuu欧美| 一区二区传媒视频| va亚洲中文在线| 婷婷五月天综合网| 九九热av| 操97| 偷拍91九色| 久久欧洲综合网| 久久伊人五月天| 婷婷丁香综合| 激情五月丁香五月| 超碰啪啪网| 欧洲亚洲免费视频区| 97色女人在线| 丁香五月色网| 色老久久| 噜噜操操| 天堂在线9| 色色色色色色色色色色色色色色,网站| 五月婷五月婷伊人伊人五月婷| 婷婷深爱五月天| 九九精品9| 丁香五月六月久久综合| 五月天综合在线| 99九九综合久久九九| 五月天最新网| 五月丁香视频色色| 超碰猛烈的性猛交| 91成人看片| 这里只有精彩视频| 爆乳熟女一区二区三区爆乳| 噜噜操操| 五月天婷婷xxx| 婷婷综合色| 婷婷国产欧美97| 天天综合网在线| 丁香五月综合激情久久潮喷| 亚洲婷婷免费| 五月丁香婷婷啪啪综合| 激情综合网五月| 狠狠狠狠狠狠色| 欧美日韩成人免费在线| 超碰人人干| 91性高潮久久久久久久久| 99精品视频偷拍| 色五月婷婷老师| 91久久免费| 天天做天天爱天天高潮| 久久综合干| 激情www| 天天搞夜夜爽夜夜爽| 99热这里精品| 婷婷五月丁香激情色情| AV片在线观看| 任你搞网站| 久久久香| 被男人添B超爽视频| 国产美女精品| 密乳Va| 超碰在线人妻| WWW.开心五月天.COM| 97五月婷| 久久伦乱| 69婷婷丁香午夜| 91综合网| 狠狠草在线观看| 六月婷婷无码观看| 日韩无码系列| 桃色五月天| 天堂草在线观| 日本久久综合| 激情性爱五月天网页| 丁香婷婷婷五月| 婷婷少妇激情| 熟惀91九色在线| 五月婷婷官网色| www,久久久| 亚洲乱码日产精品BD| 丁香五月开心婷婷| 狠狠综合| 丁香婷婷五月人体| 色五月综合| 天天谢天天操| 5月婷婷视频网站综合| 99久久喉9| 人人操日| 夜夜躁爽日日| 天天摸日日舔狠狠添婷婷婷| 丁香色成人| 亚洲视频在线观看| 日韩另类在线观看| 婷婷五月天亚洲精品| 激情五月色综合网| 久久五月婷综合| 综合婷婷久久| 99无码黄色视频| 人妻自慰在线| 婷婷综合精品| 九九偷拍网| 日本乱子人伦在线视频| 99热久| 久热这里只有精品在线| 情五月亚洲婷婷| 99超级碰碰| 婷婷五月丁香图片人人操| 91色综合网| 婷婷五点亚洲| 丁香五月婷婷成人网| 九九精品网站| 五月激情综合网| 色婷大香蕉| 成人做爰A片免费看视频| 色五婷婷在线视频| 丁香六月久| 四色 爱 婷婷 精品 亚洲 五月天| 九月久久婷婷| 一级二级色大片| 色播jjjj| 国产性爱大片久久| 日韩ww| 日日夜夜天天| 青青草五月天| 91成人性爱视频| 99色| 日韩人妻无码精品| 婷婷五月色色| 五月婷婷深深爱| 色五月天综合网| 亚洲精品五月| 九九精品视频在线6| 色国产五月| VA五月激情在线| 超碰在线观看99| 91九色小视频| 色碰碰| 色九月欧美| 99综合熟女| 婷婷亚洲久久| 天天综合 99久久婷婷| 婷婷五月激情综合啪啪| 亚洲 欧洲 国产 伦综合| 一本到不卡高清DVD| 国产日产亚洲系列最新| 丁香,开心成人,久久| 欧美丰满熟妇BBB久久久| 五月开心网| 五月天激情国产综合婷婷婷| 丁香五月影| 亚洲网在线观看| 婷婷五月综合国产精品| 日韩av高清| 久久机热探花| 色噜噜狠狠色综合网| 97干网站| 99热国产国产| 婷婷五月天第四色| 婷婷五月天视频亚洲| 丁香婷婷六月男男| 五月天堂婷婷| 六月色婷婷| 五月色情| www.99免费视频| 欧美色色干| 色婷婷丁香| 丁香五月 综合| 狠狠操天天操天天操| 婷婷五月天亚洲激情戏精品| 丁香六月婷婷综合欧美| 五月婷婷综合激情| 91夫妻视频| AVV黄| 久久久www| 婷婷成人综合免费视频| 激情五月天开心总和网| 任我肏| www.99视频| 香蕉影院色| 丁香色五月AV在线| 一起草无码视频| 天天开心AV色综合婷婷五月天| 婷婷丁香色无五月| 丁香婷婷基地| 日韩AV在线免费| 日本三级日本三级三级人妇四虎| 狠狠va| ji'qi'luan'ren'lun| 99碰碰视频| 欧美大肥婆大肥BBBBB| 韩国97天堂| 久九色| 天天干天天 亚洲| 色欲久久久久久综合网综合网| 思思热精品在线视频| 超碰在线网站9| 亚洲色图45p| 欧爱综合视频| 九月色婷婷| 青吴乐视频| 亚洲小视频免费播放| 婷婷深爱网| 欧美三级欧美一级| 丁香五月婷婷国产在线| 另类图片激情五月天| 噜噜狠狠色综无码久久合欧美| 婷婷狠狠操| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 2050人人操免费工开爱 | 中文字幕永久在线| 综合色色综合| 五月天婷婷丁香社区| 久色视频| 日韩精品一品二区三区的使用体验| 综合xx网| 51国精产品自偷自偷综合| 久久久久视剧HD| 伊人五月婷婷| 夜夜干夜夜操| 久久总和99| 伊人五月成人| 色色色com| 爱之国产色情综合| 99视频精品在线| 香焦网五月天| 丁香五月偷拍| 超热久碰.com| 色五月激情| 97超级碰人人| 99久久er| 五月婷婷碰碰| 五月丁香基地| 68热超碰在线| 婷婷五月综合在线视频| 国产美女无遮挡裸体毛片A片 | 思思久热| 色色9 9| 欧美天天干五月丁香| 玖玖热视频| 色5月婷婷色| 九九热99熟女| 曰曰久久| 99色免费观看全部| 婷婷色女| 嫩草AV久久伊人妇女超级A| 亚洲va欧美| 九热...av| 五月丁香好婷婷A片网| 日韩淑女人妻luan伦激情精品一区二| 亚洲一级AV在线免费播放| 欧美爆乳一区二区三区| 日韩欧美婷婷丁| 第四色首页| 久久99免费视屏| 九九精品网| 综合精品啪啪| 色婷婷9| 亚洲五月婷| 欧美日韩91| 99亚洲精品视频在线观看| 婷婷金品综合视频| 婷婷另类开心| 青青久久五月| 青青草成人网| 色欲av伊人久久大香线蕉影院| 婷婷久热| 婷婷开心青青草| 69热91天堂| 久久狠狠干| 久久久久8888| 深爱五月天| 色婷婷六月精品| 五月婷婷综合在线视频| 五月天激情综合| 色婷五月天| a久久| 激情五月www| 91视频综合网| 丁香六月婷婷| 欧美成人性爱网| 97人人做| 牛牛热这里只有jingpin| 五月婷在线播放| www一起操| 人人草人人爱| 丁香五月婷久久| 久久精品63| 蜜桃人妻无码AV天堂三区| 这里只有精品在线免费视频| 久青操| 亚洲无AV在线中文字幕| 五月天婷婷激情小说电影| 五月丁香91| 老美AA片| 国产精品久久久久久白浆色欲| 五月天婷婷丁香蜜桃91| 亚洲色图五月丁香| 婷婷在线网| 欧美色99| 99热这里只有精品18| 99热大香蕉| 综合色图婷婷| www.色五月| 色五XX| wWwCom夜操wwW| 色五月激情| 狠狠88综合久久久久噜噜噜| 欧美啪啪9| 蜜乳av一级av| 99热这里是精品| 天天骑天天操| 99热精品一区| 五月婷婷在线丁香| 久久九精品| 亚洲性爱AV在线| 五月天婷婷av| 99精品视频免费观看| 五月丁香婷色| 亚洲小视频免费播放| 国产婷婷久久| 99热综合在线观看| 99热在线观看| 亚洲精品视频在线| 成人网址在线观看| 99re8这里只有精品99re8热视频| renrencaoav| 九九热这里只有精品23| 99色五月| 成年视频免费观看| 色色色色色色色五月| 成人精品视频99在线观看免费 | 五月开心婷婷极品激情| 亚洲婷婷丁香| 1024成人在线观看| 在线综合91| 色五月丁香五| 国产欧美日韩综合精品一区二区| 色情成人五月天| 婷婷综合五月天| 亚洲色五月| 日日撸夜夜操| 亚洲天堂色色| 婷婷五月天视频亚洲| 66精品成人免费网站在线观看| 婷婷五月天,影院| 久久五月天大美女| 天天开心婷婷丁香五月| 五月婷婷深深的爱| 久久永久网址| 丁香香五月激情免费视频| 午夜婷婷丁香| www.av视频xx999.com| 九九综合色| 五月天激情小说| 天天色天天搡| 亚洲天堂AV免费片| www.十八禁不禁AV.com| 狠狠操狠狠狠| 久久99免费视频| 99热在线观看精品| 丁香五月影院| 乱码操操| 色婷婷六月天| 成人美女网| 超碰成人黄色网| 五月婷婷伊| 无码一级片| 色九月婷婷丁香| 99操久久| 婷丁香五月天| 99免费视频网| 色爽九九| 人人爱操| 99热97美女| 五月天婷婷情色| 操操碰| 欧美婷婷五月激情| 激情婷婷啪啪| 91狠狠色| 国产精产国品一二三在观看| 久久久人人操A V| 色情久久久| 丁香五月婷婷无码AV| 丁香激情六月天婷婷| 啪啪亚洲综合| 91久热| 少妇高潮呻吟A片免费看软件| 超碰免费观看| 色婷婷久久久| 蜜乳国产网站| 香蕉婷婷色五月| 狠狠综合网| 久久爱综合| 97色碰| 婷婷五月综合视频| 日韩黄黄| 国内精品免费一区二区2009| 51XX午夜影福利| 亭亭色天香| 亚洲乱码w在线观看| 免费视频无码| 97超碰在线免费观看| 亚洲激情淫网| 日本久久精品18| 八戒青柠影视剧在线观看| 亚洲免费电影2| 婷婷激情丁香五月天综合| 丁香婷婷激情网站| 天天草天天爽| 婷婷伊人綜合| 91viP在线看| 一二线视频 另类| 97香蕉久久超级碰碰高清版| 婷婷六月天激情影院| 丁香大香蕉| 4399在线观看免费高清毛片| 欧美噜噜免费观看| 超碰a女人的天堂| 伊人丁香五月天丁香在线婷| 国产成人网址| 五月婷视频| 大香伊人久色| 99热精品少| 丁香五月日韩| 99干在线| 五月亭亭综合五码| 免费视频无码| 99热日韩| 久热99热| 婷婷久久图片| 成 人 色 色| 久久怡红院| 东京热免费视频| 久久999久久999久久999久久| 九九在线热九九在线热99热| 99热成人永久免费| 97久久人人| 九九热在线视频观看免费10| www色五月天| 亚洲日韩乱码一区二区三区四区| WWW,激情五月天,COM| 九九综合色综合| 日本欧美啪啪| 综合久久人妻| 丁香五月欧美婷婷| 五月情涩综合婷婷| 色.五月综合网| 天天色五月| 欧美成人精品A片免费一区99| 色性综合| 99爱视频免费| 久久亚洲婷婷| 综合婷婷| 丁香六月婷婷激情综合| AV大香蕉| 丁香五月香蕉在线| 色综合色色| 婷婷99狠狠| www.五月丁香| 色波激情五月天| 欧美性爱五月天| 婷婷色五月婷婷姐妹| 综合五月婷婷| 99惹| 538在线精品| 五月婷婷激情69| 亚洲日韩久久婷婷伊人| 婷婷丁香五月天在线| 天天干天天av天天射 | xfplayav在线| 97色一二三| 亚洲情欲| www.91操| 99久热在线精品| 国产亚洲99久久精品| 精品网站99| 欧美午夜乱妇午夜福利| 亚洲最大五月天成人网| 五月色婷丁香| 狠狠干综合网| 丁香婷婷久久| 国产黄色在线| 玖玖资源在线视频| 综合99久久| 丁香六月婷婷久久综合| 午夜精品777| 色停停影院五月天| 久久人人九九| 99热99日…..| 1024久婷| 九九99免费理论| 丁香婷婷丁香五月欧美人| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 婷婷激情五月色综合| 久久综合网桃花| 五月激情偷拍| 噜噜噜噜在线| 91日日日| 人妻少妇色综合| 久久人妻视步| 97人妻碰碰碰久| 91打屁股免费看| 色五月亚洲| 欧美欧盟性爱网| 婷婷色综合网日韩国产| 99在线精品视频| 五月激情视频网| 91九色超碰正在播放| 丁香色色网| 亚洲天天综合| 色噜噜狠狠色综| www.99热视频| 天天爽成人综合网站| 婷婷不卡基地| 99思思| 五月天综合图片| 丁香综合婷婷开心激情网| 日韩一级| 日韩无码专区| 99色热| 日韩无码一区二区三区四区| 99免费青青蜜臀| 色婷婷成人| 久色大| 亚洲乱码成人| 久久久婷| 久久9999| 日本性视频| 超碰在线人妻| 六月丁香色色| 婷婷五月天干干| 国产亚洲精品人人| 91热网址| 婷婷五月丁香综合瑟瑟| 欧美成人va| XX久久| 婷婷五点亚洲| 日日干日日s| 婷婷五月激情网| 牛牛色av| 色五月婷婷在线观看第一页舔| 九九色99| 久热免费| 深爱激情五月婷婷| 五月永久激情| 亚洲视频在线观看99| 久综合| 狠狠色丁香婷婷| 99在线视频操999| CHINESE熟女老女人HD视频| 亚洲五月天婷婷| 激情五月天综合| 97韩国久久电影院| 五月在在观看| 99热在线免费观看精品| 色五月激情视频在线综合| 色婷婷综合综合网| 99啪在线| 91色碰| 亚洲影院婷婷色| 夜色热久| 五月婷婷黄色网址| 艳妇野外情欲放荡HD| 九九伊人网| 五月婷婷丁香| 开心五月深爱五月| 五月天色丁香| 婷婷五月激情图片| 天天做夜夜爽| 色情成人五月天| 亭亭玉月丁香| 国产成人网站在线观看| 天天色天天日| 超碰91在线| 99热伊人| 婷婷丁香社区| 亚洲成人AV电影在线| 天天揷综合网| 激情五月婷婷老师| 26uuu色五月| 五月天激情黄色网址| 久久99久久99www| 96色婷婷| 色色色色色色色色色色色色色97| 熟女91九色| 五月丁香婷婷综合久久| 色情综合| 色99视| 思思热热久久| 激情亚洲网| 五月婷婷影院| 深爱激情五月婷婷| 色五月亚洲| 丁香五月婷婷综合啪啪| 日本丰满久久| 日韩在线99| 综合激情伊人影视在线| 五月丁香六月婷婷不卡免费无码 | 五月情涩综合婷婷| 猫咪伊人久久| 婷婷第六色| 欧美色小说婷婷| 欧美人妻一区二区| 欧美在线97| 色色99| 任我肏视频精品| 99在线视频资源| 激情小说婷婷小说| 久狠日av| 丁香婷婷五月六月久久| 色色操| 九九Y精品热播| 激情婷婷五月| 森林影视大全,最好看的2019年视频 | 五月婷婷中文| 99性视频| 超碰婷婷五月| 日韩精品999| 色婷綜合网| 五月丁香影视| 99色综合| 日韩一级网站| 99er免费在线观看| 色五月婷婷丁香五月| 久热久| 9色资源在线| 日韩黄黄| 久久激情五月天| 人妻操逼视频| 91人无码久久久久久| 91色五月| 天天天操天天天日| 丁香五月六月| 丁香婷婷午夜| 这里只有视频精品| 激情综合五月婷婷| 色五月激情五月| 99视频在线播放大全| 丁香八月综合激情| 成人av在线网站| 99视频免费播放| 99热九九这里只有精品| 五月婷六月婷婷| 另类在线| 五月天婷婷基地综合网| 五月婷婷九| 丁香婷婷色五月激情综合| 综合99在线| 美女要搞搞天天搞搞搞网站| 丁香五月综合激情啪啪| 182.t午在线观看| 噜一噜免费视频| 99热资源在线| 大香蕉丁香五月| 欧美日韓成人亚洲精品另类| 久久婷婷五月综合伊人| 色噜噜狠噜噜视频| 亚洲日韩乱码一区二区三区四区| 久久婷丁香五月| 天天日,天天射,天天舔| 香蕉久久av一区二区三区| 伊人碰碰碰| 五月丁香六月激情综合| 大香蕉丁香五月| 五月婷婷和六月| 日本色色色| 庭庭久久内射| 99热97| 九月性爱网| 天天橾日日橾夜夜橾17| 五月丁香婷婷啪啪| 99久久99九九九99九他书对| www.夜夜操| 日韩美一级毛卡片| 婷婷五月天激情影片| 少妇被下春药玩弄A片| 五月婷婷在线丁香| 综合色播| 超碰人人射| 色色五月天丁香| 九九色院| 99热激情| 激情五月丁香色色去久久| 婷婷趴趴| 婷婷婷婷色| 97超碰色| 情久久综合五月天| 91美女艹逼网站| 婷婷5月九九| 97超级碰| 日本操逼九九九九58日本操逼| 人妻日日日| 婷婷丁香五月天狠狠| 9国产在线视频| 天天舔天天| 婷婷D区| 五月丁香六月香综合激情| www.seqingwuyuetian| 男女久久婷婷五月天| 五月伊人91| 在线1青婷| 色婷婷瘦婷婷日韩| 色婷婷五月在线| 91精品久久久久久久| 91碰碰碰| 精品一区二区三区四区五区六区介绍| 人妻久久久| 啪啪激情网站| 日韩人人操| 亚洲综合五月天| 婷婷色情网| 日本婷婷| 激情综合网,婷婷五月天| 这里只有精品96| 五月花综合视频| 影音先锋天天日| www久久99| 欧美成人无码一区二区三区| 国产肥白大熟妇BBBB视频| 久8色色| 97婷婷狠狠久久综合9色| 成人网址在线观看| 99热久只有| 精品婷婷丁香五| 婷婷刺激综合| 五月天无码| 五月天操逼激情| 亚洲色婷婷| 激情综合五月激情XXXX| 久久久久久久11111111111| 丁香五月婷中字幕| 91人妻人人做人碰人人爽九色| 婷婷99狠狠| 色情五月停停丁香| 99久久网站| 色和综合网| www.五月天婷婷| 亚洲avjiujiur91| 色婷婷成人久久| 久9热| 久久这里只有国产视频| 色综合丁香婷婷| 99在线精品免费视频| 99久热这里只有精品| 婷婷啪啪| cao视频,现在观看| 99视频在线| 久久精品66| 97碰久久| 亚洲AV成人一区二区在线观看| 大香蕉久久久| 人妻久久久久久久久妻久久久久| 久热久操久热久草国产91| 婷婷五月天AV| 婷婷成人视频| 国产精品-第3页-91JQ就要激情网91JQ5.JQJQ926.XYZ | www.色婷婷。com| 婷婷丁香综合| 色婷婷成人做爰A片免费看网站| 日本婷婷色日| 五月丁香激情综合网官网| 特级操b片| 婷婷五月在线影院| 五月天综合网| 99看片| 色婷丨日丨天丨综合久久| 人人操人人操919999| 97日本在线播放| 俺去也综合| 婷婷丁香五月网| 五月婷婷激情69| 思思99热这里只有精品| 久久九九婷婷| 五月婷婷综合激情小说| 色色五月天婷婷| 九九热这里只有精品6| 深爱丁香激情| 亚洲视频a| 丁香五月欧美色综合| 99热99日天天干| 免费无码毛片一区二区A片 | 国产色视频网站2| 婷婷五月激情四射手| 99精品热| 伊人啪啪网| 国产精品美女| 可以看的AV网站| 五月丁香激情六月| 欧美激情xxxXX| 婷婷爱在线观看| 日本激情91| 伊人综合色干| 色色色色色色色色色色色色色五月天| www.97视频| 白人荫道BBWBBB大荫道| 日本天天色| 亚洲激情综合| 五月丁香六月婷| 九热...av| 激情五月婷| 日本一毛片| 久久视频婷婷| 五月婷婷丁香六月| 无码区婷婷五月花开| 六月婷婷在线| 九九色综合九九色| 丁香五月综合在线观看| 日日爽天天| 大陆肏屄视频| 婷婷色狠狠| 婷婷播5月| 五月天 无码| 人人操五月天| 色五月涩涩婷婷| 五月婷婷六月丁香| 97碰人人操| 99re在线视频| 二色AV| 五月婷婷激情综合网| 亚洲av骚货| 综合婷婷| 免看黄大片AA | 淫五月停停| 久久婷五月影院| 亚洲婷婷丁香五月| 午夜丁香综合婷婷| 色热久| 天天插天天狠| 79亚洲精品少妇| 日日婷婷不卡| 五月丁香激情六月| 久久久久人妻网址| 日本激情91| 伊人五月天在线| 五月丁香啪啪啪| 曰韩五月丁香色婷婷无码| 九九99热精品| 色婷婷综合成人| 丁香六月啪啪| 五月丁香av在线| 婷婷五月天狠狠搞干| 天天干天天干天天| 久热91| 激情又色又爽又黄的A片| 亚洲99热| 9999热在线免费观看| 色优久久| 婷婷丁香激情| 五月丁香六月综合激情| 99自拍视频在线观看| 丁香六月激情综合| 123日本不卡在线| 色私五月婷婷| 亚洲久久视频| 九九精品在线观看视频6| 丁香九月综合激情| 五月天婷婷影院| 东北熟女高潮99综合99| 成人av播放| 中文字幕日韩无码制服诱或| 26uuu最新地址| 一起草性爱不卡视频| 七月丁香五月婷婷在线| 碰碰人人漕| 色爱99| www,天天干| 五月丁香啪| 人操91在线| 《诡秘之主》在线观看 | 激情五月九九九| 一起草无码视频| 开心婷婷五月天激情网| 99久久6| 五月色亭丁香| 色很很96| 天天日天天爽夜夜爽| 天天爽天天爽| 欧美精品久| 久久aaa| 天天干天天干天天| 日本人妻伦在线中文字幕| 亚洲综合另类| 婷婷五月天性| 五月婷在线| 五月黄色婷婷| 婷婷六月爽| 99福利导航| 偷拍九九热| 色婷婷五月天天天天天| 欧美狠狠色| 久久婷婷七月丁香| 热99国产精品| 五月丁香激情综合久久| 丰满少妇猛烈A片免费看观看 | 久久久久激情| 色五月婷婷激情| 777精品久无码人妻蜜桃| 婷婷午夜激情| 婷香五月激情视频| 黄色中文字目| 蜜桃婷婷五月| 日韩在线视频中文字幕| av一区免费看| 五月色丁香婷婷中文字幕| 久热九九| 99久久玖玖| 玖玖资源站中文| 日逼影音先锋男人AV资源站| wWwCom夜操wwW| 色狠狠999综合| 婷婷色色丁香| 国产成人va在线| 精品亚洲国产成人A片在线鸭王| 成人婷99最新| 99成人| 秋霞av不能| ss视频xx91| 玩熟女五十AV一二三区| 成人视频九九| 婷婷色婷婷| 五月婷婷六月丁香| 丁香伊人网| 91精品久久久久久久久| 激情六月天婷婷| 婷婷干六月综合旧址| 激情五月www| 牛牛澡牛牛爽| 久久A热| 成人亚洲精品久久久久| 另类图片激情五月天| 99无码精品| 思思热闹这里只有精品| 五月丁香婷婷基地| 激情五月天婷婷图| 99热精品在线播放| 激情综合五月| 91狠狠综合久久久久久| 五月激情视频| 开心五月婷婷激情| 亚洲五月婷婷| 97色婷婷| 五月丁香婷婷无码中文| 伊人久久婷婷| 色综合久久伊伊婷婷五月| 91av传媒高清在线视频网| 玖玖精品资源|