免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連 最近我把一套跑在RKE集群上的Rancher管理平臺(tái)從舊機(jī)器整體遷到了新環(huán)境。Rancher本身不復(fù)雜復(fù)雜的是它管理的一堆下游集群——每個(gè)下游集群里的agent都只認(rèn)原來(lái)的server-url和證書。遷移過(guò)程中先后經(jīng)歷了備份、恢復(fù)、agent重連、證書替換最后還要處理一堆歷史配置殘留。這篇文章把我這次基于RKE部署的Rancher管理平臺(tái)遷移的完整過(guò)程、關(guān)鍵命令和后來(lái)復(fù)盤出來(lái)的幾個(gè)坑都寫出來(lái)希望給要做同樣事情的人一個(gè)參考路徑。全文涉及Rancher版本與K8s版本的對(duì)齊、backup operator備份恢復(fù)、下游集群重連驗(yàn)證以及幾個(gè)我在遷移過(guò)程中踩過(guò)的典型問(wèn)題。1. 先想明白R(shí)KE架構(gòu)下Rancher遷移到底在遷什么1.1 RKE與Rancher的分工梳理RKERancher Kubernetes Engine是一個(gè)通過(guò)一條命令拉起Kubernetes集群的工具它用cluster.yml描述節(jié)點(diǎn)信息和集群配置執(zhí)行rke up后生成一套可用的K8s集群。而Rancher是跑在這套集群上的容器化應(yīng)用通過(guò)helm chart安裝到cattle-system命名空間用來(lái)管理它所在的local集群以及其他外部集群。這兩個(gè)層次一定要分清楚RKE負(fù)責(zé)“蓋房子”Rancher負(fù)責(zé)“住進(jìn)去做管理”。遷移的時(shí)候房子要重新蓋但里面的家具、賬本、住戶登記信息都要盡量原樣搬過(guò)去。這里的“賬本”主要就是Rancher在K8s里持久化的各種自定義資源CRD、configmap、secret、RBAC以及底層etcd中的狀態(tài)。1.2 為什么不能直接“打包拷貝”很多人第一次接觸Rancher遷移時(shí)會(huì)想Rancher不是一堆容器嗎把鏡像、數(shù)據(jù)目錄復(fù)制過(guò)去不就行了實(shí)際上Rancher管理平臺(tái)的狀態(tài)高度依賴Kubernetes的API對(duì)象和etcd它內(nèi)部還有多個(gè)controller通過(guò)watch機(jī)制同步信息。直接拷貝鏡像和靜態(tài)文件完全沒(méi)有意義因?yàn)镽ancher生成的密碼、token、私鑰存在secret里單獨(dú)復(fù)制一份出來(lái)并不代表可用對(duì)象之間的引用關(guān)系必須一起帶過(guò)去。下游集群通過(guò)agent和Rancher保持心跳agent里記錄的是server-url和證書信息單純復(fù)制會(huì)導(dǎo)致agent指向錯(cuò)誤的地址。Kubernetes本身是分布式系統(tǒng)它的etcd數(shù)據(jù)包含節(jié)點(diǎn)IP、證書等不能把一套集群的etcd直接丟給另一套集群用。可以把這個(gè)過(guò)程類比成搬家搬家具容易但你得先把戶籍、水電燃?xì)膺@些登記信息同步過(guò)去不然新家里通電通水了原來(lái)的賬單還是寄到舊地址。遷移的本質(zhì)是“數(shù)據(jù)、身份、網(wǎng)絡(luò)信任”三者的整體搬遷。1.3 遷移完成后的目標(biāo)狀態(tài)遷移完成后我們希望達(dá)到如下?tīng)顟B(tài)新集群上的Rancher版本和舊環(huán)境一致或者至少滿足升級(jí)兼容矩陣。登錄賬號(hào)、權(quán)限角色、全局設(shè)置、用戶密碼全部保留。下游集群仍然被Rancher管理agent自動(dòng)重新注冊(cè)。審計(jì)日志、監(jiān)控配置等可選組件按需保留。為此遷移前需要把舊環(huán)境的信息完整記錄下來(lái)建議用表格逐項(xiàng)填寫Rancher版本、Helm chart版本、K8s版本、RKE版本、server-url、證書類型、外部認(rèn)證方式、下游集群數(shù)量、以及是否有自定義的CRD或存儲(chǔ)配置。記錄項(xiàng)示例值用途rancher/rancher鏡像版本v2.7.8新環(huán)境安裝時(shí)需要對(duì)應(yīng)helm chart版本103.1.5避免restore時(shí)版本沖突rke --versionv1.4.10新環(huán)境RKE版本對(duì)齊server-urlhttps://rancher.example.com下游agent連接的關(guān)鍵證書類型受信CA證書 / 自簽證書決定是否要遷移私鑰認(rèn)證方式本地用戶 / LDAP / OIDC決定外部認(rèn)證是否需要二次配置下游集群數(shù)量7個(gè)遷移后驗(yàn)證清單1.4 常見(jiàn)遷移方案對(duì)比方案ARancher backup-restore-operator備份恢復(fù)。在舊集群安裝backup operator創(chuàng)建Backup CR把Rancher關(guān)鍵資源resourceSet備份到S3兼容對(duì)象存儲(chǔ)或本地路徑新環(huán)境反向操作Restore。優(yōu)點(diǎn)是備份粒度精準(zhǔn)、官方維護(hù)、適合遷移場(chǎng)景。缺點(diǎn)是這個(gè)工具只覆蓋Rancher自身狀態(tài)底層K8s的網(wǎng)絡(luò)插件、ingress等需要另建。方案B對(duì)承載Rancher的K8s集群做etcd快照然后在新環(huán)境用相同的RKE配置重建集群再恢復(fù)快照。優(yōu)點(diǎn)是Rancher本身幾乎無(wú)感知。缺點(diǎn)是對(duì)新舊環(huán)境的pod CIDR、service網(wǎng)段、甚至node名稱一致性要求很高靈活性差不太適合換機(jī)器、換機(jī)房的場(chǎng)景。方案C全新部署Rancher再手工配置或通過(guò)API遷移用戶、項(xiàng)目。優(yōu)點(diǎn)是環(huán)境干凈。缺點(diǎn)是工作量大、極易遺漏而且有很多不可復(fù)制的內(nèi)容比如agent注冊(cè)token、審計(jì)日志歷史、部分CRD狀態(tài)。方案優(yōu)點(diǎn)缺點(diǎn)適用場(chǎng)景backup operator遷移官方維護(hù)、粒度精準(zhǔn)、狀態(tài)完整只覆蓋Rancher資源換機(jī)器、換機(jī)房、版本不變或小版本升級(jí)etcd快照恢復(fù)整個(gè)集群狀態(tài)整體搬遷對(duì)網(wǎng)絡(luò)段、節(jié)點(diǎn)名要求高純硬件遷移且網(wǎng)絡(luò)規(guī)劃不變?nèi)虏渴鹗止づ渲脽o(wú)歷史包袱工作量大易遺漏舊環(huán)境已不可用且業(yè)務(wù)允許重建我這次采用的是方案A為主B作為備選兜底。這也是官方推薦路徑下文主要圍繞它展開(kāi)。2. 動(dòng)手前先把家底盤清楚必須帶走的數(shù)據(jù)和狀態(tài)2.1 資源清單不止cattle-system一個(gè)命名空間Rancher在K8s里并不是只往cattle-system里寫數(shù)據(jù)。備份的時(shí)候至少要考慮這些對(duì)象cattle-system命名空間Rancher pod、service、相關(guān)configmap。cattle-pipeline流水線相關(guān)配置。cattle-logging、cattle-monitoring、cattle-alerting日志、監(jiān)控、告警配置如果沒(méi)啟用就沒(méi)有。management.cattle.io組下的CRDCluster、Project、User、GlobalRole、Setting、Token等。secret包括admin密碼hash、服務(wù)賬戶token、agent注冊(cè)token等。RBAC自定義的角色綁定和權(quán)限設(shè)置。使用backup operator時(shí)它默認(rèn)的resourceSet已經(jīng)覆蓋了這些主流對(duì)象。實(shí)際操作中我在Backup CR里顯式使用官方預(yù)置的resourceSetName這樣不容易漏。不建議手工指定一堆命名空間因?yàn)楹苋菀茁┑裟硞€(gè)CRD等恢復(fù)后缺數(shù)據(jù)再排查就很被動(dòng)了。2.2 版本和配置信息盤點(diǎn)遷移前必須記下來(lái)除了數(shù)據(jù)還有幾類配置信息必須提前記錄。否則遷移到一半會(huì)發(fā)現(xiàn)server-url指向舊地址AI大模型都救不了你rancher/rancher鏡像版本以及helm chart版本用helm ls -n cattle-system查看。RKE版本用rke --version查看。K8s版本用kubectl version查看或者看RKE cluster.yml里的kubernetes_version。server-url在Rancher UI的全局設(shè)置里查看這是下游agent連接的關(guān)鍵。認(rèn)證方式如果用的是本地用戶備份里有密碼hash恢復(fù)后原密碼仍可用如果接的是外部LDAP或OIDC遷移后需要在新環(huán)境重新配置認(rèn)證提供方地址或信任關(guān)系。ingress證書類型自簽還是受信CA簽發(fā)。如果在遷移中更換域名或IP證書也要同步更新。強(qiáng)烈建議把上面這些寫到一個(gè)固定文檔里遷移過(guò)程中每一步都對(duì)照著核對(duì)。我的經(jīng)驗(yàn)是文檔里漏掉一個(gè)版本號(hào)后面恢復(fù)時(shí)可能多花兩個(gè)小時(shí)來(lái)排查。2.3 備份實(shí)操安裝backup operator并創(chuàng)建Backup CRbackup operator通過(guò)helm chart安裝命名空間是rancher-backup。安裝完成后創(chuàng)建一個(gè)Backup CR結(jié)構(gòu)類似apiVersion: resources.cattle.io/v1 kind: Backup metadata: name: rancher-backup spec: storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set encryptionConfigSecretName: backup-encryption-secret幾個(gè)字段的意圖說(shuō)下storageLocation備份文件存到S3兼容對(duì)象存儲(chǔ)也可以配置local存到節(jié)點(diǎn)路徑。生產(chǎn)環(huán)境建議S3兼容存儲(chǔ)方便新環(huán)境讀取。encryptionConfigSecretName可選。如果舊環(huán)境有敏感數(shù)據(jù)需要加密就得用同樣的加密配置否則新環(huán)境restore時(shí)解不開(kāi)。resourceSetName官方預(yù)置的資源集默認(rèn)使用rancher-resource-set。創(chuàng)建后觀察狀態(tài)等狀態(tài)變?yōu)镃ompleted表示備份完成。備份文件會(huì)生成一個(gè)tar.gz包里面是包含Rancher資源和CRD定義的一個(gè)清單。備份成功后確認(rèn)一下輸出的文件名后面Restore要用到。提示關(guān)于加密secret如果舊集群里配置了新集群安裝backup operator時(shí)也要把這個(gè)secret一起建出來(lái)并且內(nèi)容一致否則restore會(huì)直接失敗。這是最容易忽略的坑。2.4 備份完成后的驗(yàn)證備份狀態(tài)Completed不代表萬(wàn)事大吉。建議先下載備份文件確認(rèn)tar.gz包大小不是0字節(jié)再用tar解壓看一眼里面的資源列表。我遇到過(guò)備份文件生成成功但因?yàn)镾3接口兼容問(wèn)題文件內(nèi)容是殘缺的到restore階段才暴露。提前解壓驗(yàn)證幾秒的事能省下后面一整天的排查。3. 新環(huán)境搭建RKE拉起集群時(shí)的版本對(duì)齊與資源規(guī)劃3.1 版本對(duì)齊是遷移的第一原則先決定新環(huán)境的K8s版本。原則是新集群的版本與舊集群一致或者至少位于Rancher版本對(duì)應(yīng)的支持矩陣之內(nèi)。版本差太大的話Rancher chart在restore過(guò)程中可能出現(xiàn)CRD版本沖突、API group變更等問(wèn)題導(dǎo)致升級(jí)不動(dòng)、pod起不來(lái)。RKE本身也分版本舊環(huán)境用哪個(gè)版本生成的RKE新環(huán)境最好也用同一個(gè)版本。RKE生成的集群里kube-system下的一些組件版本和配置會(huì)有細(xì)微差異版本不一致會(huì)加大后面排查的難度。另外如果這次遷移同時(shí)想升級(jí)Rancher大版本我的建議是分兩步走先按舊版本遷移穩(wěn)定運(yùn)行后再做升級(jí)。不要邊遷移邊升級(jí)一次只引入一個(gè)變量否則出了問(wèn)題你不知道是遷移導(dǎo)致的還是升級(jí)導(dǎo)致的。3.2 cluster.yml的關(guān)鍵配置保持一致性在RKE集群的cluster.yml里有幾個(gè)參數(shù)會(huì)影響Kubernetes網(wǎng)絡(luò)層和證書層遷移時(shí)盡量跟舊環(huán)境保持一致network.plugin最常用canal或flannel新舊環(huán)境建議一致。services.kube-controller的service_cluster_ip_range與cluster_cidr集群內(nèi)部地址段建議保持與舊集群一致。如果變了Rancher里已存在的服務(wù)路由和網(wǎng)絡(luò)策略可能會(huì)出問(wèn)題。kubernetes_version保持同版本。nodes配置可以用新的主機(jī)名和IP這是允許變化的因?yàn)镵8s節(jié)點(diǎn)身份會(huì)重新生成。老規(guī)矩改節(jié)點(diǎn)IP沒(méi)問(wèn)題但pod CIDR和service網(wǎng)段不能隨意改遷移后很多已創(chuàng)建的服務(wù)地址和網(wǎng)絡(luò)策略都是基于原網(wǎng)段的。3.3 新環(huán)境節(jié)點(diǎn)資源規(guī)劃Rancher管理平臺(tái)自身不重但也不要太寒酸。承載Rancher的K8s集群至少用3個(gè)節(jié)點(diǎn)組成etcdcontrolplane角色生產(chǎn)建議每個(gè)節(jié)點(diǎn)4核8G起步磁盤用SSD并且40G以上。如果還要在下游集群上使用監(jiān)控、告警資源再往上浮。RKE要求節(jié)點(diǎn)能訪問(wèn)公開(kāi)鏡像倉(cāng)庫(kù)或者提前把鏡像推到私有倉(cāng)庫(kù)并在cluster.yml里配置registry認(rèn)證。新環(huán)境的節(jié)點(diǎn)時(shí)間同步也一定要做好K8s證書和agent錨定時(shí)間偏差太大會(huì)直接握手失敗。這些基礎(chǔ)項(xiàng)出了問(wèn)題后面恢復(fù)Rancher時(shí)出現(xiàn)的報(bào)錯(cuò)會(huì)非常奇怪。3.4 初始化后先做基礎(chǔ)驗(yàn)證別急著恢復(fù)執(zhí)行rke up之后先用kubectl get nodes -o wide確認(rèn)所有節(jié)點(diǎn)Ready再用kubectl get pods -A確認(rèn)kube-system和ingress-nginx的pod全部Running。這時(shí)候先不要急著裝Rancher或者做restore先把網(wǎng)絡(luò)層驗(yàn)證一遍。比如隨便跑一個(gè)測(cè)試服務(wù)確認(rèn)集群內(nèi)部DNS正常、pod之間可以通信。等基礎(chǔ)集群穩(wěn)定后再用helm安裝Rancher chart。安裝時(shí)用一個(gè)臨時(shí)的bootstrapPassword即可后續(xù)會(huì)被備份數(shù)據(jù)覆蓋。4. 恢復(fù)數(shù)據(jù)那一刻backup operator restore實(shí)操細(xì)節(jié)4.1 恢復(fù)前置準(zhǔn)備新環(huán)境恢復(fù)之前先把backup operator裝上命名空間同樣是rancher-backup。這一步和舊環(huán)境安裝基本一致需要注意兩點(diǎn)如果備份時(shí)用了encryptionConfigSecretName新環(huán)境要先創(chuàng)建同名secret內(nèi)容保持一致。如果備份文件在S3兼容對(duì)象存儲(chǔ)新環(huán)境要確保網(wǎng)絡(luò)可以訪問(wèn)這個(gè)地址尤其是私有化部署的對(duì)象存儲(chǔ)防火墻規(guī)則要提前配好。4.2 restore CR的編寫restore CR示例apiVersion: resources.cattle.io/v1 kind: Restore metadata: name: rancher-restore spec: backupFilename: rancher-backup-xxx.tar.gz storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set prune: true幾個(gè)字段的意圖backupFilename必須指向備份時(shí)生成的文件名。prune恢復(fù)時(shí)是否刪除目標(biāo)集群中已有的、不在備份里的Rancher資源。強(qiáng)烈建議設(shè)為true否則新環(huán)境安裝Rancher chart時(shí)會(huì)預(yù)創(chuàng)建一些默認(rèn)對(duì)象和備份數(shù)據(jù)混在一起容易沖突。storageLocation和備份時(shí)保持一致。創(chuàng)建restore后backup operator會(huì)在cattle-system里啟動(dòng)Rancher pod并恢復(fù)數(shù)據(jù)期間UI可能短時(shí)不可用需要耐心等。觀察restore狀態(tài)到Completed再刪除restore對(duì)象。4.3 恢復(fù)后的首次登錄和原始憑據(jù)恢復(fù)完成后Rancher會(huì)自動(dòng)重啟。用舊環(huán)境的管理員賬號(hào)密碼登錄如果用臨時(shí)bootstrapPassword是登不進(jìn)去的。如果舊環(huán)境密碼也沒(méi)記錄在恢復(fù)前提前從舊集群的secret里把a(bǔ)dmin密碼hash導(dǎo)出或者干脆在遷移前重置一次管理員密碼并記錄下來(lái)。登錄之后全局設(shè)置里的server-url非常關(guān)鍵。如果新環(huán)境地址變了要立刻改過(guò)來(lái)。改server-url時(shí)Rancher會(huì)嘗試重新生成下游集群的agent注冊(cè)配置。4.4 為什么順序必須是先有Rancher基礎(chǔ)chart再restore有人問(wèn)為什么不能在一臺(tái)空K8s集群上直接安裝backup operator然后restore因?yàn)閞estore本質(zhì)上是把Rancher自身的資源對(duì)象覆蓋進(jìn)去但它沒(méi)有能力重建Rancher chart全部初始化流程所依賴的骨架。比如cattle-system命名空間的基礎(chǔ)對(duì)象、ingress、serviceAccount等。先安裝Rancher chart可以把這些骨架搭好然后再用備份數(shù)據(jù)覆蓋血肉。骨架和血肉來(lái)自同一個(gè)版本時(shí)最穩(wěn)。4.5 恢復(fù)后的第一輪驗(yàn)證登錄Rancher UI后先看全局設(shè)置、用戶列表、角色權(quán)限是否完整。再進(jìn)入local集群看節(jié)點(diǎn)負(fù)載是否正常。此時(shí)下游集群大概率顯示Disconnected不用慌這一步正常下一步處理。5. 遷移后最麻煩的部分下游集群怎么重新接回Rancher5.1 失聯(lián)原因分解下游集群失聯(lián)的直接原因通常是agent注冊(cè)時(shí)保存的server-url還是舊地址DNS切換后連不上。證書不匹配TLS握手失敗。Rancher服務(wù)端生成的新token沒(méi)有分發(fā)下去。防火墻或安全組沒(méi)放行新的管理集群端口??梢赃@么理解下游集群的agent就像一臺(tái)老式電話機(jī)號(hào)碼簿里記的還是舊號(hào)碼。你要讓Rancher這邊的座機(jī)先確認(rèn)自己的新號(hào)碼然后想辦法把新號(hào)碼通知給所有電話機(jī)。5.2 先讓server-url和證書確定下來(lái)遷移后第一件事是把全局設(shè)置里的server-url改為最終對(duì)外地址并確認(rèn)證書有效。如果地址變化導(dǎo)致證書不匹配通常需要更新Rancher ingress的TLS secret換成覆蓋新地址的證書。在Rancher UI的Settings里觸發(fā)配置刷新。之后下游集群的agent如果自動(dòng)重連失敗再手動(dòng)重發(fā)。如果舊環(huán)境用了自簽證書遷移時(shí)要保留私鑰和完整證書鏈不能只帶一個(gè)crt。私鑰不匹配的話agent全部握手失敗報(bào)的都是x509錯(cuò)誤。5.3 自動(dòng)重連與手動(dòng)兜底大部分情況下只要server-url正確、網(wǎng)絡(luò)通暢cattle-cluster-agent和cattle-node-agent會(huì)在幾分鐘內(nèi)恢復(fù)正常。判斷方法在Rancher UI查看下游集群的狀態(tài)從Disconnected慢慢變回Active。在下游集群執(zhí)行kubectl get pods -n cattle-system看cattle-cluster-agent和cattle-node-agent是否Running。如果仍異常查看agent日志常見(jiàn)的是x509證書錯(cuò)誤或request timeout。手動(dòng)兜底路徑在Rancher UI進(jìn)入對(duì)應(yīng)集群的編輯頁(yè)面找到Registration Token重新生成或查看kubeconfig。拿到該集群的agent manifest。在下游集群里刪除舊的agent Deployment/DaemonSet讓它們重新拉取最新配置。更直接的做法在目標(biāo)集群對(duì)應(yīng)頁(yè)面用Edit Cluster重新保存一次Rancher會(huì)重新下發(fā)注冊(cè)命令。5.4 驗(yàn)證每類角色的狀態(tài)可以用一張表輔助驗(yàn)證檢查對(duì)象參考命令預(yù)期結(jié)果Rancher管理集群節(jié)點(diǎn)kubectl get nodes全部ReadyRancher podkubectl get pods -n cattle-systemRunning下游集群cattle-cluster-agentkubectl -n cattle-system get podsRunning或重建后正常下游集群cattle-node-agentkubectl -n cattle-system get daemonset正常調(diào)度Rancher UI集群列表集群管理-集群狀態(tài)為Active5.5 證書和token的實(shí)操經(jīng)驗(yàn)如果要保留原有自簽證書新環(huán)境必須把舊證書的私鑰、證書鏈完整帶入不能只帶一個(gè)crt。如果是遷移后重新簽發(fā)證書那么下游集群必須能通過(guò)新地址驗(yàn)證服務(wù)端身份否則agent全部握手失敗。比較省事的做法是遷移后直接換成受信CA簽發(fā)的域名證書一勞永逸。還有一個(gè)細(xì)節(jié)Rancher的agent注冊(cè)token是有有效期的如果遷移間隔太久token可能已經(jīng)過(guò)期。這種情況下重新生成新token即可。6. 復(fù)盤走過(guò)的彎路典型失敗場(chǎng)景與排查鏈路6.1 場(chǎng)景一恢復(fù)后Rancher UI起來(lái)了但登錄一直報(bào)錯(cuò)我遇到過(guò)restore完成后頁(yè)面反復(fù)提示Unauthorized的情況。排查下來(lái)發(fā)現(xiàn)是臨時(shí)裝的Rancher chart和備份數(shù)據(jù)的版本不一致導(dǎo)致admin用戶相關(guān)CRD沖突。解決方法是把Rancher chart卸載重新裝到與舊環(huán)境一致的chart版本再restore。所以恢復(fù)前核對(duì)chart版本絕對(duì)不要省。這一條異常重要。6.2 場(chǎng)景二下游集群顯示Disconnectedagent日志報(bào)TLS錯(cuò)誤agent日志里的典型錯(cuò)誤是certificate signed by unknown authority或x509: certificate is valid for xxx。這說(shuō)明agent拿到的證書和當(dāng)前server-url不匹配。處理步驟確認(rèn)server-url和實(shí)際訪問(wèn)地址一致。確認(rèn)ingress證書是新地址的有效證書。在下游集群刪除cattle-system下agent相關(guān)pod強(qiáng)制重建。如果還不行直接在Rancher里重新生成registration token并apply。6.3 場(chǎng)景三新集群上的Rancher pod一直ImagePullBackOff新環(huán)境通常還沒(méi)配好鏡像倉(cāng)庫(kù)的登錄信息特別是從私有鏡像倉(cāng)庫(kù)拉Rancher鏡像時(shí)。處理手段是提前在節(jié)點(diǎn)上配置docker login或者在cluster.yml和Rancher chart的values里配置imagePullSecrets。舊環(huán)境用了哪些鏡像建議提前導(dǎo)出鏡像清單避免新環(huán)境臨時(shí)找鏡像。6.4 場(chǎng)景四prune沒(méi)開(kāi)恢復(fù)后Rancher里混著一堆重復(fù)對(duì)象臨時(shí)安裝的Rancher chart會(huì)預(yù)創(chuàng)建默認(rèn)的集群對(duì)象。如果restore時(shí)prune沒(méi)開(kāi)備份里沒(méi)有的默認(rèn)對(duì)象會(huì)留在系統(tǒng)里看起來(lái)像多出來(lái)幾個(gè)服務(wù)或項(xiàng)目。它們的資源類型和正常對(duì)象混在一起排查很費(fèi)勁。所以restore時(shí)prune盡量設(shè)成true。6.5 排查思路的層次總結(jié)幾條排錯(cuò)順序第一層網(wǎng)絡(luò)通不通。從下游集群節(jié)點(diǎn)執(zhí)行curl -k https://新server-url:443。第二層證書對(duì)不對(duì)。檢查證書域名、有效期。第三層server-url對(duì)不對(duì)。在Rancher全局設(shè)置里看。第四層Token和agent配置有沒(méi)有更新??碼gent日志和registration token。第五層版本和CRD有沒(méi)有沖突。看Rancher pod日志和CRD版本。按這個(gè)順序走大部分問(wèn)題的根因都能定位到前四層。如果真的到第五層基本就是版本規(guī)劃的問(wèn)題需要回到備份和chart版本匹配這條線上重新對(duì)齊。6.6 一個(gè)小建議遷移前先完整演練一遍如果你的環(huán)境比較復(fù)雜比如下游集群非常多、有自定義RBAC、有外部認(rèn)證強(qiáng)烈建議先搭一個(gè)臨時(shí)環(huán)境完整演練一遍備份、恢復(fù)、下游重連、驗(yàn)證。演練過(guò)程能暴露大部分問(wèn)題也會(huì)讓你對(duì)restore的耗時(shí)和UI中斷時(shí)間有預(yù)期真遷的時(shí)候心里有底?;氐介_(kāi)頭說(shuō)的那次遷移。整個(gè)過(guò)程讓我印象最深的不是restore那一下而是備份清單和版本記錄是否完整。只要這些基礎(chǔ)信息是齊的遷移就像按照地圖走一遍反過(guò)來(lái)最基礎(chǔ)的版本不匹配就能讓你卡住半天。以后再接到類似的Rancher遷移任務(wù)我會(huì)先花半小時(shí)盤點(diǎn)版本、server-url、證書和備份文件再動(dòng)手。遷移窗口期盡量選在業(yè)務(wù)低峰restore過(guò)程中的UI中斷時(shí)間通常不會(huì)太長(zhǎng)但下游集群重新注冊(cè)的時(shí)間取決于集群數(shù)量和網(wǎng)絡(luò)狀況??傮w來(lái)看基于RKE部署的Rancher遷移只要把握住數(shù)據(jù)、身份、網(wǎng)絡(luò)信任這三件事不會(huì)出大問(wèn)題。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
草草视频91| 丁香久久AV| 亚洲超碰青涩| 操一操干一干| 成人五月天在线视频在线观看| av性爱在线| 久草婷婷网| 色五月丁香伊人五月| 99综合97| 久久久久9| 久99久热只有精品国产99| 91超碰在线观看| 一区二区中文字幕| 99热在线观看精品| 色青青五月| 亲子乱AV一区二区三区下载| 五月天婷婷婷| 伊人五月天在线| www,五月丁,com| 激情婷婷五月| 狠狠色婷婷丁香六月| 玖玖99免费视频| 午夜青草资源| 97色色色色色色色| 6 9式性爱视频在线播放| 久久66er久久| 伊人五月天97| 96精品国产综合久久久久久| 婷婷五月天电影区小说区| 久久九色| 97操碰碰无码视频| 人妻久久久久久| 少妇丁香婷婷| 亚州操操| 国产91九色| www99热| www夜夜操| 婷婷丁香六月| 色婷婷亚洲| 激情综合五月丁香六月婷婷| 99爱精品| 五月亭亭网成人在线视频| 96精品久久久久久久久| 亚洲激情综合| 久久只有18视频| 播五月丁香三月婷婷| 99ri在线播放| 久久婷婷五月天激情四射| 婷婷精品视频| 婷婷狠狠操| 色玖玖导航| 六月丁香激情婷婷| 97色射| 丁香六月激情综合| 日日操日日撸| 久久九九99| 玖玖色综合| 五月婷婷丁香啪啪| 91久久1118| 久久九九免费视频| 欧洲毛片基地c区| 伊人婷婷五月天| 五月丁香六月婷婷亚洲视频| 五月久久婷婷| 五月婷丁香花| 五月婷婷深爱六月| 婷婷五月综合激情免费| 久久久人妻不卡| 99色干| 亭亭玉月丁香| 天天天天干| www激情婷婷com| 开心婷婷五月中文字幕组| 欧美图片丁香五月天| 99久久久久| 99久久激情视频| 9热在线视频| av网站免费在线| www.wuyuetian啪啪| 婷婷激情五月综合| 日本色色网站| 婷婷爱五月| 天天爽天天操| www色哟哟| www.九月婷婷丁香.com | 五月丁香色婷婷| 99在线视频播放| 丁香久月| 欧美性猛交XXXX乱大交极品| 色婷婷激情视频| AV天堂婷婷五月天| 五月天婷婷永久免费视频| 国产99久9在线| 午夜丁香 婷婷| 大香蕉大香蕉在线影院| 人人97操| WWW五月婷婷| 这里只有精品99www| 婷婷五月天淫荡| 成人性生活免费观看。| 字幕网AV中文字幕| 九九色之九九色88| 五月丁香婷婷色色色| 黑人熟妇一区二区三区| 亚洲A片成人无码久久精品青桔| 五月婷婷啪啪| 色九九七七| 欧美六月| 激情五月天com| 天天干天天干天天干天天干天| 天天爽,夜夜爽| 97热这里只有精品| 色情综合网| 91中文狠狠综合| 日本欧美999久久久三级片| 五月开心网| 五月婷婷涩涩爱| 婷婷九色| 天天狠天天叉| 久草丁香婷婷1024| 人妻系列久久久久久久久久久| 97操碰在线视频| 丁香六月天AV| 激情五月丁香五月| 五月婷六月| 五月天婷婷青青| 伊人色综合网| 色综合99无码| 五月天伊人日日噜影片AV| 深爱激情五月天婷婷网| 热久久这里只有精品| 五月婷婷开心综合| 成人精品视频99在线观看免费| 日本不卡高字幕在线2019| 国产AV熟妇人震精品一品二区 | 无码成人AAAAA毛片AI换脸| 草了bav视频在线观看| 9热网站| 欧美日韩成人在线网站| 日本熟妇人妻在线| 五月天激情婷婷| 99在线视频免费| 午夜激情五月| 色五天综合| 成人短视频在线| 丁香桃色网| 777影视理论片大全在线观看| 激情五月丁香五月色| 国产真人做爰视频免费| 99re这里只有精品9| 五月天另类小说亚洲| 99这里只有免费的精品| 五月丁香中文| 欧美啪啪五月天| 婷婷四色成人综合色视| 亚洲中文乱字字幕在线永久| 五月丁香六月婷婷久久| www.26uuu.com亚洲电影| 九九色图| wWW九九在线播放| 五月婷婷丁香av| 五月天开心网| 97深爱伊人综合| 九九热10| 天天爽在线视频| 俺去啦综合网| 97自拍视频网| 啪啪色区| 91Chinese在线| 淑女丝袜bi操逼123| 中文字幕婷婷| 婷婷五月天丁香| 熟女激情网| 亚洲一区二区无遮挡A片| 亚洲另类婷婷五月丁香在线播放| 久久婷婷亚洲| 九九热这里只有精品5| 这里只有免费的精品| 综合婷婷| AV 3P| 国产又爽又猛又粗的视频A片| 91人碰| 日日干天天爽| 婷婷伊人网| 九九Av| 丁香五月天天| 91色性感五月婷婷丁香| 亚洲久久婷婷| www.玖玖婷婷在线| 99久在线精品99re8热| 国产91在线视频| 天天爽日日爽夜夜爽| 在线只有精品| 玖玖资源站蜜臀| 97婷婷丁香| 97偷拍对白视频| 婷婷色啪| 99热国产| ...婷婷国产成人亚洲日韩| 一点色成人网| 大狠狠在线| 性按摩玩人妻HD中文字幕| 99久久激情视频| 婷婷丁香社区| 强伦轩人妻一区二区电影| 99ri精品在线| 三区激情四射av| 亚洲宗合激情| 久久久婷婷婷| 视色综合| 五月婷婷色色| 69久久久| 狠狠综合网| 蜜臀九九九九| 婷婷黄色| 抽插特写| www激情| 欧爱综合视频| 婷婷五月综激情| 天天天干夜夜夜操| 欧美狠狠地| 91色干| 婷婷操逼| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 激情九月婷婷九月| 丁香五月av在线| 亚洲欧美日韩另类| 久久9视频| 婷婷狠狠五月综合| 中文无码婷婷| 五月婷婷日本| 99热在线观看| 九月婷婷综合| 99视频这里只有久久精品 | 无码少妇高潮喷水A片免费| 月色色综合婷婷网| 国产99久久久国产精品免费看 | 丁香六月激情综合啪啪| 久久人妻少妇嫩草AV| 午夜大香蕉| 久久五月婷天天干| 亚洲色婷婷五月天| 亚洲免费观看高清完整版AV线| 丁香青青五月天| 人人摸人人搞| 99九九视频| 天天综合.com| 婷婷 久综合| 99久在线精品99re5热视频| 五月丁香六月激情视频| 色色色五月婷| 五月天婷婷丁香人人操91| 女力报到正好爱上你| 婷婷黄色网| 狠狠色婷婷7777久| 色婷婷社区| 欧美五月丁香在线| 亚洲精品乱码久久久久久按摩观| 欧美韩国日本| 久久婷婷五月天| 日本爆乳片手机在线播放| 玖玖精品婷婷| 99久久婷婷综合| 开心五月天激情网| 办公室少妇激情呻吟A片在线观看| www99热| www.九九婷婷| 久久aaaaa| 99婷五月| 色五月美女| 日韩操人| 亚洲精品无人区| 久久婷婷视频| 国色天香成人网| 99精品视频网站| 91干在线| 色播丁香| 中文幕无线码中文字蜜桃| 九九这里有精品视频| 亚洲A片成人无码久久精品青桔| 色播丁香五月婷婷操:屄| 99热这里有精品| 九九人人操| 99热只有| 97久久久久| 五月丁香久人妻中文| 97精品欧美91久久久久久久| 中文字幕日产A片在线看| 五月婷丁香| 五月丁香色综合| 婷婷激情视频欧美视频自拍视频欧美剧| 久热这里只有精品99re,久热这里只有精品7 | 欧美五月婷婷| 91九色精品女同系列| 中文字幕在线免费观看视频| 婷婷五月天视频免费在线观看| 九色视频91疯狂| 丁香五月婷中字幕| 五月天婷婷在线播放| 亚洲旡码| 激情六月丁香综合| 丁香社区婷婷五月| 99操免费视频| 思思热在线精品视频| 99久在线精品99re8热| 色综天天综合| 思思热在线视频99| 五月狠狠| 裸体做A爰片毛片A片免费| 色欲久久久久久综合网综合网| 91九色在线| 91久久99久久91熟女精品| 五月综合激情图片| 亚洲综合色婷婷| 激情丁香婷婷六月天| 99ri视频在线观看| 五月丁香六月婷综合成人综合| 伊人超碰在线| 五月天色色激情综合| 丁香五月WWW| 成人版视频在线观看| 99超碰欧美| 超碰激情五月| 色欲Av五月天| 九九在线视频| 欧美69久成人做爰视频| 五月天婷婷狂暴白浆| 丁香五月AV| 婷婷综合性爱网| 精品久久这里热66| 91啪啪| 啪啪日本欧美| 天天骑日日爽| 亚洲无码yw| 白人荫道BBWBBB大荫道| 久久一级AV| 五月婷婷六月丁香| 日本系列_4页_777FP| 婷婷丁香五月天大香蕉| 琪琪色影音先锋| 九九成人精品免费视频| 日日色五月天| 久操激情| 偷偷操九九| 深爱激情中文五月天av| 99成人网站| 久久九九色| 丁香五月天堂网| 丁香五月天天| 色色综合色| 婷婷五月天网| 1024欧美看片| 丁香婷婷六月天| 九九热视频99| 五月婷婷丁香六月| 激情五月天开心总和网| 婷婷伊人网| 性做久久久久久久免费看| 日本狠狠干| 超碰在线精品| 久热超碰91| 色五天综合| 久久视屏这里只有久久| 色五月婷婷久久大| 国产偷人爽久久久久久老妇APP| 99久久婷婷国产综合| 婷婷五月天影院| 91色干| 婷婷十月丁香| 激情五月婷婷综合网| 91操人| 五月婷色色| 99热色精品| 久久性都花花世界成人免费视频 | www.五月天| 日本va欧美va欧美| 亚洲精品字幕| 天天爽天天弄| 狠狠干综合网| 91超级碰在线| 婷婷五月综合久久中文字幕| 中文字幕乱码亚洲精品一区 | 公的粗大挺进了我的密道| 99精品一二三四视频| 久久久五月天| 人人爽人人射-美女久久久久久久久久-成人AV | 91色婷婷综合久久中文字幕二区| 大地资源色婷婷视频在线| 岛国AAAV| site:pnnrt.com| 欧美六月婷婷| 激情五月丁香色婷婷| 中文字幕簧片| 超碰2021| 思思热在线| 久久婷婷草| 五月久视频| 五月婷婷婷| 天天爱天天秀天天做| 一本色道久久88加勒比| 非洲一级AV| 成人综合AV| 手机在线日韩视频中文字幕| 丁香六月无码播放| 99久久视频| 99热e| 91狠狠综合久久久| 亚洲色无码A片一区二区麻豆| 丁香五月最新网址| 九月婷婷综合| http://www.lingjunshare.com/ | 精品夜夜澡人妻无码AV| 婷婷六月激情综合| 精品亚洲日韩99欧美片| 久久996re热这里只有精品无码| 丁香婷婷六月天| 色五月色五天色情网| 天天日天天爽夜夜爽| 日韩黄在免| 常久最新免费的色吊丝| 婷婷五月成人| 99热精品在线免费观看| 日韩成人精品中文字幕| 色色99色色| 欧美日本日韩| 九月婷婷色色| 色婷婷先锋| 久久人人妻| 精品色色网| 五月激情婷婷国产精品久久久久久| 五月天激情啪啪| 亚洲免费婷婷| 思思 热 99| 亚洲网视屏| 搡BBBB搡BBB搡18| 天天干,天天舔| 色综合色色色| 丁香五月激情六月| 亚洲AV网址| 婷婷综合视频| 五月天综合在线观看视频| 国产婷婷色综合AV蜜臀AV | 亚洲人妻AV| 99ER热精品视频| 夜夜爽天天干| 色五月婷婷开心| 激情中文在线| 狠狠爱丁香婷| 婷婷丁香色五月| 天天射色五月天| 在线99热| 五月丁香色婷基地综合久久| 天天日天天爽| 久热这里只有精品在线观看 | 色婷婷六月天| 久久久久视剧HD| av色色国产| 久久精热| 五月网网站| 五月婷丁香花| 丁香六月啪| 婷婷五月乱交换| 五月激情在线| 香蕉AV777XXX色综合一区| 99国产精品久久久久久久久久久| 99性感视频| 日本激情ⅩXX免费视频| 99情色五月天| 婷婷无五月无码视频| 日本色五月| 色综合日日| 激情宗合哪里能看| 成人五月天综合网| 原琪琪色影院| 日韩在线9| 91九色无码内射| 婷婷狠狠综合网入口| 婷婷五月天视频亚洲| 综合色情网| 色综合久久综合| 日韩一级淫乱片一区二区三区| 人妻无码精品一区| 99久久大片| 欧美性丁香色色五月天| 伊人超碰在线| 九九Av| 五月天婷婷綜合院| 亚欧州精品视频| 丁香五月婷婷AV在线| 日韩啪| 大香蕉五月| 五月激情综合性爱| 久久的爱大香蕉| 黄色国久久| CHINESE熟女老女人HD视频| 激情五月图| 五月天婷婷激情网| 99riAv1国产在线观看| 五月丁香| 色综合五月| 六月丁香五月婷婷| 一起草无码视频| 五月婷婷激情| 99热成人永久免费| 丁香五月婷婷色综合基地| 九九九激情综合| 成人片黄网站色大片免费毛片| 99热免费| 色色亚洲| 嫩草免费视频| 99男人的天堂| 久久九九免费大视频| 欧美五月婷婷| 婷婷五月综合欧美在线播放| 亚洲小视频免费播放| 亚洲一区二区 成人网站戴套| 久久婷五月婷| 欧美顶级少妇做爰HD| 丁香五月色色| 精品久久久91久久影视网| 色色国产| 久久人妻精品| 在线色婷婷| 97热久久| 激情开心五月婷婷| 婷婷五月花西瓜| 69色婷婷| 99操视频| 麻豆忘忧草午夜| 综合九色| 丁香六月 婷婷六月| 天天人人天天爽| 丁香五月六月婷婷自拍| 色欲丁香| 成人网在线视频| 激情淫乱男女| 亚洲精久久| 新五月天婷婷激情电影| 五月婷婷色男女| 久久婷婷五月综合伊人| 思思热久久爱| 99热九九在线| 色婷| 97操资源婷婷| 婷婷五月色播天| 99热网站| 九九AV| 亚洲天堂有码| 久久婷婷六月综合资源| 欧美激情五月综合| 可以看的av网站| 激情五月丁香五月| 久婷婷五月天影院| 丁香五月骚喷水视频| 国产日日夜夜操| 欧美日韩成人在线网站| 成人人操| 做爱夜夜干天天操| 婷婷99狠狠| 夜精品无码A片一区二区蜜桃| 伊人玖玖精品| 色婷婷丁香AV综合| 天天久久综合| 五月丁香啪啪| 9久国产| 色六月天| 少妇伦子伦精品无吗| 这里有精品| 91九色中文字幕女在线观看| 99热只有精品在线播放| 99热九九这里只有精品10| 性爱AV天堂| 五月婷婷在线观看黄| 色五XX| 日本人妻伦在线中文字幕| 农村熟妇高潮精品A片| 91九九九九九九| 亚洲乱码日产精品BD| 日韩久久这里只有精品| 婷婷五月天在线综合| 九九热99视频| www.五月天婷婷| 人人操婷婷| 一本久久亚洲五月婷婷| 五月丁香人人婷婷在线观看| 五月天婷婷丁香| 色色色色色色色色综合网| 国产精品天天狠天天看| 91凹凸在线| 九九在线视频| 欧美色久| 99热这里只有精品66| 热久久婷婷| www.五月天社区| 99热传媒| 久色资源网| 五月婷婷久久网| 超碰在线成人| 91精品国产综合久久久不卡电影| 久草婷婷在线| 五月天开心激情网色欲无码| 亚洲成人五月| av国产精品| 五月婷婷在线丁香| 亚洲国产精品SUV| 五月丁香久久丝袜啪啪| 91视屏在线观看com.wwwvv| 久久98热re| 大香蕉在九| 五月激情黄色小说| 丁香婷婷五月激情四射网| 婷婷丁香六月天激情四射网| 婷婷色五月激情| 六月婷婷开心| 69er小视频| 久久44| 五月婷婷开心五月| 天天综合网91| 久草热8精品视频在线观看| 开心五月婷婷婷美女| 久久最新色色色| 天天狠狠夜夜狠狠2023| 9热视频在线观看| 26UUU欧美| 久久激情视频99| 成人无码髙潮喷水A片| 亚洲综合草草| 亚洲妇女熟BBW| 国产看真人毛片爱做A片| 能看的av网站| 久久在线人妻| 大香蕉Av在线| AAA级久久久精品| 99色亚洲| 激情五月天之六月婷婷| 99精品在线| 亚州日本欧州韩美高青高潮一| 日日操日日撸| 99热成人在线观看| 99热欲| av大香蕉| VfJxEwPH| 夜夜噜夜夜奇| 欧美色97| 激情98色婷婷五| 午夜爱爱网站| 五月婷婷网五月在线| 操操综合网婷婷| 激情综合在线观看| 中文不卡一二区| 激情黄色小说色五月| 欧美99视频| 色 五月俺去也| 丁香综合久久| 九九久久腿| 99热手机在线精品| 五月天播播中文字幕| 香蕉大综综综合久久| 欧美黄色韩日网| 五月综合激情| 开心五月天激情网| 日韩五月丁香| 日本九九热| 91性人人| 丁香影院五月综合| 婷婷五月花| 性综合网| 黄网免费观看| 色一情一乱一乱一区91| 天天日天天插天天操| 荫道BBWBBB高潮潮喷| 停婷丁五月在线| 人妻尝试久久久久久久久久久久| 久久9久久| 开心五月婷婷伊人| 午夜性做爰电影| 99精品久久| 久久99视频| 婷婷伊人久久| 精品久热69| 婷婷精品性性性性性性性| 婷婷六月视频| 久久婷婷的综合色丁香五月| 五月婷在线观看| 日本婷色| 五月天婷婷在线播放| 91超级碰在线| 9月色婷婷| 97丁香婷婷| 丁香综合久久| 青青999| 五月丁香 狠狠爱| 久草婷婷网| 久久精品一区二区三区四区| 五月丁香五月婷婷| 婷婷六月综合激情| 婷婷色五月天在线| 色五月丁香婷婷| 99re8热精品免费视频| 丁香六月情| av性爱在线| 亚洲激情精品| 第四色五月天| 99精品在线下载| 五月激情综合激情五月| 在线观看玖玖资源免费观看| 欧美日韩成人在线免费| 国产成人精品亚洲线观看| 一级操逼内射在线视频| 热99国产精品| 久久九九热38| 欧美婷婷丁香五月| 丁香五月激情网| 日本天堂爱爱| 狠狠色丁香久久久婷| 1级欧美日韩| 91精品久| 激情人妻综合| 欧美日本综合网| 激情五月天综合图片小说网站| 99久久婷婷国产综合亚洲| 免费看欧美成人A片无码| 九九大香视频| www,色色色网站| 色五婷婷在线视频| 丁香五月激情综合| 国产精品扒开腿做爽爽爽A片唱戏| 五月丁香婷草| 色婷婷导航| 九色99视频| 99爱爱网| 大香蕉啪啪啪| 超碰免费人人肏| www,久久久人人| 色婷婷19| 99色热视频| 九九99久久| 激情九月综合| 欧美A级成人婬片免费看理论| 五月色网| 九月婷婷激情久久| 六月婷婷色综合| 五月天久久综合婷婷丁香| 亚洲激情淫网| 五月天综合在线观看| 天天色天天色天天色天天色天天色| 丁香色啪综合| 丁香婷婷影院| 亚洲亚洲人成综合网络| 五月婷婷影院| 专区无日本视频高清8| 色婷婷狠狠18禁| 伊人在线视频| 五月激情天| 五月婷婷六月丁香玖玖玫瑰91| 日韩ww| 日本啪啪网| 久久综合丁香| 久久久久久综合五月婷婷| 日本无va视频| 91激情五月开心| 日韩成人无码| 4399在线日本A片| 激情婷婷丁香色五月| 亚洲久久婷婷| 久久这里只有精品热在99| 成人婷99最新| 婷婷激情97| 新激情五月天色播| 五月丁香六月在线| 天天射天天干天插色综合| www91色网站| 思思热闹这里只有精品| 五月婷婷视频啪啪美女| 五月丁香婷婷婷婷综合网| 亚洲天堂AAA| 丁香五月天网站| 亲子乱AV-区二区三区| 国产超碰av| 婷婷五月天日逼| 亚洲不卡| 99热全是精品| 欧美精品熟女一区二区| 婷婷五月在线视频| 激情五月影院| 色,激情五月天| 亚洲成人无码网站| 狠狠色噜噜狠狠| 婷婷夜夜操| 色综合综合综合| 婷婷五月天激情偷拍| 五月婷婷伊| 丁香久久五月天视频在线观看 | 久久久久婷婷| 99网99热| 婷婷久久图片| 婷婷五月免费视频| 亚洲第二AV| 99视频在线观看视频| 婷婷色导航| 九九色综合视频| 久色成人| 五月综合激情| 99人人干人人| 丁香五月网址| 99riAV国产精品视频| 99热国品免费| 丁香五月在线观看| 综合色久| 可以看的av网站| 婷婷丁香视频在线观看免费| 天天操天天操天天操天天操天天操天天操| 开心五月天激情网| 99re思思在线视频| 无码人妻少妇色欲AV一区二区| 九九偷拍网| 色五月亚洲| 成人短视频在线观看| 99秘 在线| 亚洲国产网址| 久9热视频| 五月婷婷丁香啪啪| 国外亚洲成AV人片在线观看| 欧美天堂久久| 97色色色色色| 九九这里只这里只有精品| 91久久色| 色婷五月天| AV电影在线播放| 亚洲五月综合色播| av一区免费看| 五月丁香六月婷婷久久肏| 久久人妻精品| 激情五月综合ì香亚洲| 久久视频在线视频| 五月婷婷开心综合| 国产操碰| 日本精品人妻无码77777| 九九热黄色| 久草婷婷| 色天五月天在线观看视频| 思思久久99热只有频精品66| 97干在线| 在线播放人妻| 五月丁香婷婷视频| 婷婷五月色| 韩国中文字幕91| 天天干天天干天天干天天干天天干| 99热91| 99九九精品视频| 五月婷婷深深爱| 中文字幕成人| 亚洲狠狠干| 五月婷成人| 亚洲精品无码A片一区二区| 伊人丁香六月婷婷| 五月天激情日色在线| 婷婷五月激情在线| 成人五月天丁香| 亚洲视99| 五月婷婷激情性爱| 国产精品天天狠天天看| 99热这里只有精品一区| 人人操人人妻| 99视频内射三四| 婷婷五月天激情基地| 亚洲xx网| 亚洲亚洲人成综合网络| 亚洲天码视频www蛋播视频| 99热免费18| 中文字幕按摩做爰| 超碰97干| 思思热视频在线| 99热99热在线观看| 婷婷天堂综合| 婷婷九月激情| 免费亚洲婷婷| 婷婷六月爽| 五月天激情四射| 丁香五月开心七月| 丁香五月婷婷色偷偷| 五月丁香婷婷色播无码| 久9热在线免费观看| 4399亚洲视频| 成人综合伍月天| 色婷婷综合五月| 99九九99九九九视频精彩| 婷婷综合精品| 五月之婷婷| 五月天丁香六月综合| 大香蕉99热| www.五月天激情| 六月香五月婷| 五月天婷婷爱| 停停六月 综合| 免费无码毛片一区二区A片| 五月噜噜噜色综合| 色婷婷88| 天天插天天干| 五月婷婷啪啪| 五月丁香无码| 国产美女视频久| 开心五月天激情网站| 激情九九这里只有精品| 色99xx| 人妻熟女一区二区AV| 五月天久久综合婷婷丁香| 欧美亚洲成人在线| 激情碰碰碰| 好叼操在线观看| 亚洲黄色网址| 青青久在线视频免费观看| 婷婷精品性视频| 精品一区二区三区四区五区六区介绍| 日韩综合网络男女香蕉a片| 国产又爽又猛又粗的视频A片| 婷婷五月天com| 精品视频99看在线视频| 激情综合色婷婷啪啪六月天| 另类激情中文| 婷婷婷婷色| 五月丁香啪啪| 亚洲精品V天堂中文字幕| 久鲁鲁色网| 丁香五月大香蕉| 99热精品网| 9l视频自拍九色9l视频在线观看| 丰满人妻妇伦又伦精品国产| 婷婷激情性爱| 日本啪啪天堂| 色综合色色| 五月天婷婷视频| 久久婷婷影院| 久久在线视频免费观看| 欧美色色色色色色色| 五月丁香人妻| 成人在线99| 99热亚洲精品| 色婷婷电影网| 在线视频另类| 99精品成人无码A片观看金桔| 婷婷五月天亚洲综合| 亚洲欧美另类在线23p| 99re热| 日日夜夜天天综合| 人人摸人人干| 202丰满熟女妇大| 免费黄网不卡AV| 97碰碰视频| wwW天天干| 天天干天天 亚洲| 亚洲成人av在线播放| 色婷丨日丨天丨综合久久| 五月情丁香色| 色婷婷九月综合| 久久加勒比| 色一情一乱一乱一区91| 欧美色图天堂网| 超碰成人在线免费观看| 国产精品 的国产| 另类激情四射| eeuus五月婷| 婷婷五月噜噜| 99操无码视频观看| a在线观看| 久久综合图片| 97碰碰人人| 79色色色色| 伊人久久婷婷| 丁香五月婷婷社区| 激情av在线| 伊人青草成人| 色综合激情| 天天干狠狠| 99精品偷拍视频| 午夜婷婷丁香| 五月婷婷六月色| 在线另类| 五月婷婷六月综合| 亚洲欧美成人在线| 丁香六月亚洲综合| 免费看欧美成人A片无码| 亚洲AV中文在线| 秋霞九九无码| 国产激情AV| 五月婷视频| 欧美精产国品一二三区| 丁香九月激情| 另类激情综合| A片试看50分钟做受视频| 99久久超级| 91操操| 亚洲旡码| 丰满少妇乱A片无码| 99玖玖视频| 婷婷综合网站| 天天五月天综合网址| 丁香六月婷婷开心| 亚洲综合色婷婷文学| 在线成人网址| 色五狠狠| 影音先锋一区二区资源站| 8090在线影视少妇| 91久久综合| 精品综合久久久久久五月天| 麻豆五月丁香婷婷| 国产毛片精品一区二区色欲黄A片| 婷婷久久夜| 91色五月| 亚州成人综合在线| 武汉美女啪啪视频免费一级片| 五月亭亭综合五码| 人妻22p| 色噜噜狠狠色综合网| 激情五月综合色| 色色A| 91久久综合亚洲鲁鲁五月天| 影音先锋xfplay资源男人网| 97人人干| 秋霞AV淫| 狠狠婷婷综合| 六月丁香婷婷色综合| 丁香五月激情五月| 99热成人| 婷婷月五天在线在线看| 在线色五月婷婷| 丁香五月播播| 天堂综合久| 久久99热在线观看| 免费亚洲成人电影AV| 伊人春天av| 99操| 色色操| 淫视馆aV二区一区| www99在线观看视频| 丁香五月激情六月欧亚激情综合导航 | 五月天婷婷久草丁香| 五月丁香久人妻中文| 婷婷五月天另类网站| 九九re精品视频在线观看| 色爱爱综合网| 99热这里只有精品一区| 99婷婷| 天天日日人| 天天天天操| 激情综合五月色丁香婷婷 | 色婷婷五月天综合网| 99自拍视频网站| 色丁香五月| 免费黄色AV| 久青青久| 在线五月婷| 无码网站视频| 五月综合激情| 99视频久久| 亚洲区,视频区,视频区免费| 这里只有精品69| 色碰97| 99视频久久| 久久色五月天| 欧美黑人巨大性生话| 天天色综合天天| 丁香六月综合激情| 婷婷五月色播天| 天天日天天舔| 日韩啪啪视频| 五月丁香婷婷欧美色图视频五月丁香777电影 | 丝袜大香蕉| 夜夜资源站| 97色色色色| 91久女| 色婷婷内射| 潮汕成人AV片在线| 九九激情| 色色五月天激情| 久操乱| 操骚货在线| 99自拍视频在线| 国产FREESEXVIDEOS性中国| 青青热视频| 日韩黄在免| 婷婷丁香五月激情图片| 久9热| 亚洲色a| 综合网啪| 一区二区乱码视频| 99视频精品全部免费观看| 亚洲中文字幕av| 99综合一区| 五月婷天堂视频| 91久久婷婷| 五月激情婷婷丁香| 婷婷色综合| 大香蕉狠狠爱主页| 亚洲AV成人在线| 色欲久久久久| jiujiu热在线视频| 丁香五月婷婷天堂大香蕉| 色综合久久88色综合中文字幕| 国产SUV精品一区二区883| 777久久综合视频| 色99xx| 无码AV久久久久久久久| 丁香五月天色综合| 九一牛视频探花| 九九無妻| 天天色噜| 天天xxxxxx天天日| 大香网伊人久久综合| 九九久久网| 天堂网操| 99视频35精品视频在线观看| 99操碰| 丁香五月电影院在线观看| 综合婷婷五月天| 都市激情小说婷婷| 国产无人区大片| 久久久久亚洲AV综合| 色婷婷综合网| 欧洲综合视频在线观看。欧洲,亚洲综合食品在线观看。 | 婷婷五月天成人综合网| 亚洲啪啪自拍| 99精品国产乱码久久久人妻| 99精品无码| 五月噜噜| 影音先锋 91工厂| 啪啪综合网| 999久久久国产精品| 婷婷基地爱| 狠狠干五码| 综合欧美五月婷婷| 一本色道久久综合狠狠躁一二三| 婷婷五月情| 六月 丁香 视频| 天天草天天舔| 亚洲超碰在线| 天天爽在线视频| 蜜桃婷婷狠狠久久| 丁香五月天社区婷婷| 激情五月天色色网| 激情丁香九九五月综合网| 天天色爽| 全亚洲最大的婷婷五月天网站COM| 五月天综合色| 一本色综合色| 国产毛片欧美毛片久久久| 婷婷开心青青草| 日本一级黄色电影| 99久久99视频只有精品| 激情视频网址| 亚洲丁香花色| 99色视频| 亚洲激情五月| a网站免费观看| 婷婷综合久久| 99热这里只有精品9| se影音资源在线观看| 我去色色网五雨天| 精品成人a v无码内射| 五月丁香色停停啪啪啪| 午夜婷婷| 狠狠色狠狠| 五月丁香六月激情在线| 77799热| 婷婷五月天受日本法律保护| 大香蕉人在线65| 操操熟女| 99九九免费精品| 日本99在线| 99热这里只有精品1025| 性爱技巧五月| 婷婷综合日本| 亚洲99在线| 久青操| 婷婷久久久久久久| 安息电影在线观看完整版| 大鸡巴伊人网| 天天日夜夜| 色综合婷婷99| 成人 AV播放| 久久综合网桃花| 丁香五月久久| 涩涩五月天综合| 十月丁香婷婷| 91婷婷五月天嫩女| 五月99久久| 超碰99在线观看| 婷婷五月天成人网| 亚洲精品视频在线播放| 亚州日本欧州韩美高青高潮一| 91色吧网| 色色五月丁香| 99日这里只有精品| 五月大香蕉| 很很干夜夜干| 五月婷婷香| 色操综合| 激情五月综合色| 色宗合久久五月婷婷| 色你久久| 色婷五月| 99热都是精品| 狠狠干综合网| 99精品偷自拍| 人人超碰99| 99热久久这里只有精品| 日韩五月婷婷| 激情五月狠狠| 久99| 丁香五月婷婷综合精品素人| 久久A极片| 人人操插| 综合婷婷五月丁香在线观看| 色5月婷婷色| www久久五月com| 激情深爱五月天| 99色| 日韩久久日| 99色啊| 在线视频激情网站| 亚洲欧洲另类| 婷婷六月激情| 丁香五月激情性色郤| 2025天天日爽| 99精品在线观看| 久久婷婷六月综合国际| 激情图片婷婷丁香五月| 97碰碰在线观看视频| 久久久久久久久久91| 色婷婷视频| 97色色色| 成人综合网站| 婷婷六月久久| 国产五月婷| 678五月丁香亚洲综合| 五月丁香天堂网婷婷| 色婷婷色五月天| 亚洲久久激情| 夜夜AVV| 九九色视频| 天天做天天爱天天爽| 狠狠人妻色综合| 婷婷香五月综合激情| 日日夜夜久| 丁香九月婷婷| 欧美噜噜噜草| 丁香六月情| 国产亚洲色婷婷久久99精品91| 9999热在线| 五月天婷婷五月| 婷婷色婷婷| 五月丁香婷婷色| 婷婷伊人中文字幕| 99热性色| 六月丁香好婷婷| 婷婷色色网站| 天天干夜夜欢| 翔田千里 50岁 无码| 五月丁香婷婷基地| 超碰亚洲天堂| 色婷五月天| 青青日韩| 色五月 五月婷婷| www.yw色| 久久久8| 激情av在线|