免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

WatchDog自動(dòng)續(xù)期原理詳解:從定時(shí)任務(wù)到ACME協(xié)議全鏈路

WatchDog自動(dòng)續(xù)期原理詳解:從定時(shí)任務(wù)到ACME協(xié)議全鏈路 面試碰到“WatchDog自動(dòng)續(xù)期原理”這個(gè)問(wèn)題十個(gè)人里有八個(gè)會(huì)回答開(kāi)個(gè)定時(shí)任務(wù)快到期了重新申請(qǐng)證書(shū)。這句話對(duì)了一半但恰恰是面試官最想追問(wèn)的地方。如果只停留在“定時(shí)重簽”這個(gè)層面接下來(lái)的連環(huán)問(wèn)基本接不住怎么判斷快到期了續(xù)期和首次申請(qǐng)?jiān)趨f(xié)議層面有什么區(qū)別多臺(tái)機(jī)器會(huì)不會(huì)重復(fù)續(xù)續(xù)失敗之后怎么辦替換證書(shū)的過(guò)程中服務(wù)會(huì)不會(huì)中斷這篇文章就是把這些點(diǎn)全部拆開(kāi)講清楚既面向面試也面向?qū)嶋H部署場(chǎng)景。我自己維護(hù)過(guò)幾個(gè)生產(chǎn)環(huán)境的證書(shū)體系從最早的每月手動(dòng)換證書(shū)到后來(lái)用系統(tǒng)定時(shí)任務(wù)再到現(xiàn)在帶完整狀態(tài)管理、鎖、重試和告警的看門(mén)狗機(jī)制踩過(guò)的坑不算少。WatchDog這個(gè)名詞聽(tīng)起來(lái)高級(jí)本質(zhì)就是一個(gè)持續(xù)運(yùn)行的自動(dòng)續(xù)期閉環(huán)核心價(jià)值是把“證書(shū)過(guò)期”這種隱蔽故障消滅在發(fā)生之前。下面按原理、協(xié)議、實(shí)現(xiàn)、排障四個(gè)維度展開(kāi)篇幅會(huì)有點(diǎn)長(zhǎng)但每段都能直接對(duì)應(yīng)到面試答案和工程落地。1. 先理解WatchDog在這個(gè)場(chǎng)景里到底扮演什么角色1.1 證書(shū)過(guò)期為什么是嚴(yán)重的生產(chǎn)事故很多人覺(jué)得證書(shū)過(guò)期不就是瀏覽器報(bào)個(gè)警告嗎實(shí)際上遠(yuǎn)不止如此。現(xiàn)代互聯(lián)網(wǎng)的HTTPS體系里證書(shū)是信任鏈的基石一旦過(guò)期瀏覽器和客戶端會(huì)直接拒絕建立安全連接。用戶看到的是“您的連接不是私密連接”底層是TLS握手直接中斷。對(duì)線上業(yè)務(wù)來(lái)說(shuō)這等于全站瞬間不可用而且問(wèn)題往往發(fā)生在凌晨或者節(jié)假日因?yàn)樽C書(shū)大多是按天計(jì)算的過(guò)期那一刻不挑時(shí)間。為什么會(huì)有人手動(dòng)續(xù)期的傳統(tǒng)習(xí)慣因?yàn)樵缙谧C書(shū)有效期很長(zhǎng)一年甚至數(shù)年人工管理還能接受。但現(xiàn)在主流CA簽發(fā)的證書(shū)越來(lái)越短比如Lets Encrypt的證書(shū)只有90天有效期短生命周期是故意設(shè)計(jì)的——配合自動(dòng)化續(xù)期機(jī)制把安全和運(yùn)維壓力同時(shí)壓到工具鏈上最大限度縮小證書(shū)被濫用或被拖到過(guò)期的窗口期。這個(gè)背景下靠人來(lái)盯已經(jīng)完全不現(xiàn)實(shí)必須交給程序自動(dòng)完成WatchDog就是這個(gè)“盯梢執(zhí)行”的角色。1.2 WatchDog的核心職責(zé)不只是“續(xù)期”如果讓你寫(xiě)一個(gè)自己的看門(mén)狗最容易犯的錯(cuò)誤是把邏輯全塞進(jìn)一個(gè)“到期就重新申請(qǐng)”的函數(shù)里。真實(shí)的WatchDog職責(zé)要寬得多至少要拆成五塊第一清單管理。它得知道當(dāng)前機(jī)器上有哪些證書(shū)、屬于哪些域名、各自的證書(shū)目錄在哪里。這是所有邏輯的前提很多工具直接掃描固定目錄比如certbot統(tǒng)一放在/etc/letsencrypt/live下acme.sh放在~/.acme.sh下你設(shè)計(jì)自己的組件也要有明確的證書(shū)發(fā)現(xiàn)機(jī)制。第二到期探測(cè)。讀取證書(shū)的有效期計(jì)算剩余天數(shù)。這個(gè)動(dòng)作看起來(lái)簡(jiǎn)單實(shí)際涉及時(shí)間標(biāo)準(zhǔn)問(wèn)題證書(shū)里的NotAfter字段是UTC時(shí)間機(jī)器本地時(shí)區(qū)可能是東八區(qū)直接用本地時(shí)間做減法會(huì)算出邊界誤差必須統(tǒng)一換算成UTC再比較。第三續(xù)期決策。剩余天數(shù)低于閾值才觸發(fā)續(xù)期高于閾值就跳過(guò)。這個(gè)閾值設(shè)計(jì)很關(guān)鍵后面單獨(dú)講。第四協(xié)議交互。調(diào)用ACME接口完成身份驗(yàn)證和證書(shū)簽發(fā)這是整個(gè)鏈路里最重的一步。第五部署與恢復(fù)。新證書(shū)拿到后要替換舊文件、重載Web服務(wù)如果中途失敗還要考慮回滾或者保留舊證書(shū)繼續(xù)服務(wù)。把這五塊放在腦子里再看面試官問(wèn)的“原理”你就能給出有層次的回答而不是一句話帶過(guò)。2. 自動(dòng)續(xù)期的整體工作循環(huán)與狀態(tài)機(jī)設(shè)計(jì)2.1 一次完整循環(huán)要經(jīng)過(guò)哪幾個(gè)階段把WatchDog看成一個(gè)循環(huán)執(zhí)行的狀態(tài)機(jī)比看成一堆if語(yǔ)句清楚得多。單次循環(huán)固定走四個(gè)階段每個(gè)階段的產(chǎn)出都是下一個(gè)階段的輸入第一階段是掃描。遍歷所有待管理證書(shū)逐一讀取有效期信息。這個(gè)階段不該有任何副作用只做只讀操作哪怕中途崩潰也不影響現(xiàn)有服務(wù)。第二階段是判定。把剩余有效天數(shù)和閾值比較篩選出需要續(xù)期的證書(shū)。這里要注意區(qū)分“已經(jīng)續(xù)過(guò)”和“需要續(xù)簽”否則會(huì)出現(xiàn)同一個(gè)證書(shū)被反復(fù)處理的情況。第三階段是續(xù)期。對(duì)篩選出來(lái)的證書(shū)依次發(fā)起ACME申請(qǐng)。這個(gè)階段必須加鎖和記錄狀態(tài)因?yàn)榫W(wǎng)絡(luò)請(qǐng)求可能很慢一次循環(huán)里多個(gè)證書(shū)同時(shí)要續(xù)處理順序和并發(fā)控制都要設(shè)計(jì)好。第四階段是部署。新證書(shū)簽發(fā)成功后寫(xiě)入目標(biāo)路徑然后觸發(fā)部署鉤子比如reload nginx、重啟網(wǎng)關(guān)、更新CDN配置等。這個(gè)狀態(tài)機(jī)的關(guān)鍵在于每個(gè)階段失敗之后怎么走。掃描失敗應(yīng)該跳過(guò)該證書(shū)繼續(xù)下一個(gè)判定失敗只影響當(dāng)次循環(huán)續(xù)期失敗要進(jìn)入退避重試隊(duì)列部署失敗則要回滾到舊證書(shū)并告警。把失敗路徑全部畫(huà)清楚WatchDog才算真正“看住門(mén)”。2.2 輪詢調(diào)度方式對(duì)比常駐進(jìn)程與定時(shí)任務(wù)面試官大概率會(huì)追問(wèn)一句你怎么保證WatchDog持續(xù)運(yùn)行這個(gè)問(wèn)題的標(biāo)準(zhǔn)答案是三種方案的對(duì)比。第一種是常駐后臺(tái)進(jìn)程自己寫(xiě)一個(gè)while循環(huán)每隔一段時(shí)間執(zhí)行一輪掃描。優(yōu)點(diǎn)是狀態(tài)可以保存在內(nèi)存里控制精細(xì)能實(shí)現(xiàn)復(fù)雜的退避策略缺點(diǎn)是進(jìn)程一旦掛掉就沒(méi)人管了需要額外的守護(hù)機(jī)制比如systemd的Restartalways。第二種是系統(tǒng)定時(shí)任務(wù)cron或者systemd timer定期觸發(fā)一次腳本。這也是certbot和acme.sh默認(rèn)推薦的方式cron每天跑一次renew命令。優(yōu)點(diǎn)是簡(jiǎn)單、崩潰后下一次觸發(fā)自動(dòng)恢復(fù)、日志被系統(tǒng)統(tǒng)一管理缺點(diǎn)是無(wú)法做到“事件驅(qū)動(dòng)”的即時(shí)響應(yīng)但證書(shū)續(xù)期本身就允許天級(jí)別的延遲完全夠用。第三種是事件驅(qū)動(dòng)由證書(shū)文件變化或者外部通知觸發(fā)續(xù)期比如監(jiān)聽(tīng)CA的到期提醒郵件或者webhook。實(shí)際工程里用得少因?yàn)閺?fù)雜性高收益有限。我自己的經(jīng)驗(yàn)是如果目標(biāo)是“白天看起來(lái)不停運(yùn)作”常駐進(jìn)程合適如果目標(biāo)是“穩(wěn)”定時(shí)任務(wù)更穩(wěn)。很多團(tuán)隊(duì)內(nèi)部所謂WatchDog本質(zhì)就是一個(gè)打包成systemd service的循環(huán)腳本外層依賴systemd保證進(jìn)程存活內(nèi)層用鎖和數(shù)據(jù)目錄保存續(xù)期結(jié)果。2.3 閾值與提前量為什么提前30天而不是最后1天這是整個(gè)設(shè)計(jì)里最容易被低估的環(huán)節(jié)。證書(shū)有效期90天為什么大家都選在還剩30天左右去續(xù)期原因有四層。第一留足重試窗口。ACME申請(qǐng)涉及網(wǎng)絡(luò)請(qǐng)求、域名驗(yàn)證、CA簽發(fā)任何一個(gè)環(huán)節(jié)都可能失敗失敗后還需要等待和重試。如果拖到最后三天才開(kāi)始續(xù)一次失敗就可能導(dǎo)致請(qǐng)求被限流后面再想補(bǔ)救時(shí)間都不夠。第二避開(kāi)節(jié)假日和深夜。提前30天意味著即使中間連續(xù)失敗兩周你仍然有半個(gè)月的緩沖去人工介入。生產(chǎn)事故里“證書(shū)過(guò)期于凌晨三點(diǎn)”的經(jīng)典劇情就是因?yàn)闆](méi)有留提前量。第三符合主流工具的行為。certbot默認(rèn)續(xù)期閾值就是30天acme.sh默認(rèn)也有類(lèi)似設(shè)置使用成熟默認(rèn)值能減少踩坑。你可以在配置文件里改但不要改太小。第四分?jǐn)偡逯?。如果所有證書(shū)都在到期前最后一天集中續(xù)CA那邊會(huì)出現(xiàn)瞬時(shí)請(qǐng)求高峰被限流概率大增。閾值提前之后續(xù)期時(shí)間自然分散開(kāi)網(wǎng)絡(luò)資源也更平滑。還有一個(gè)面試加分項(xiàng)設(shè)計(jì)閾值時(shí)建議加一個(gè)隨機(jī)抖動(dòng)。機(jī)器上幾十個(gè)證書(shū)如果同一天創(chuàng)建就會(huì)同一天進(jìn)入可續(xù)期窗口隨機(jī)抖動(dòng)可以把請(qǐng)求均勻分散。這不難實(shí)現(xiàn)在判定邏輯里對(duì)每個(gè)證書(shū)生成一個(gè)0到24小時(shí)的隨機(jī)偏移量。2.4 冪等性與鎖多進(jìn)程并發(fā)續(xù)期怎么防這個(gè)問(wèn)題面試官非常愛(ài)問(wèn)因?yàn)閷?shí)際線上一定會(huì)碰到。WatchDog跑起來(lái)之后定時(shí)觸發(fā)、手動(dòng)補(bǔ)跑、同時(shí)部署多臺(tái)機(jī)器多個(gè)進(jìn)程可能同時(shí)對(duì)同一個(gè)域名發(fā)起續(xù)期。ACME協(xié)議本身不禁止重復(fù)訂單但CA有限流機(jī)制大量重復(fù)請(qǐng)求會(huì)導(dǎo)致賬號(hào)被臨時(shí)封禁影響后續(xù)所有證書(shū)的簽發(fā)。解決思路分兩個(gè)層面。單機(jī)層面用文件鎖。續(xù)期腳本啟動(dòng)時(shí)嘗試獲取一個(gè)獨(dú)占鎖拿不到就直接退出。比如用flock命令鎖一個(gè)固定路徑的鎖文件Shell腳本里很常見(jiàn)exec 9/var/run/cert-watchdog.lock flock -n 9 || exit 0Python里可以用fcntl實(shí)現(xiàn)同樣的效果。鎖的意義不是讓代碼變復(fù)雜而是保證同一時(shí)刻只有一個(gè)續(xù)期任務(wù)在處理證書(shū)目錄避免同時(shí)寫(xiě)同一個(gè)私鑰文件。多機(jī)層面用分布式鎖或者數(shù)據(jù)庫(kù)記錄。多臺(tái)機(jī)器如果共享證書(shū)更推薦的做法是讓其中一臺(tái)負(fù)責(zé)續(xù)期其他機(jī)器只拉取同步而不是各自都跑WatchDog。如果必須各自續(xù)期就在共享存儲(chǔ)里寫(xiě)一個(gè)“上次續(xù)期時(shí)間”的標(biāo)記續(xù)期前先讀和寫(xiě)加上過(guò)期時(shí)間防止死鎖。另一個(gè)冪等的關(guān)鍵點(diǎn)是狀態(tài)記錄。每次成功續(xù)期后把證書(shū)序列號(hào)、續(xù)期時(shí)間、到期時(shí)間寫(xiě)進(jìn)一個(gè)狀態(tài)文件下次掃描時(shí)先查狀態(tài)再?zèng)Q定要不要走ACME流程。這樣即使腳本被異常重復(fù)觸發(fā)也不會(huì)對(duì)同一個(gè)證書(shū)發(fā)起無(wú)意義的續(xù)期請(qǐng)求。3. 續(xù)期背后的ACME協(xié)議細(xì)節(jié)3.1 從首次申請(qǐng)到續(xù)期協(xié)議層發(fā)生了什么ACME全稱是Automatic Certificate Management Environment目前主流是ACME v2對(duì)應(yīng)RFC 8555。看過(guò)門(mén)狗調(diào)用了什么其實(shí)就是在HTTP層面與CA的服務(wù)端做一組有順序的API交互。一次完整簽發(fā)流程大概是先用賬號(hào)密鑰對(duì)向CA發(fā)起新訂單請(qǐng)求請(qǐng)求里帶上你想簽的域名列表CA返回該訂單關(guān)聯(lián)的授權(quán)項(xiàng)每個(gè)域名都有獨(dú)立的授權(quán)然后你選擇一個(gè)驗(yàn)證方式讓CA驗(yàn)證你對(duì)域名的控制權(quán)驗(yàn)證通過(guò)后訂單狀態(tài)變成可簽發(fā)你提交CSRCA簽發(fā)證書(shū)并返回證書(shū)內(nèi)容最后下載證書(shū)鏈。這里有個(gè)關(guān)鍵點(diǎn)在ACME協(xié)議層面續(xù)期和首次申請(qǐng)幾乎完全一樣。它不是“把舊證書(shū)延長(zhǎng)有效期”那么簡(jiǎn)單而是重新走一遍新訂單、驗(yàn)證、簽發(fā)的完整流程。舊證書(shū)的作用僅僅是讓CA知道你曾經(jīng)擁有過(guò)它以及你正在管理相同域名。所以WatchDog的核心工作其實(shí)是把首次申請(qǐng)時(shí)的完整鏈路自動(dòng)化重復(fù)執(zhí)行再疊加部署環(huán)節(jié)。這也回答了很多人的疑問(wèn)“為什么續(xù)期不能靜默完成”因?yàn)镃A必須每次重新確認(rèn)你對(duì)域名的控制權(quán)這是安全模型的核心。就算一個(gè)域名被申請(qǐng)過(guò)一百次第一百零一次依然要驗(yàn)證。驗(yàn)證通過(guò)后你拿到的是一張全新的、帶新有效期和新序列號(hào)的證書(shū)。3.2 HTTP-01、DNS-01、TLS-ALPN-01三種驗(yàn)證的選型邏輯面試?yán)锝?jīng)常讓人比較驗(yàn)證方式這里我按工程實(shí)用度講。HTTP-01驗(yàn)證的原理是CA服務(wù)器以普通HTTP請(qǐng)求訪問(wèn)你的域名下的特定路徑也就是http://你的域名/.well-known/acme-challenge/令牌期望響應(yīng)內(nèi)容是“令牌 賬號(hào)密鑰指紋”的拼接結(jié)果。能用這個(gè)方式的前提是你有對(duì)80端口的控制權(quán)并且能臨時(shí)寫(xiě)入Web根目錄或者臨時(shí)起一個(gè)監(jiān)聽(tīng)80端口的進(jìn)程。它的優(yōu)點(diǎn)是配置簡(jiǎn)單適用于普通網(wǎng)站缺點(diǎn)是禁止用于通配符證書(shū)因?yàn)镠TTP-01只能驗(yàn)證單個(gè)具體的域名而且要求80端口從外網(wǎng)可達(dá)。DNS-01驗(yàn)證的原理是CA去查詢你的域名DNS記錄要求_acme-challenge子域的TXT記錄內(nèi)容與預(yù)期值一致。這個(gè)方式的優(yōu)點(diǎn)是能簽發(fā)通配符證書(shū)也適合純網(wǎng)關(guān)、內(nèi)網(wǎng)服務(wù)這些沒(méi)有公網(wǎng)80/443端口的場(chǎng)景缺點(diǎn)是你必須能通過(guò)DNS服務(wù)商的API自動(dòng)創(chuàng)建、刪除TXT記錄這比改網(wǎng)站目錄麻煩但各大服務(wù)商都有配套客戶端支持。TLS-ALPN-01是通過(guò)TLS握手中的ALPN擴(kuò)展來(lái)驗(yàn)證要求443端口可達(dá)并且支持指定協(xié)議標(biāo)識(shí)實(shí)際用的人最少一般用在不想碰80端口的場(chǎng)景。選型邏輯一句話總結(jié)有80端口寫(xiě)權(quán)限就優(yōu)先HTTP-01要通配符和自動(dòng)解析能力就DNS-01特殊網(wǎng)絡(luò)環(huán)境下才考慮TLS-ALPN-01。作為看門(mén)狗設(shè)計(jì)者這幾條最好都支持讓用戶按域名場(chǎng)景配置策略。3.3 私鑰復(fù)用還是輪換一個(gè)容易被忽略的設(shè)計(jì)證書(shū)是公鑰基礎(chǔ)設(shè)施的一部分私鑰安全性直接決定證書(shū)信任。續(xù)期時(shí)提交的CSR里包含公鑰對(duì)應(yīng)私鑰可以復(fù)用舊的那把也可以重新生成。復(fù)用私鑰的好處是證書(shū)文件更新時(shí)私鑰不變下游對(duì)接方如果緩存了公鑰指紋不受任何影響部署過(guò)程更平滑壞處是如果私鑰已經(jīng)泄露或懷疑泄露復(fù)用等于延續(xù)風(fēng)險(xiǎn)。輪換私鑰的好處是定期刷新密鑰材料符合安全最佳實(shí)踐壞處是某些場(chǎng)景下客戶端或內(nèi)部系統(tǒng)需要同步更新信任信息比如一些mTLS場(chǎng)景。主流工具的默認(rèn)行為已經(jīng)幫你做了取舍。certbot默認(rèn)在續(xù)期時(shí)繼續(xù)使用原私鑰除非你顯式傳--force-new-keyacme.sh的策略也類(lèi)似。作為WatchDog我建議默認(rèn)復(fù)用私鑰把“強(qiáng)制輪換”作為可選項(xiàng)暴露出來(lái)畢竟大多數(shù)場(chǎng)景里平滑優(yōu)先。真正的安全底線是私鑰文件權(quán)限續(xù)期后應(yīng)該保持600或640權(quán)限owner是運(yùn)行服務(wù)的專(zhuān)用賬號(hào)而不是隨手0777這個(gè)細(xì)節(jié)反而比“是否換鑰匙”更值得寫(xiě)進(jìn)檢查清單。3.4 證書(shū)替換與部署鉤子的執(zhí)行順序拿到新證書(shū)只是第一步讓它生效才是終點(diǎn)。證書(shū)和私鑰寫(xiě)進(jìn)標(biāo)準(zhǔn)路徑后Web服務(wù)器不會(huì)自動(dòng)感知文件變化必須主動(dòng)觸發(fā)重載。以nginx為例需要nginx -s reload或者systemctl reload nginx。這個(gè)環(huán)節(jié)最常見(jiàn)的坑是證書(shū)文件寫(xiě)入了但私鑰沒(méi)有同步寫(xiě)入或者舊證書(shū)還在被某個(gè)進(jìn)程占用。更安全的流程是先把新證書(shū)和私鑰全部寫(xiě)入臨時(shí)路徑校驗(yàn)通過(guò)后批量替換再觸發(fā)重載最后校驗(yàn)重載是否成功。順序不能亂反過(guò)來(lái)的話舊服務(wù)可能讀到半新半舊的文件組合導(dǎo)致TLS握手失敗。部署鉤子還得分兩層理解。一層是通用鉤子比如reload nginx、重啟網(wǎng)關(guān)幾乎所有證書(shū)都要執(zhí)行另一層是業(yè)務(wù)鉤子比如某個(gè)服務(wù)把證書(shū)指紋上報(bào)到內(nèi)部系統(tǒng)或者需要同步到CDN。通用鉤子建議走默認(rèn)流程業(yè)務(wù)鉤子用可擴(kuò)展腳本目錄配置這樣新增一個(gè)業(yè)務(wù)接入點(diǎn)不需要改主程序。還有一個(gè)細(xì)節(jié)上傳到CDN或者網(wǎng)關(guān)設(shè)備的證書(shū)通常需要在續(xù)期后主動(dòng)推送這類(lèi)操作有網(wǎng)絡(luò)延遲WatchDog應(yīng)該在推送接口返回成功后清掉待同步標(biāo)記而不是每次循環(huán)都重復(fù)推送。4. 實(shí)操演練寫(xiě)一個(gè)最小可用的WatchDog續(xù)期器這一節(jié)我們把原理落到代碼上做一個(gè)精簡(jiǎn)版本目標(biāo)是不依賴大型框架也能理解全流程。假設(shè)環(huán)境是Linux證書(shū)由acme.sh或者certbot已經(jīng)簽好我們的WatchDog只做“探測(cè)、判定、調(diào)用續(xù)期、部署”四件事。4.1 第一步讀取證書(shū)有效期并計(jì)算剩余天數(shù)讀取有效期最直接的方式是用OpenSSL命令適合Shell腳本如果寫(xiě)Python用cryptography庫(kù)更順手。核心邏輯是解析證書(shū)的notAfter字段轉(zhuǎn)換為UTC時(shí)間再和當(dāng)前UTC時(shí)間做差。Shell方式expires$(openssl x509 -enddate -noout -in /etc/letsencrypt/live/example.com/fullchain.pem | cut -d -f2) expires_epoch$(date -d $expires %s) now_epoch$(date %s) remaining_days$(( (expires_epoch - now_epoch) / 86400 ))Python方式from datetime import datetime, timedelta, timezone from cryptography import x509 with open(/etc/letsencrypt/live/example.com/cert.pem, rb) as f: cert x509.load_pem_x509_certificate(f.read()) expiry cert.not_valid_after_utc remaining (expiry - datetime.now(timezone.utc)).total_seconds() / 86400 print(fremaining days: {remaining:.1f}) if remaining 30: print(need renewal)這段邏輯注意兩點(diǎn)第一時(shí)間必須統(tǒng)一UTC直接取本地時(shí)間做減法在跨時(shí)區(qū)環(huán)境下會(huì)出現(xiàn)一天誤差第二fullchain.pem和cert.pem的開(kāi)頭結(jié)尾時(shí)間一致讀哪個(gè)都行但生產(chǎn)上建議讀fullchain因?yàn)樗攀欠?wù)端實(shí)際使用的文件。4.2 第二步鎖、閾值與續(xù)期調(diào)用掃描之前先拿鎖防止多個(gè)定時(shí)任務(wù)并發(fā)進(jìn)入續(xù)期邏輯。閾值設(shè)為30天再加上隨機(jī)抖動(dòng)。續(xù)期的具體動(dòng)作不建議自己實(shí)現(xiàn)ACME協(xié)議除非你是做二次開(kāi)發(fā)否則直接調(diào)用成熟客戶端比如certbot renew或者acme.sh --renew讓專(zhuān)業(yè)工具處理協(xié)議細(xì)節(jié)WatchDog專(zhuān)注調(diào)度。偽代碼邏輯def should_renew(domain, threshold_days): remaining get_remaining_days(domain) jitter get_jitter(domain) # 0~24小時(shí)轉(zhuǎn)成天0~1 return remaining threshold_days jitter def run_once(): acquired try_lock(/var/run/cert-watchdog.lock) if not acquired: log(another instance running, skip) return for cert in scan_certificates(): if should_renew(cert.domain, 30): result renew_certificate(cert.domain) if result.success: deploy_certificate(cert.domain) record_state(cert.domain, result.serial) else: schedule_retry(cert.domain, backoff_seconds) release_lock()這里最核心的是“renew_certificate”內(nèi)部要處理失敗重試。重試策略我建議指數(shù)退避加最大次數(shù)上限比如第一次失敗等5分鐘第二次等15分鐘第三次等30分鐘超過(guò)一定次數(shù)就進(jìn)入半死狀態(tài)持續(xù)告警不退出等人工介入。不要讓看門(mén)狗在失敗時(shí)原地瘋狂重試那樣除了觸發(fā)CA限流沒(méi)有任何意義。4.3 第三步部署鉤子與回滾續(xù)期成功之后執(zhí)行部署腳本。最簡(jiǎn)單的做法是維護(hù)一個(gè)deploy目錄每個(gè)腳本接收證書(shū)路徑參數(shù)。執(zhí)行順序按文件名排序失敗則記錄并發(fā)送通知但不回滾已經(jīng)成功執(zhí)行的步驟?;貪L是個(gè)值得展開(kāi)的點(diǎn)。證書(shū)部署的回滾和普通發(fā)版不一樣舊證書(shū)文件大概率還在只要在替換前備份一下就能在重載失敗時(shí)快速恢復(fù)。我的習(xí)慣是每次續(xù)期前把當(dāng)前fullchain.pem和privkey.pem復(fù)制到一個(gè)帶時(shí)間戳的backup目錄保留最近幾份部署腳本執(zhí)行系統(tǒng)reload返回非零時(shí)把備份文件恢復(fù)回去再reload一次然后告警說(shuō)明“自動(dòng)回滾成功請(qǐng)檢查原因”。這個(gè)機(jī)制能擋住相當(dāng)一部分因配置錯(cuò)誤導(dǎo)致的線上事故。5. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄5.1 典型故障速查表一段表格把我在生產(chǎn)環(huán)境遇到過(guò)的高頻問(wèn)題整理出來(lái)面試和實(shí)戰(zhàn)都用得上?,F(xiàn)象常見(jiàn)原因排查方向續(xù)期日志里報(bào)驗(yàn)證超時(shí)80端口或DNS記錄不可達(dá)、防火墻攔截telnet測(cè)試端口、dig查詢TXT記錄證書(shū)文件沒(méi)變化但日志顯示成功續(xù)期寫(xiě)入了其他路徑、Nginx讀的是軟鏈路徑檢查證書(shū)路徑與Nginx配置是否一致連續(xù)多次403/429請(qǐng)求頻率觸發(fā)CA限流查看CA賬號(hào)狀態(tài)、減少重試頻率、檢查鎖是否生效reload nginx后還是舊證書(shū)reload失敗或nginx worker未平滑重啟檢查reload日志、執(zhí)行nginx -tDNS-01驗(yàn)證一直pendingTTL緩存未過(guò)期、TXT記錄寫(xiě)入失敗手動(dòng)dig驗(yàn)證、檢查DNS API日志看門(mén)狗進(jìn)程在但沒(méi)執(zhí)行鎖文件殘留導(dǎo)致每次啟動(dòng)就退出檢查鎖PID是否存活、清理陳舊鎖5.2 排查命令與判斷思路排查證書(shū)類(lèi)問(wèn)題我建議每個(gè)運(yùn)維都刻在腦子里一套固定命令序列。第一步用openssl看證書(shū)有效期和基本信息openssl x509 -enddate -noout -in /etc/letsencrypt/live/example.com/fullchain.pem openssl x509 -serial -subject -issuer -noout -in /etc/letsencrypt/live/example.com/fullchain.pem第二步看實(shí)際服務(wù)端加載的證書(shū)是不是目標(biāo)證書(shū)。方法很多最可靠的直接看進(jìn)程加載路徑或用openssl s_client連接本機(jī)端口抓證書(shū)指紋。curl也可以輸出里能看到證書(shū)序列號(hào)。兩種方法的結(jié)果互相印證能定位“文件換了但服務(wù)沒(méi)加載”的問(wèn)題。第三步看續(xù)期工具自身狀態(tài)。certbot有certificates子命令acme.sh有--list輸出里直接包含每個(gè)證書(shū)的到期時(shí)間、續(xù)期狀態(tài)。這一步省去重復(fù)掃描也是排查“為什么沒(méi)觸發(fā)續(xù)期”的最佳入口。5.3 我踩過(guò)的幾個(gè)坑提前幫你們排掉第一個(gè)坑只監(jiān)控證書(shū)是否過(guò)期不監(jiān)控續(xù)期任務(wù)本身。證書(shū)過(guò)期的確是因?yàn)椤皼](méi)續(xù)上”但更關(guān)鍵的指標(biāo)是“下次續(xù)期時(shí)間是否在正常推進(jìn)”。正確的監(jiān)控姿勢(shì)是每天檢查剩余有效期一旦剩余天數(shù)低于安全閾值但沒(méi)有續(xù)期動(dòng)作立刻告警而不是等到快過(guò)期了才開(kāi)始看。第二個(gè)坑忽略了CA的限流余量。上次遇到過(guò)DNS-01連續(xù)失敗重試腳本沒(méi)控制頻率一小時(shí)請(qǐng)求了幾百次賬號(hào)被限流導(dǎo)致前后一個(gè)多小時(shí)其他正常域名也簽不了證書(shū)。從那之后我強(qiáng)制在WatchDog里加入全局請(qǐng)求速率限制并且失敗后必須退避這個(gè)比單個(gè)域名的重試策略更重要。第三個(gè)坑證書(shū)目錄權(quán)限太松。曾經(jīng)為了讓Nginx工作進(jìn)程能讀到私鑰把live目錄權(quán)限放開(kāi)到755私鑰權(quán)限644后來(lái)排查安全問(wèn)題時(shí)嚇出一身冷汗。私鑰文件必須600目錄750owner對(duì)應(yīng)運(yùn)行賬號(hào)檢查CI腳本里有一條專(zhuān)門(mén)校驗(yàn)這條不滿足直接失敗。第四個(gè)坑多臺(tái)機(jī)器共用一個(gè)證書(shū)存儲(chǔ)目錄時(shí)沒(méi)有鎖。兩臺(tái)機(jī)器同時(shí)續(xù)期同一個(gè)域名各自生成不同的私鑰后寫(xiě)的那臺(tái)把先寫(xiě)的那臺(tái)覆蓋掉結(jié)果一半服務(wù)用舊證書(shū)一半用新證書(shū)排查了很久才發(fā)現(xiàn)。解決方案就是前面說(shuō)的要么只讓一臺(tái)機(jī)器負(fù)責(zé)續(xù)期要么引入分布式鎖兩者必選其一。這里也提醒一點(diǎn)如果你的部署環(huán)境依賴acme.sh它的cron條目默認(rèn)就是每天執(zhí)行一次renew動(dòng)作這已經(jīng)是一個(gè)很好的自動(dòng)續(xù)期底座。你真正需要做的是圍繞cron把日志、告警、鎖、部署鉤子補(bǔ)齊把“會(huì)續(xù)期”升級(jí)為“可靠地續(xù)期”。我個(gè)人在實(shí)際維護(hù)中最深的一條體會(huì)是WatchDog這類(lèi)組件價(jià)值不在于它的代碼多復(fù)雜而在于你把它當(dāng)作一個(gè)需要長(zhǎng)期值守的小系統(tǒng)來(lái)對(duì)待——有狀態(tài)、有失敗路徑、有可觀測(cè)性。只要把“探活、判定、續(xù)期、部署、重試、回滾”這條鏈路打磨順了證書(shū)過(guò)期這個(gè)問(wèn)題基本就能從你手上徹底消失。后面如果再遇到面試官追問(wèn)細(xì)節(jié)你按這條鏈路一層層講下來(lái)再加上一兩個(gè)真實(shí)踩坑案例比背概念要扎實(shí)得多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色综啪啪网| 9在线9在线婷婷在线国产| 亚洲亚洲激情| 丁香五月六月综合激情| 老师的粉嫩小又紧水又多A片视频| 日本成人小说婷婷六月| 丁香色五月婷婷17C| 色色色五月天婷婷| 99热这里只有精品5| 丁香六月成人网| 日本色99| 99精品小视频| 思思99热这里只有精品6| www.com亚洲网站在线免费| 亚洲精品无码一区二区| 激情五月婷婷丁香| 日本啪啪网| 丁香花五月天| 激情宗合哪里能看| 丁香五月婷婷六月婷婷| 在线观看的av| 婷婷va| 色五月婷婷网| 99色婷婷视频| 亚洲第一第二网站| Av大香蕉| 一起草av| 五月丁香色| www.深爱激情| www.亭亭五月天| 久久国产精品乱子伦_靑青草…| 日本色天堂| 日本在线观看aaa 99| 99热色精品| 欧美Va婷色| 婷婷丁香人妻天天| 天天操电影院色狼性av| 99热无码| 色五月婷婷色五月婷婷色五月婷婷| 综合激情五月丁香| 色综合网综合| 99日这里只有精品| 欧美婷婷五月天| 亚洲五月天婷婷综合| aaaaaa片| 99久久99热这里只有精品| 九月婷婷综合| 婷婷五月丁香六月伊人网| 综合久| 538任你爽视频不一样的| 国产精品A片在线| 亚洲视频综合网| 69精品人人人人| 99在线观看| 五月综合久久| 欧美日本免费一道免费视频 | 色五月av| 精品亚洲国产成AV人片传媒| 丁香五月天堂婷婷| xxxx五月天色色| 亚洲啪啪自拍| av久热| 东京热免费视频网站| 影音先锋AV资源男人站| 182TV大香蕉| 色天堂操| 婷婷五月深情丁香深爱日韩| 1995年关宝慧版蜘蛛女| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 思思久久96热在精品国产,| 99r久久这里只有精品| 天天AV导航网| 99视频这里只有精品10| 91chinese在线| 日本99热| 天久综合91综合首页| 伦99热| www.狠狠干com| 天天干夜夜想| 色婷婷五月天在线观看| 超碰色碰碰| AⅤ在线播放网| 激情综合婷婷久久| 五月丁香激情综合啪| 色婷丨日丨天丨综合久久| 99r这里| 色屌丝中文字幕| 9月色婷婷| 色色色国产| 天天狠天天叉| 久久丁香婷| 色玖玖网| 狠狠操天天操| 99热综合在线| 日本A片一区| 在线视频激情网站| 亚洲色情激情丁香五月| 超碰免费99| 成人综合网站| 久久婷婷啪啪视频| 老司机日日夜夜青草| 日本精品99| 这里只有精品在线播放| 色婷婷五月色| ZpRSw| 精品久久久999| 久久五月丁香综合17C| 天天爽天天干| 午夜成人av在线| 久久玖玖综合| 亚洲欧州色情在线观看| 熟妇无码乱子成人精品| 亚洲中文字幕AV| 欧美婷| 色丁香五月| 乱精品一区字幕二区| 影音先锋男人资源站一区二区| 五月丁香 六月婷婷a| 日日操天天| AV性爱网| 99亚洲精品视频在线观看| 激情五月com| 欧美精产国品一二三区| 婷婷九色| 五月婷婷天天| 国产性爱色| 婷婷五月开心中文字幕色| 99九九玖玖| 久久人人添人人爽添人人片αV| 人妻爽爽爽久久久久久久久| 婷婷久久五月天| 日日狠狠久久偷偷四色综合免费| 人妻熟女一区二区AV| 一本色道久久88加勒比—| 国产va在线视频| 99久在线精品99re8热| 亚洲蜜乳AV| 日本成人小说婷婷六月| 九九色婷| 激情六月婷| 91一起操| 99热这里有精品6| 久久9精品| 五月丁香久久色| 99re这里只有精品在线观看| 精品AV无码超碰| 色丁香久综合在线久综合在线观看| 日韩成人精品中文字幕| 九九热这里只有精品556| 操操操Av| 日本久久婷婷| 国产67194| 五月天丁香综合| 婷婷五月天综合AV| 久久久久婷婷| 免费看欧美成人A片无码| aaaaaa片| 啪啪日热| 五月花在线观看视频| 精品综合网在线| 五月天黄色激情小说| 国产一区二区三区影院| 欧美色五月天| 99热主页日本| EEUSS鲁片一区二区三区| 99,色| 亚洲六月色| 激情婷婷色色| 午夜性做爰电影| 激情五月第四色| 亚洲欧美成人在线| 色婷婷a三区麻| 欧美日韩二区在线| 久色| 国产又黄又爽又激情不遮挡视频在线观看| 热久综合| 成人看片网站| 亚洲va欧美va国产综合久久久| 无码人妻一区二区一牛影视| 色色五月丁香| 欧美成人网婷婷综合在线| 91呦呦呦| www超碰| 激情五月综合免费| 少妇婷婷五月天| 天天色综网| 欧美久久五月婷婷| 五月天婷婷激情在线色图| 五月丁香啪啪网| 色999五月色| 伊人久久艹| 九九热视频免费观看| 久久电影五月天丁香电影| 天天做天天爱天天爽综合网| 婷婷丁香水多多视频| 色婷婷aV四虎| 亚洲色五月| 天天干天天爽天天操| 99热碰碰| 婷婷五月天成人视频| 激情五月天天狠狠久久| 婷婷色丁香五月| 色吊丝永久访问网址| 丁香五月性| 99国产小视频| 色婷婷丁香五月在线| 婷婷色五月天色色| 最新高清无码专区| 三级三久久线久久99久目本WW| 就爱操www com| 9999热在线免费观看| 九九色热| 亚洲另类电影| 性热视频99精品| 综合逼五月激情婷婷| 97色图片中文字幕视频在线观看| 五月婷婷电影院| 变态另类9| 成年人99热| 亚洲永久四色| 免费国产视频| 国产精品汇聚精彩第二页 - 高清完整版在线 - 青蛙AV | 久久狠狠干| 狠狠色噜噜狠狠狠777奇米| 欧日韩成人| 丁香六月亚洲综合| 夜夜夜叫天天天做| 色五月丁香婷婷综合| 另类激情五月| 人人操91| 色婷婷综合久久久久| 久久六月婷婷| 人妻激情久久| 九九热123| 天天拍天天操| www.夜夜操| 神马欧美精| 激情色视频| 婷婷在线五月天观看| 免费亚洲婷婷中文字幕| 久久九区| 99热这里只有99| 伊人色五月| www久久久久久久| 亚洲中字AV电影在线网站| 精品久久久人妻| 亚洲激情综| 婷婷国产成人| 婷婷99视频精品| 婷婷网五月天| 日91高清无玛| 激情文学久久| 日本人妻A片成人免费看片| 欧美97色| 99无码视频| 婷婷色导航| 丁香六月激情综合| 91在线就要啪| 97sese婷婷| 97人人操com| AV在线不卡网站| 五月天丁香婷婷久久九| 综合99在线| 日韩天堂久久| 91天天操天天干天天射| 国产夫妻操逼内射视频| 亚洲色vA| 五月丁香激情综合啪啪| 九九热最新视频| 激情五月天小说网| 久久人妻超碰一区| 91一道本| 天天开心婷婷丁香五月| 9999热这里只有精品| 狠狠狠五月婷婷六月丁香| 天堂草在线观| 人妻久热| 五月天网址在线刘玥| 色呦精品| 久热99热| 婷婷五月天色网久| 激情五月综合婷婷| 久久久激情| 超碰v| 久月久在线视频| www.9色色色| 久久精品综合色| 99人碰碰碰| 婷婷基地成人五月天| 99热20| 九九热视频精品2| 激情五月丁香亭亭 | 色欲色欲久久宗合网| 国产高清视频91九九九久久久| 色婷婷文字幕| 欧美性丁香色色五月天综合爱爱| 开心激情网在线| 亚洲色夜| 久777| 婷婷免费无马| 天天影视色综合网| 丁香六月色婷婷| 免费视频在线观看的网站| 六月婷婷日| 99自拍网| 色色色99| 天天干天天av天天射| 亚洲综合另类| 日日日日操| 亚洲综合无码| 大香蕉伊然在亚洲90| 激情五月婷婷| 五月天婷婷7米| 婷婷激情图片| 欧美日韩123| 五月婷婷精品视频| 99精品无码| 2005天天干天天1| 国产亚洲色婷婷99精品| 九九在线视频| 九色porny在线观看激情四射| 色婷婷丁香网| 精品婷婷| www.色9| 久久精品永久免费| 亚洲无码色| 五月丁香六月婷婷久久| 综合五月丁香六月婷婷| 日韩成人精品中文字幕电影| 久色视频首页| 色五月亚洲| 狠狠色色综合| 开心婷婷五月| 久久久精品99| 九九精品视频在线观看| 91麻豆国产三级精品福利在线观看| 久热一本| 中文字幕激情综合| 狠狠综合区| 五月婷婷无码专区| 桃色成人网| 99re66热这里只有精品| 狠狠草在线观看| 久久新地此| 亚洲 五月 婷婷 成人| 99热这里都是精品| 丁香蜜臀黄色婷婷五月天| 99热这里有精品| 婷婷5月久久综合网站| 久月丁香爱婷婷综合| 成人av播放| 久久久九九视频精品18| 99精品综合| 97sese婷婷| 色区域网站视频| 国产成人精品一区二三区熟女在线| 五月激情视频| 泰州成人视频| 国产26uuu视频| 超碰av在线| 色色五月天婷婷| 九九RE视频在线精品| 五月天丁香综合久久国产| 丁香五月亚洲| www.色情五月天.com| 超碰色人妾| 婷婷情爱五月天6| 色婷婷AⅤ| 思思热精品在线| 五月丁香六月婷婷综合| 91黄址| 色99网| 夜夜躁爽日日| 激情综合婷婷| 99热高清在线| 思思热99热| 精品国产va久久久久| 日本久久精品| 色婷婷狠狠久久综合五月| j五月香在线| 天天干天天色天天干| 色插人人| 99久久婷婷| 久久五月天大美女| 91re色综合视频| 丁香激情综合| 玖玖色综合| 五月激情小说| 日本丁香五月| 77799热| 色色色com| 色五开心五月五月深深爱| 丁香熟女乱| 色播婷婷五月天| 久鲁鲁色网 | 久久精品视频在这里有| 五月婷婷99热| 天堂在线观看视频| 超碰超碰在线| 俺去也在线www色官网| 亚洲欧美日韩另类| 色99色| 开心五月深爱五月婷| 九九综合88| 99视频在线精品| 在线A色| 色香久久| 五月丁香亭亭激情操逼网| 激情九九六月激情免费视频| 亚洲久久婷婷丁香五月天| 五月天久草| 色色综合网站| 99热网站| 五月婷婷综合色啪首页| 超碰久热| 91人人妻人人操| 久久人妻精品| www.天天干| 国产六月婷婷| 激情久久五月天| 610018岁成人视频| 97在线精品| 色婷婷成人| 久久五月婷婷电影| 国产精品人妻在线网址| 久月久在线视频| 久久香蕉影院| 五月丁香六月婷| 草婷婷在线| 久久婷婷热| 五月激情久久| 综合AV网| 99热在线观看| 久久怡红院| www.操.com| 天天色伊人| 超碰免费成人| 操久久精| 大香蕉七区| 老司机视频lsj爱就色| 五月婷激情| 9九色首页| 五月婷婷开心亚州在线| 另类国产综合| 天天干天天操天天干天天操天天干天天操 | 久久丁香网| 日韩免费视频| 99久久婷婷| 狠狠干婷婷| 天天综合色| 人妻久久久久久久久久久| 久色姿源| 手机激情网| oVV4WIB3vFi8D| 九月丁香婷婷综合激情| 久久这里只有精彩| 99热只有精品在线播放| 日日日,com| 九九综合九九| 亚洲国产精品成人免费一区久久久在线观看AAAA | 九九精品网| 26UUU精品一区二区Com| 婷婷五月天亚洲精品| 久久激情综合| 日本色婷婷综合| 开心丁五月| 五月天婷婷基地丁香| 色五月天.con| 夜夜操夜夜爽| 这里只有精品在线播放| 99er6热在线观看精品6| 欧美va在线| 五月丁香天堂网| 色婷婷五月天视频在线| 噜噜狠狠色| 欧美25p| 人人色婷婷| 97色女人在线| 91精品综合久久久久久五月丁香| 666555。COm毛片| 日日操夜夜擼| 狠狠草网| 99re这里只有精品99| 日本a片网址| 99久久国产宗和精品1上映| 天天插天天日天天爽| 色色亚卅| 国产激情在线| 日本乱子人伦在线视频| 岛囯综合激情网| 欧美日韩国产一区二区| 精品久色| 日韩精品二三区| 亚洲婷婷五月| 欧美电影在线观看| 2015WWW永久免费观看播放| 久久 婷婷 五月天| 只有久久精品免费| 国产成人综合在线| 久久一级AV| 男人視頻站| 综合亚洲六月婷婷在线| 激情性五月天免费小说视频 | 色婷婷五月综合| 六月色婷婷| 操b视频在线观看一区二区| 中文字幕av在线播放| 一起草av| 99热在这里只有精品| 久久综合干| 国产免费性爱| 精品久热| 97色色综合| 夜夜爽天天爽| WWW99视频| 久久与婷婷| 婷婷五月天视频| 99精品偷自拍| 另类专区在线| 五月婷激情| www.99热| 黄网免费观看| 99免费热视频在线| 成人网在线观看视频| 任你爽精品免费视频6| 五月婷婷熟女| 99re在线观看| 玖玖婷婷婷丁香五月| 亚洲天天免费| 91蜜桃婷婷狠狠久久综合9色| 123日本不卡在线| 婷婷色综合| 国产精品VA在线| 色五月婷婷网| 婷婷丁香五月天婷婷| 成人丁香五月天| 国产暴力强伦轩1区二区小说| 婷婷情色五月天| 欧美色五月天| 99热爆在线| 亚洲色爽| 激情六月天| 亚洲五月天婷婷| 五月天色婷婷激情| 日本三级第一页| 五月丁香色色综合| se99视频| 五月色综合| 天天综合五月天| 色婷婷精| 婷婷五月天色| 97超喷视频在线观看| 色五月天天| 色婷五月| 国产裸舞福利资源在线视频| 婷婷五月综合在线| 久久99热这里只有| 99精品在线| 99热婷婷| 人人操av| sS丁香五月婷婷| 激情五月天影院| 99ri精品| 久/久精品99看9| 深爱激情网五月| 丁香五月香蕉| 六月丁香啪| 99亚洲精品| 五月丁香直播| 久久R激情| 色婷婷丁香特级性爱视频| 免费视频无码| 激情综合网激情五月欧美| 中文字幕丰满孑伦无码专区| 伊人在线婷婷草| 疯狂做受XXXX高潮A片动画| 久久久久综合激动五月天| 性做爰1一7伦| 色爱终和网| WWW、日本色丁香、co m| 婷婷综合爱| 婷婷久久图片| AV五月丁香| 五月丁香六月色婷婷综合五月天| 国产精品久久欧美久久一区| 伊人久久五月天| 综久久久| 激情综合区| 九九热视频精品2| 欧美S码亚洲码精品M码| 涩婷婷五月天| 五月婷中文字幕| 婷婷操逼| 婷婷五月天精品| 97色色综合| 九九99久久| 天天爽日日搞| 色五月婷婷激情基地| www.色99| 情婷婷五月天| 日本三级韩三级99久久| 无码激情AAAAA片-区区| 激情六月色| 激情五月综合网| 黄色录像网点| 欧美在线97| XXXX岛国| 丁香五月婷婷色偷偷| 91丨九色丨东北熟女| caopeng97日韩| 欧美在线视频9| 九九精品热| 青草热视频这里只有精品| 婷婷国产欧美97| 激情第四色| 婷婷激情五月天小说校园| 91碰在线| 久久五月热| 99精品视频网| 狠狠插狠狠插| 色五月婷婷开心| www热久久yy9| 久久加勤综合| 久久99视频| 色屌丝中文字幕| 九九九九九无码| 久9热视频| 色五月激情五月| www.婷婷六月天| 日日激情网| 色婷婷丁香五月| 99综合99| 国产一级视频a| 九九性视频| 俺去也五月天| 99热的无码| 深爱五月综合网| 《久久综合九色综合97婷婷| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 久操热| 99re这里| 日日狠狠久久偷偷四色综合免费 | 日韩操女| 色婷婷精品视频在线播放| 五月天激情网图片| 99性视频| 开心五月综合激情网| 日日综合网| 国产精品色一哟哟| 五月丁六月香av| 天天爽在线视频| 神马欧美精| 97人人操com| 亚洲丁香花五月丁香花| 欧美黄色一级录像| 欧美顶级少妇做爰HD| 丁香六月激情综合| 亚洲综合99| 色五月综合激情| 五月婷婷|欧美| 五月天成人在线视频网站| 色综合色综合色综合| 久久在线人妻| 亚洲噜色| 五月丁香在线看| 九九精品视频在线6| 99免费视频精品| 初夜av| 激情www.98com| 99综合99| 亚洲欧美另类在线23p| 成人色色视频| 色婷婷五月天视频在线| 婷婷狠狠干| 色五月婷婷一二| 99无码视频| www.色婷婷| av在线激情| 热九九精品| 色色色图| AA片在线观看视频在线播放| 五月天激情美女久久| 热热色色五月天婷婷| 亚洲无码性爱| 美欧成人视频| 91日本在线观看| 精品视频这里只有精品| 情情五月天色| 色五月激情婷婷| 九色啦蜜臀| 人人97碰| av国产精品| 日本婷婷激情四射中文字幕在线观看| 狠狠狠狠草草| 激情婷婷久久| 亚洲天堂AV免费片| 五月天婷婷青青草| 五月丁香色综合| 99无码视频| 少妇高潮A片无套内谢麻豆传| 老师高潮流白浆喷水的A片| 亚洲综合欧美色丁香婷婷888月图片| 六月丁香开心婷婷欧美| 玖玖爱资源站| http://www.lingjunshare.com/ | 97碰久久| 99国产精品久久久久久久久久久| 婷婷色资源| 国产免费一区二区三区三州老师F1F1.CC | 任你爽免费视频| 99精品视频在线观看| 99视频综合网| 色婷婷XXXXX| 人人操人av| 亚洲午夜电影| 在线观看免费视频| 91九色 婷婷| 色综合爱综合| 99九九视频| 亚洲亚洲人成综合网络| 天堂成人久久| 人妻操在线看| 在线综合网| 激情五月天情色| 久热久色| 国产亚洲精品久久一区二区三区| 婷婷亚洲综合| 成人版视频在线观看| 九九久久这里只有精品XB| 97碰人人操| 日韩AV无码影片| 亚洲、欧美、国产另类笫二区| 欧美性爱特黄一级aaaassss| 深夜男女福利刺激影院一区| 丁香深五月婷婷| 六月丁香基地| 午夜色婷婷| 波多野结衣成人作品在线| 婷婷免费精品视频| 伊人婷婷大香蕉| 色情激情五月婷婷| 五月激情视频网| 久久人操| 五月丁香色婷基地综合久久| 国产乱妇乱子伦| 日日夜夜天天| 中文字幕不卡+婷婷五月| 一级操逼内射在线视频| 777精品久无码人妻蜜桃| 婷婷伊人久久| 久草狼人| 亚洲AV无码影院| 五月丁香六月香综合激情| 精品久久这里热66| 亚洲另类婷婷五月综合| 99热精品在线观看| 国产脫衣舞一区二区三区| 99热这里只有免费| 99超超碰| 亚洲丁香五月深爱五月| 久热免费视频| 色综合色| 亚洲热热视频| 人人操99| 91九色首页| 五月婷在线影院| 婷婷欧美| www91在线| 六月婷婷八月丁香| 97久久久免费福利网址| 精a品a| 色色六月| 亚洲天码视频www蛋播视频| 伊人五月婷| 综合图区激情| 五月婷婷黄网站大全| 精品一区二区三区木瓜| 久久艹 五月天| 先锋资源 996| 射婷婷中文字幕| 丁香婷婷五色月| 丁香五月-激情综合| 婷婷五月丁香伊人网| 九月丁香婷婷基地| 噜噜久| 激情五月天婷婷丁香| 丁香五月婷中字幕| 久草九九| 九九激情综合| 熟女婷婷网站一婷婷五月一丁香婷婷一婷婷激情网 | 日韩高清成人| 九九激情网| 99精彩视频| va婷婷在线| 丁香激情综合| 26UUU精品一区二区| 久久婷视频| 亚洲综合九九| 五月天婷婷自拍图片在线观看| 免费看欧美成人A片无码| anquye五月| 久久一级免费黄色片| 激情综合99| 欧美欧盟性爱网| www.9操| 婷婷五月天小说网| 伊人网大香| 97人人草| 自拍盗摄 另类| 五月天婷婷基地综合网| 丁香五月天婷婷激情| 99热精这里只有精品| 超碰丁香五月| 亚洲综合色色色| 狠狠干青青草| 五月天伊人久久久久| 亚洲色视频| 久久九九99亚洲国产久精综合| 日韩xx在线| 亚洲第一综合| av操一操| 91蜜桃婷婷狠狠久久综合9色| 久九男女天堂| 91免费看片| 天天操天天操| 99精品久久久久| 色婷婷成人做爰A片免费看网站| 天天综合在线网| 亚洲综合在线伊人婷| 激情综合五月丁香六月婷婷| 超碰在线观看99| 狠狠干五码| 99九九久久| 亚洲视频另类| 成片免费播放| 久久怕怕视频| 激情五月天开心网丁香无码| 神马欧美精| 成熟妇人A片免费看网站 | 99视频内射三四| 五月婷婷亚洲色视频| 五月在线婷色| 五月丁香激情综合六月涩涩爱| 婷婷久久综合久| 色色国产| 99精品在线下载| 国产亚洲99久久精品| www.99操| 亚洲欧洲中文日韩久久AV乱码| xxxx久| 五月婷婷福利| 色色影院aaaav| 9人人操人人看| 爱iii做iiii日日| 色色热| 五月丁香婷婷中文| 婷婷五月丁香在线视频| w婷婷五月婷婷w| 欧美日本综合网| 久久久99婷婷久久久久久| 丁香六月天婷婷色| 九九热在线视频| 色综合久| 99久热在线精品| 五月丁香六月激情视频| 久久这里只有欧美| 激情五月五月五月婷婷| site:wpjngj.com| 婷婷99狠狠躁天天躁中| 九九热99热| 影音先锋人妻出差| 天天爱天天做综合| av 一区三区四区| 九九色色| 五月天婷婷综合久久| 91avse| www.婷婷,com| 久久九九国产| 91免费看片| 婷婷综合网性| 色婷婷影| 狠狠色五月| 色五月婷婷影院| 99久久99视频| 天堂综合久久| 婷婷狠狠操| 99热亚洲精品| 中文AV在线播放| 久久五月网| 99激情在线| 欧美色色色色色| 超碰成人电影| 丁香五月亚洲激情婷婷射| 九九色逼| 国产激情综合五月| 激情五月婷婷网在线观看| 99视频久久免费视频| 狠狠婷婷爱| 激情婷婷另类| 亚城区在线| site:pnnrt.com| 欧美性爱一区| 深爱激情六月天| 综合激情五月天| 99国产精品白浆在线观看免费| 无码人妻AV久久久一区二区三区 | 变态另类色图| www91久久| 色欲九区| 久久这里只有精彩| 丁香五月骚喷水视频| 丁香五月天精品| 色色色色色色色色色色色色色色,网站| 亚洲激情.com| 一区二区乱码视频| 日本丁香五月| 91男人操女人视频| 色吊丝99| 91色逼| 国产中文亚洲欧美日韩性交| 激情综合网,婷婷| 99视频这里只有精品10| WWW.婷婷五月天.COM| 色婷婷激情| 激情九月丁香婷婷| 97色啪| 丁香五月婷婷久久综合激情网| 五月婷婷六月丁香激情综合网| 五月婷婷综合成人| 色五月婷婷综合在线| 俺也去婷婷五月天第五色| 国产五月婷| 久re热视频| 天天色粽合合合合合合合| 久9精品视频在线| 五月丁香久久呀| 色。 日日日| 综合激情视频| 日韩一级片| 九九精品系列| 熟女婷婷网站一婷婷五月一丁香婷婷一婷婷激情网 | 亚洲综合婷婷六月丁香五月| 综合久久高清| 国产99久久久国产精品免费看| 超碰京东热av男人的天堂| 亚洲激情四射| 久久婷婷成人综合色怡春院| 色99在线视频| 成人片在线免费看| 婷婷五月亚洲激情| 噜噜狠狠色综无码久久合欧美| 狠狠狠狠狠狠| 91九色无码内射| 五月综合亚洲色| 欧美xx激情视频在线观看| 思思99热| 天天搞天天色综合| 亚洲 无码 中文字幕 中出| 9999三级片| 婷婷在线日韩综合| 777色婷婷爱五月| 亚洲综合色网| 亚洲九九99精品视频在线播放| WWW久久久| 激情五月色播五月| 少妇被下春药玩弄A片| A在线观看| 午夜做爱影院| 99视频| 99 热国产在| 色色com| 精品久9| 精品无码av丁香五月激情| AVDV久久| 婷婷丁香久久网| 管管補管管紱| 色五月婷婷五月| 亚洲秘 无码一区二区三区妃光/1| 99re26视频| 99这里都是精品| 丁香五月激情棕合| 婷婷五月影院| 久久99网| 丁香婷婷久久综合在线| 202丰满熟女妇大| 激情视频网址| 久99视频在线观看| 久久久久久久久久久44| 色色色9| 99日热在线视频| 五月婷婷熟女| 亚洲精品99| 五月开心婷婷中文字幕| 99久在线精品99re8热| 免费97碰碰| www,超碰| 婷婷综合色网| 激情五月综合| 9色在线视频精品观看| 色综合综合色| 婷久久高清| 天天爽夜夜爽夜爽精品| 五月婷婷影视| 丁香色五月婷婷91桃色| www.lchjjc.com| 五月天堂在线| 国产欧美大香蕉一区| 精品国产a| 色在线视频网2025| 九九综合图片网| 亚洲色热| www.99热在线观看| 亚洲精品视频在线播放| 欧美久久婷婷| 久久综合99| 五月丁香网av| 少妇真实被内射视频三四区| WWW.桔色成人.COM入口| 97丨九色丨国产丨PORNY| 思思综合热| 婷婷狠狠青青| 久久人妻人人| 色色色婷婷五月天| 欧美色婷婷| 十月丁香婷婷| 爱操天堂| 久久激情网| 黄色三级日本| 国产毛片精品一区二区色欲黄A片| 五月丁香成人日| 色色色com| 婷婷五月激情图片| 中文字幕av久久爽一区| 91热爆在线| 欧美va亚洲va在线播放| 免费看片在线观看| 夜夜 操无码| 99小精品| 一区操| 激情亚洲婷婷| 2015好吊操| 91大屁股在线| 激情亚洲婷婷| 26uuu.| 91在线人| 91综合国免费久入| 六月香五月婷| 99热99| 99爱视频在线观看| 人人看人人草人人摸| AV免费在线网站| 天天搞天天爽| 丁香六月婷婷姐网| 九九碰九九爱97超| 日本一級黃色一級片| 五月丁香六月婷婷色情| 五月婷婷新网站| 欧美三级大片AA在线看| 婷婷五月天堂| 狠狠干青青草| 99久.| 狠狠噪| 99无码超碰| 亚洲激情综合五月婷婷啪啪| 非洲一级AV| 色噜噜丁香| 91大神操美女| 日本熟女一区二区| 超碰在线观看99| av在线免费播放观看| 五月激情视频| 丁香五月综合在线观看| 6月丁香婷婷| 亚洲成人中文字幕| 日日干日日| 国产精品色婷婷99久久精品| 丁香五月亚洲无码| 久久伦乱| 色吊丝99| 乱岳熟女50岁| 色~性~乱~伦~噜| 操操操AV| 色五月婷婷在线视频| 五月激情射| 天天综合天综合久久网| 99热这里只有精品5| 国产激情综合五月久久| 五月婷综合性中心| 91丨九色丨国产打屁股| av一区免费看| 欧美性生交XXXXX无码小说| 色综合色综合网| 久久九九色| 天天舔天天摸天天透| 9九热视频| 婷婷午夜精品久久久| 激情婷婷五月在线合集| 色婷婷成人做爰A片免费看网站| 色婷婷五月在线| 亚洲综合热| 深爱激情久久| 婷婷五月天视| 久热九九| 婷婷99热| 天天综合 99久久婷婷| 婷婷五月综合色小姐小说| 免费看欧美成人A片无码| www.久久| 午夜成人AV在线| 色婷婷综合影院| 五月天涩涩| 热的无码综合视频| 天天在线久久综合| 99精品视频免费在线播放| 激情综合在线观看| 丁香六月| 五月天激情综合网| 婷婷五月天首页激情| 久久久久久久久久久jjjj| 免费观看全黄做爰的视频| 大香蕉啪啪啪| 五月天大香蕉| 九月婷婷| 91色久| 激情五月天婷婷| 午夜五月天| 啪啪91| 五月色影院| 91久热| 五月天com| 思思99热| 大地9中文在线观看免费高清| 色色丁香| 野战J办公桌椅H| 九九无码AV| 一本到不卡高清DVD| 亚洲区在线| 婷婷丁香综合在线| 色婷婷综合电影| 六月丁香停| 九九激情综合| 婷婷五月色播| 国产成人精品亚洲线观看| 丁香五月色情| 中文字幕日本最新乱码视频| AV片一区在线观看| 99热伊人综合| 婷婷九月在线| 色月九九| 开心婷婷五| 天天日天天操天天干| 色丁香影院| 超碰高清在线| 色色色成人网| 欧美日本日韩| 久9综合| 日韩有码久久| 综合AV在线| 免费精品66| 色狠狠色综合| 五月天婷婷伊人| 婷婷天天色| 免费视频WWW在线观看网站| 伊人99久久| 久色五月天| 久1色色| 开心激情网五月| 丁香六月啪啪啪| 欧美交换配乱吟粗大25P| 99色嘟嘟精品网站| 中文字幕av亚洲| 精a品a视a频| 永久AⅤ1| 日本综合色色| A片试看120分钟做受视频红杏 | 综合性爱网| 综合婷婷六月| 五月激情婷婷丁香| 色色网站在线| 日韩在线视频9色| 人妻久久婷婷| 啪啪啪五月天| 99热免费精品| 黄桃AV无码免费一区二区三区| 91窝窝| 亚洲激情亚洲激情| 五月激情婷婷六月| 开心激情五月天网| 色婷婷小视频| 中文字幕在线免费观看视频| 色婷婷五月天堂资源| 9精品在线| 欧美五月停| 99操逼视频| 久久99性爱视频| 婷婷亚洲综合| 丁香婷婷五月人体| 色色色色色色色综合| 五月丁香啪| 黄桃AV无码免费一区二区三区 | 国产色视频网站2| 一區四區歐美日韓| 97在线视频观看| AV性爱在线| 超碰狠狠操| 五月天丁香综合久久国产| 婷婷综合五月激情| www.色九月| 五月婷婷伊| 伊人青草成人| 日韩色久| 狠狠干狠狠操狠狠爱| 人人干天天舔| 玖玖99免费视频| 99爱在线| 丁香六月狠狠| 五月婷婷激情| 日韩无码性爱| 日韩久久这里只有精品| 六月综合婷婷开心伊人| 影音先锋 一区| 色久激情在线| 日本人妻伦在线中文字幕| 婷婷久久五月| 天天综合五月| 一区二区传媒视频| 五月丁香啪啪综合网| 色情综合| 亚洲精品在线视频| 99精品久久久久久久久| 天天操夜夜夜拍拍拍| 丁香色五月天| 色综合久久综合中文综合网| 久久精热| 狠狠爱丁香婷| 成人色色视频| 色噜噜丁香| 婷婷丁香一月| 久草热8精品视频在线观看| 一级黄色影片| 激情丁香婷婷| 日韩狠狠色| 思思99久久| 狠狠色噜噜狠狠| 天天色天天日天天舔| 婷婷五月欧美| 婷婷久久综合久色| 日韩精品在线观看9| 丁香五月天啪啪激情综和网 | 欧美激情凹凸丁香网| 大香蕉久久青青| 色五月丁香婷婷综合| 麻豆AV一区二区三区| 成年AAAA色情| 久久久婷婷| 77799热| 五月丁香六月婷综合成人综合| 激情五月婷婷综合| 婷婷丁香人妻天天爽| 99久久综合| 色五月婷婷五月天| 九九九九九无码| 欧美黑人巨大性生话| 丁香婷停五月激情综合深爱| 激情五月婷婷视频| 色色cOm|