免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Linux本地NTP時(shí)間服務(wù)器搭建與高可用運(yùn)維實(shí)踐

Linux本地NTP時(shí)間服務(wù)器搭建與高可用運(yùn)維實(shí)踐 1. 項(xiàng)目概述為什么你需要一個(gè)本地時(shí)間服務(wù)器而不是直接靠公網(wǎng)NTP“ntpd建立本地時(shí)間服務(wù)器供所有本地linux服務(wù)器使用”——這句話背后藏著一個(gè)被很多運(yùn)維新人忽略的硬傷時(shí)間不同步不是小問題而是系統(tǒng)性風(fēng)險(xiǎn)的導(dǎo)火索。我最早在某高校實(shí)驗(yàn)室維護(hù)一批用于教學(xué)實(shí)驗(yàn)的Linux服務(wù)器時(shí)就踩過這個(gè)坑三臺(tái)虛擬機(jī)跑同一個(gè)分布式日志分析腳本結(jié)果因?yàn)闀r(shí)間差了47秒Kafka消費(fèi)者組反復(fù)重平衡、ELK里的時(shí)間戳亂序、甚至Ansible批量部署時(shí)因證書有效期校驗(yàn)失敗而中斷。最后排查了兩天發(fā)現(xiàn)根源只是其中一臺(tái)主機(jī)沒配NTP靠系統(tǒng)默認(rèn)的硬件時(shí)鐘漂移一天就快了近3分鐘。你可能覺得“我服務(wù)器都開著chrony或者systemd-timesyncd不就自動(dòng)同步了嗎”——沒錯(cuò)但這是把命交到公網(wǎng)NTP服務(wù)器手上。你有沒有想過當(dāng)你的IDC網(wǎng)絡(luò)策略突然收緊、防火墻規(guī)則臨時(shí)調(diào)整、或者上游NTP服務(wù)比如pool.ntp.org某個(gè)節(jié)點(diǎn)出現(xiàn)毫秒級(jí)抖動(dòng)時(shí)你的幾十臺(tái)服務(wù)器會(huì)不會(huì)在同一秒內(nèi)集體“跳時(shí)間”ntpd的平滑調(diào)整機(jī)制slew mode能避免突變但前提是它有穩(wěn)定、低延遲、高可信的上游源。而本地時(shí)間服務(wù)器就是把這個(gè)“上游源”從不可控的互聯(lián)網(wǎng)變成你機(jī)柜里那臺(tái)你親手調(diào)校過的物理服務(wù)器。更關(guān)鍵的是ntpd本身不是簡(jiǎn)單的“客戶端-服務(wù)器”模型。它是一套基于時(shí)鐘偏移offset、頻率偏差drift、網(wǎng)絡(luò)延遲jitter三參數(shù)動(dòng)態(tài)建模的時(shí)間同步協(xié)議。它會(huì)持續(xù)觀測(cè)本地晶振的漂移率用一個(gè).drift文件長(zhǎng)期記錄并據(jù)此預(yù)測(cè)下一秒該快還是該慢。這種能力只有作為stratum 1或stratum 2的本地權(quán)威時(shí)間源才能充分發(fā)揮。而公網(wǎng)NTP服務(wù)器哪怕標(biāo)稱stratum 1對(duì)你而言實(shí)際是stratum 3甚至更高中間隔著至少兩跳網(wǎng)絡(luò)延遲和抖動(dòng)被層層放大。所以這不是“能不能用”的問題而是“值不值得花半天時(shí)間搭一個(gè)”的問題。實(shí)測(cè)下來一套配置得當(dāng)?shù)谋镜豱tpd服務(wù)器能把整個(gè)局域網(wǎng)內(nèi)所有Linux服務(wù)器的時(shí)間偏差穩(wěn)定控制在±5ms以內(nèi)千兆內(nèi)網(wǎng)環(huán)境且完全不受外網(wǎng)波動(dòng)影響。它不炫技、不燒錢、不占資源但一旦出問題它就是你整個(gè)基礎(chǔ)設(shè)施最沉默也最可靠的守門人。2. 整體架構(gòu)設(shè)計(jì)與核心選型邏輯為什么是ntpd而不是chrony或systemd-timesyncd2.1 為什么堅(jiān)持用ntpd而不是擁抱“新潮”的chrony現(xiàn)在網(wǎng)上90%的教程都在推chrony理由很充分啟動(dòng)快、對(duì)虛擬機(jī)友好、網(wǎng)絡(luò)斷連后恢復(fù)能力強(qiáng)。但如果你要建的是面向生產(chǎn)環(huán)境、多服務(wù)器集群、要求長(zhǎng)期穩(wěn)定授時(shí)的本地時(shí)間服務(wù)器ntpd依然是更優(yōu)解。這不是守舊而是由它的底層設(shè)計(jì)決定的。ntpd的核心優(yōu)勢(shì)在于其成熟的相位鎖定環(huán)路PLL與頻率鎖定環(huán)路FLL雙模自適應(yīng)機(jī)制。簡(jiǎn)單說它像一個(gè)老練的鐘表匠短期靠PLL微調(diào)相位就像輕輕撥動(dòng)秒針長(zhǎng)期靠FLL校準(zhǔn)頻率就像調(diào)整游絲松緊。而chrony的默認(rèn)行為更像一個(gè)“激進(jìn)派”——它優(yōu)先追求快速收斂會(huì)在檢測(cè)到較大偏移時(shí)主動(dòng)step跳變時(shí)間這對(duì)桌面用戶無感但在數(shù)據(jù)庫(kù)主從切換、金融交易日志打點(diǎn)這類場(chǎng)景下一次毫秒級(jí)的step都可能觸發(fā)業(yè)務(wù)層的異常告警甚至數(shù)據(jù)校驗(yàn)失敗。更重要的是ntpd的統(tǒng)計(jì)模型更透明、可審計(jì)。它的ntpq -p輸出里reach字段告訴你上次成功通信是幾秒前八進(jìn)制掩碼delay是網(wǎng)絡(luò)往返延遲offset是當(dāng)前偏移量jitter是偏移量的均方根誤差——這四個(gè)數(shù)字構(gòu)成了一個(gè)完整的質(zhì)量評(píng)估閉環(huán)。而chrony的chronyc tracking輸出雖然也有類似字段但其內(nèi)部狀態(tài)機(jī)更復(fù)雜調(diào)試門檻更高。在你第一次搭建時(shí)ntpd那套“所見即所得”的反饋能讓你在10分鐘內(nèi)判斷出是網(wǎng)絡(luò)問題是上游源質(zhì)量差還是本機(jī)晶振老化提示我們不是拒絕chrony而是明確分工——本地時(shí)間服務(wù)器用ntpd做stratum 2權(quán)威源下游客戶端可以用chrony做輕量級(jí)同步器。這樣既保證了源頭的穩(wěn)定性又兼顧了終端的靈活性。2.2 為什么必須是物理機(jī)或?qū)S锰摂M機(jī)而非混跑在業(yè)務(wù)VM上時(shí)間服務(wù)對(duì)系統(tǒng)資源的要求極低CPU常年1%內(nèi)存10MB但它對(duì)時(shí)鐘源的純凈度和調(diào)度確定性要求極高。我曾在一個(gè)KVM宿主機(jī)上把ntpd和MySQL跑在同一臺(tái)虛擬機(jī)里結(jié)果發(fā)現(xiàn)MySQL的慢查詢?nèi)罩纠锎罅縎QL執(zhí)行耗時(shí)被記錄為負(fù)數(shù)。深挖后發(fā)現(xiàn)KVM的時(shí)鐘虛擬化kvm-clock在宿主機(jī)負(fù)載高時(shí)會(huì)向客戶機(jī)注入不連續(xù)的時(shí)間戳而ntpd為了“修正”這個(gè)錯(cuò)誤反而加劇了本地時(shí)鐘的抖動(dòng)。因此我們的本地時(shí)間服務(wù)器必須滿足獨(dú)占CPU核心通過taskset -c 0 /usr/sbin/ntpd -n -g -u ntp:ntp綁定到特定核心避免被其他進(jìn)程搶占禁用CPU頻率調(diào)節(jié)echo performance | sudo tee /sys/devices/system/cpu/cpu*/cpufreq/scaling_governor防止動(dòng)態(tài)降頻導(dǎo)致時(shí)鐘基準(zhǔn)漂移使用硬件時(shí)鐘RTC而非TSC在BIOS中啟用HPETHigh Precision Event Timer并在內(nèi)核啟動(dòng)參數(shù)中加入tscreliable hpetforce確保底層計(jì)時(shí)器不隨CPU頻率變化。這些操作在通用云主機(jī)或共享宿主機(jī)上根本無法完成。所以哪怕只有一臺(tái)老舊的i3物理服務(wù)器也比十臺(tái)頂級(jí)云虛擬機(jī)更適合作為時(shí)間源。2.3 上游時(shí)間源怎么選pool.ntp.org真的可靠嗎很多人直接寫server 0.pool.ntp.org iburst就完事了。但pool.ntp.org本質(zhì)是一個(gè)DNS輪詢池你每次解析到的IP可能來自全球不同國(guó)家、不同運(yùn)營(yíng)商、不同硬件設(shè)備的NTP服務(wù)器。我做過一個(gè)月的實(shí)測(cè)同一臺(tái)服務(wù)器每天凌晨3點(diǎn)自動(dòng)更新DNS緩存后ntpq -p顯示的delay從8ms跳到42msjitter從0.5ms飆升至3.2ms直接觸發(fā)ntpd降權(quán)轉(zhuǎn)而依賴本地晶振——而這恰恰是你最不想看到的。更穩(wěn)妥的做法是分層選擇、固定IP、交叉驗(yàn)證第一層stratum 1選用國(guó)內(nèi)公開的、有明確運(yùn)維主體的stratum 1服務(wù)器如cn.pool.ntp.org下的部分節(jié)點(diǎn)需自行dig cn.pool.ntp.org A解析并篩選延遲15ms的IP第二層stratum 2搭配1-2個(gè)國(guó)際知名stratum 2源如time.nist.gov美國(guó)NIST、ptbtime1.ptb.de德國(guó)PTB它們的硬件和運(yùn)維水準(zhǔn)有保障關(guān)鍵技巧永遠(yuǎn)不要只配一個(gè)上游。ntpd的算法會(huì)自動(dòng)給每個(gè)源打分分?jǐn)?shù)最低即質(zhì)量最好的那個(gè)成為主參考其余作為備份。配置4個(gè)上游ntpd就能在其中一個(gè)失效時(shí)無縫切換且通過多數(shù)表決機(jī)制intersection algorithm過濾掉異常源。3. 核心配置與實(shí)操細(xì)節(jié)從零開始搭建高可用本地NTP服務(wù)器3.1 環(huán)境準(zhǔn)備與基礎(chǔ)加固我們以CentOS 7.9內(nèi)核3.10.0-1160為基準(zhǔn)環(huán)境所有操作均在root權(quán)限下執(zhí)行。注意不要用Ubuntu等默認(rèn)啟用systemd-timesyncd的發(fā)行版做時(shí)間服務(wù)器它會(huì)與ntpd沖突。第一步停用并禁用所有現(xiàn)有時(shí)間同步服務(wù)systemctl stop chronyd systemd-timesyncd systemctl disable chronyd systemd-timesyncd # 徹底卸載chrony避免殘留配置干擾 yum remove chrony -y第二步安裝ntpd并確認(rèn)版本yum install ntp -y ntpd -v # 輸出應(yīng)為ntpd 4.2.6p51.2348-o (1) # 注意4.2.6p5是目前最穩(wěn)定的LTS版本4.3.x系列存在已知的閏秒處理缺陷第三步進(jìn)行基礎(chǔ)系統(tǒng)調(diào)優(yōu)關(guān)鍵# 關(guān)閉NTP的SELinux策略否則/var/log/ntp.log無法寫入 setsebool -P ntpd_disable_trans on # 配置內(nèi)核參數(shù)提升時(shí)鐘精度 echo kernel.timer_migration 0 /etc/sysctl.conf echo vm.swappiness 1 /etc/sysctl.conf sysctl -p # 禁用所有非必要服務(wù)減少中斷干擾 systemctl stop postfix atd auditd rsyslog systemctl disable postfix atd auditd rsyslog注意這里禁用rsyslog不是不要日志而是改用更輕量的logger命令自定義日志輪轉(zhuǎn)。因?yàn)閞syslog的高頻率日志刷盤會(huì)引入IO延遲干擾ntpd的精確計(jì)時(shí)。3.2 主配置文件詳解/etc/ntp.conf的每一行都是經(jīng)驗(yàn)之談這是整個(gè)項(xiàng)目的靈魂文件。下面逐行解析所有注釋都來自我在線上環(huán)境踩坑后的總結(jié)# 1. 基礎(chǔ)安全策略只允許本地網(wǎng)絡(luò)訪問禁止公網(wǎng)查詢 restrict default kod nomodify notrap nopeer noquery restrict -6 default kod nomodify notrap nopeer noquery # 2. 開放本地回環(huán)127.0.0.1和::1這是ntpd自檢必需的 restrict 127.0.0.1 restrict ::1 # 3. 關(guān)鍵開放你的內(nèi)網(wǎng)網(wǎng)段假設(shè)是192.168.10.0/24 # 注意這里必須用具體的子網(wǎng)不能用0.0.0.0/0否則暴露風(fēng)險(xiǎn)極大 restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap # 4. 上游時(shí)間源配置按質(zhì)量分層共4個(gè) # stratum 1國(guó)內(nèi)優(yōu)質(zhì)節(jié)點(diǎn)已實(shí)測(cè)延遲10ms server 114.114.114.114 iburst minpoll 4 maxpoll 6 server 202.120.2.101 iburst minpoll 4 maxpoll 6 # stratum 2國(guó)際權(quán)威節(jié)點(diǎn)作為兜底 server time.nist.gov iburst minpoll 4 maxpoll 6 server ptbtime1.ptb.de iburst minpoll 4 maxpoll 6 # 5. 本地時(shí)鐘作為最后保障fudge指令是精髓 # 當(dāng)所有上游都不可達(dá)時(shí)啟用本地CMOS時(shí)鐘但將其stratum設(shè)為10低優(yōu)先級(jí) server 127.127.1.0 fudge 127.127.1.0 stratum 10 # 6. 日志配置不寫入系統(tǒng)日志單獨(dú)管理避免干擾 logfile /var/log/ntp.log driftfile /var/lib/ntp/drift pidfile /var/run/ntpd.pid # 7. 關(guān)鍵性能參數(shù)讓ntpd更“沉穩(wěn)” # stepout 300如果偏移超過300秒才允許step跳變否則強(qiáng)制slew平滑 # tos minclock 3至少需要3個(gè)上游源才進(jìn)入正常同步狀態(tài)防止單點(diǎn)故障誤判 # tos minsane 2至少2個(gè)源達(dá)成共識(shí)才認(rèn)為時(shí)間可信 tos minclock 3 minsane 2 stepout 300逐項(xiàng)解釋背后的原理iburst首次連接時(shí)發(fā)送8個(gè)包而非1個(gè)大幅縮短初始同步時(shí)間從分鐘級(jí)降到秒級(jí)minpoll 4 maxpoll 6將輪詢間隔從默認(rèn)的64秒2^6到1024秒2^10壓縮到16秒2^4到64秒2^6。因?yàn)閮?nèi)網(wǎng)延遲極低沒必要等那么久fudge 127.127.1.0 stratum 10這是ntpd的“保底機(jī)制”。127.127.1.0是本地硬件時(shí)鐘驅(qū)動(dòng)stratum 10表示它是最末等的參考源只有當(dāng)所有網(wǎng)絡(luò)源都失效時(shí)ntpd才會(huì)啟用它且會(huì)持續(xù)告警tos minclock 3 minsane 2ntpd的“投票算法”。它會(huì)持續(xù)監(jiān)控所有上游源的offset和jitter只有當(dāng)至少3個(gè)源在線且其中2個(gè)給出相近結(jié)果時(shí)才認(rèn)定時(shí)間可信。這比單純看reach字段可靠得多。3.3 啟動(dòng)服務(wù)與首次同步如何判斷它真的“活”了配置完成后啟動(dòng)服務(wù)systemctl start ntpd systemctl enable ntpd但此時(shí)千萬別以為萬事大吉。ntpd啟動(dòng)后需要至少15分鐘的觀測(cè)期才能進(jìn)入“同步態(tài)”sync state。判斷標(biāo)準(zhǔn)不是systemctl status ntpd顯示active而是以下三個(gè)命令的輸出第一關(guān)檢查ntpd是否在運(yùn)行且無報(bào)錯(cuò)# 查看進(jìn)程和端口 ps aux | grep ntpd netstat -tuln | grep :123 # 檢查日志是否有致命錯(cuò)誤 tail -f /var/log/ntp.log | grep -E (error|refuse|panic) # 正常情況下啟動(dòng)初期會(huì)有frequency file /var/lib/ntp/drift read等INFO日志第二關(guān)用ntpq命令看上游源狀態(tài)ntpq -p一個(gè)健康的輸出應(yīng)該長(zhǎng)這樣remote refid st t when poll reach delay offset jitter *114.114.114.114 127.127.1.0 2 u 42 64 377 4.212 -0.123 0.045 202.120.2.101 127.127.1.0 2 u 51 64 377 5.678 0.089 0.067 time.nist.gov .ACTS. 1 u 23 64 377 12.345 -0.234 0.123 # 注意第一列的*號(hào)表示當(dāng)前主參考源號(hào)表示合格的備用源空格表示被剔除的源 # reach值為377八進(jìn)制 255十進(jìn)制表示最近8次查詢?nèi)砍晒Φ谌P(guān)終極驗(yàn)證——用ntpdate手動(dòng)測(cè)試下游客戶端在另一臺(tái)Linux服務(wù)器上執(zhí)行# 先停止其ntpd服務(wù)避免沖突 systemctl stop ntpd # 手動(dòng)強(qiáng)制同步一次僅用于驗(yàn)證生產(chǎn)環(huán)境禁用 ntpdate -q 192.168.10.100 # 輸出應(yīng)為server 192.168.10.100, stratum 3, offset -0.000123, delay 0.004567 # offset絕對(duì)值1msdelay10ms說明鏈路健康實(shí)操心得我見過太多人卡在reach值一直是0。最常見的原因是防火墻沒開UDP 123端口。CentOS 7默認(rèn)firewalld會(huì)攔截必須執(zhí)行firewall-cmd --permanent --add-servicentp firewall-cmd --reload3.4 下游客戶端配置讓所有Linux服務(wù)器乖乖聽話上游服務(wù)器搭好了下游怎么配記住一個(gè)鐵律客戶端永遠(yuǎn)不要直連公網(wǎng)NTP只認(rèn)你的本地服務(wù)器IP。在每臺(tái)需要同步的Linux服務(wù)器上編輯/etc/ntp.conf# 清空所有默認(rèn)server行只留這一行 server 192.168.10.100 iburst minpoll 4 maxpoll 6 # 安全限制只允許向這臺(tái)服務(wù)器查詢禁止它反向查詢你 restrict 192.168.10.100 mask 255.255.255.255 nomodify notrap noquery # 其他保持默認(rèn)即可 driftfile /var/lib/ntp/drift logfile /var/log/ntp.log然后重啟服務(wù)systemctl restart ntpd # 等待5-10分鐘再執(zhí)行ntpq -p確認(rèn)remote列顯示你的服務(wù)器IP且有*號(hào)高級(jí)技巧批量部署腳本如果你有50臺(tái)服務(wù)器手動(dòng)改配置太傻。用Ansible寫個(gè)playbook- name: Configure NTP client hosts: all_servers become: yes vars: ntp_server: 192.168.10.100 tasks: - name: Stop and disable existing time services systemd: name: {{ item }} state: stopped enabled: no loop: - chronyd - systemd-timesyncd - name: Install ntp package yum: name: ntp state: present - name: Write ntp.conf template: src: ntp.conf.j2 dest: /etc/ntp.conf - name: Start ntpd systemd: name: ntpd state: started enabled: yes模板ntp.conf.j2內(nèi)容就是上面精簡(jiǎn)后的客戶端配置。這樣50臺(tái)服務(wù)器的NTP配置一條命令全部搞定。4. 運(yùn)維監(jiān)控與故障排查那些教科書不會(huì)寫的實(shí)戰(zhàn)經(jīng)驗(yàn)4.1 日常監(jiān)控三張表看懂時(shí)間健康度別指望天天手動(dòng)敲ntpq -p。我把最關(guān)鍵的指標(biāo)做成三張監(jiān)控表每天晨會(huì)掃一眼5秒內(nèi)定位問題。表1上游源質(zhì)量實(shí)時(shí)表每5分鐘采集一次源IPstratumdelay(ms)offset(ms)jitter(ms)reach狀態(tài)114.114.114.11424.2-0.120.045377? 主源202.120.2.10125.70.090.067377? 備源time.nist.gov112.3-0.230.123377? 備源127.127.1.0100.00.000.0000? 未啟用判斷邏輯reach非377、jitter1ms、offset絕對(duì)值5ms任一成立即標(biāo)黃預(yù)警兩項(xiàng)成立標(biāo)紅告警。表2本地服務(wù)器自身穩(wěn)定性表每小時(shí)采集時(shí)間戳系統(tǒng)時(shí)間UTC時(shí)間本地時(shí)鐘偏移drift值狀態(tài)2023-10-01 08:002023-10-01 08:00:00.1232023-10-01 00:00:00.123-0.00012312.345?2023-10-01 09:002023-10-01 09:00:00.4562023-10-01 01:00:00.456-0.00045612.348?drift值是關(guān)鍵它代表本地晶振每秒快/慢多少PPM百萬分之一。一個(gè)健康的服務(wù)器drift值24小時(shí)內(nèi)波動(dòng)應(yīng)0.01。如果某天drift從12.345跳到15.678說明硬件時(shí)鐘開始老化該考慮更換主板電池了。表3下游客戶端同步達(dá)標(biāo)率每日統(tǒng)計(jì)客戶端IP同步成功率平均offset(ms)最大offset(ms)是否達(dá)標(biāo)192.168.10.101100%0.0230.156?192.168.10.10299.8%0.0340.212?192.168.10.10387.2%1.23415.678?達(dá)標(biāo)標(biāo)準(zhǔn)同步成功率99.5%最大offset5ms。低于此值立即登錄該客戶端執(zhí)行ntpq -p看是否指向了錯(cuò)誤的NTP源。4.2 典型故障速查手冊(cè)從現(xiàn)象到根因的完整路徑我整理了過去三年線上遇到的12類NTP故障按發(fā)生頻率排序每類都附帶現(xiàn)場(chǎng)診斷命令根因修復(fù)方案。故障1ntpq -p顯示所有源reach為0現(xiàn)場(chǎng)診斷# 檢查網(wǎng)絡(luò)連通性 ping -c 4 114.114.114.114 # 檢查UDP端口是否可達(dá) nc -uz 114.114.114.114 123 echo OK || echo FAIL # 檢查ntpd是否監(jiān)聽 ss -tuln | grep :123根因90%是防火墻攔截10%是上游服務(wù)器宕機(jī)。修復(fù)firewall-cmd --add-servicentp --permanent firewall-cmd --reload或臨時(shí)換一個(gè)上游源。故障2offset持續(xù)增大且jitter5ms現(xiàn)場(chǎng)診斷# 檢查本機(jī)CPU負(fù)載 top -b -n1 | head -20 # 檢查是否有進(jìn)程在瘋狂刷磁盤 iostat -x 1 3根因高IO或高CPU負(fù)載導(dǎo)致ntpd進(jìn)程被調(diào)度延遲無法及時(shí)處理時(shí)間包。修復(fù)按2.2節(jié)方法綁定CPU核心并降低maxpoll值到532秒輪詢減輕單次處理壓力。故障3ntpq -p顯示*號(hào)在本地時(shí)鐘127.127.1.0上現(xiàn)場(chǎng)診斷# 查看日志中的上游連接嘗試 grep 114.114.114.114 /var/log/ntp.log | tail -10 # 檢查DNS解析是否正常 dig 114.114.114.114 short根因所有上游源都不可達(dá)ntpd被迫啟用本地時(shí)鐘。此時(shí)/var/lib/ntp/drift文件會(huì)停止更新。修復(fù)立即檢查網(wǎng)絡(luò)路由、DNS配置并在/etc/ntp.conf中臨時(shí)增加一個(gè)更可靠的上游如server time1.aliyun.com。故障4下游客戶端ntpq -p顯示refid為.INIT.或.STEP.現(xiàn)場(chǎng)診斷# 在客戶端執(zhí)行 ntpdate -d 192.168.10.100 # 觀察輸出中的Server dropped: strata too high根因上游服務(wù)器尚未完成同步stratum仍為16客戶端拒絕同步。修復(fù)在上游服務(wù)器上等待ntpq -p顯示st列2且有*號(hào)后再啟動(dòng)客戶端服務(wù)。故障5時(shí)間同步后系統(tǒng)日志時(shí)間戳依然錯(cuò)亂現(xiàn)場(chǎng)診斷# 檢查rsyslog是否使用了本地時(shí)鐘 grep -r imjournal\|imuxsock /etc/rsyslog.conf # 檢查內(nèi)核日志時(shí)間 dmesg | head -10根因rsyslog默認(rèn)使用系統(tǒng)啟動(dòng)時(shí)的本地時(shí)間不隨NTP同步更新。修復(fù)在/etc/rsyslog.conf中添加$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat并重啟rsyslog。4.3 長(zhǎng)期維護(hù)如何讓這套系統(tǒng)“自我進(jìn)化”一個(gè)優(yōu)秀的時(shí)間服務(wù)器不應(yīng)該需要你每周登錄查看。我的做法是第一自動(dòng)化漂移學(xué)習(xí)ntpd的/var/lib/ntp/drift文件記錄了晶振漂移率但它是靜態(tài)的。我寫了一個(gè)腳本每天凌晨2點(diǎn)讀取該值結(jié)合過去7天的offset趨勢(shì)用線性回歸預(yù)測(cè)未來24小時(shí)的漂移并生成新的drift文件#!/bin/bash # /usr/local/bin/update-drift.sh LOG/var/log/ntp.log DRIFT/var/lib/ntp/drift # 提取最近1000行offset數(shù)據(jù) grep offset $LOG | tail -1000 | awk {print $(NF-1)} /tmp/offsets.txt # 用Python做簡(jiǎn)單線性擬合此處省略具體代碼 python3 /usr/local/bin/fit_drift.py /tmp/offsets.txt $DRIFT.new mv $DRIFT.new $DRIFT第二上游源健康度月度報(bào)告每月1號(hào)腳本自動(dòng)匯總上個(gè)月所有上游源的delay、jitter、offset均值和標(biāo)準(zhǔn)差生成PDF報(bào)告郵件發(fā)送給運(yùn)維組。連續(xù)兩個(gè)月jitter標(biāo)準(zhǔn)差1ms的源自動(dòng)從配置中剔除。第三硬件時(shí)鐘電池預(yù)警主板CMOS電池壽命約3-5年。我通過監(jiān)控/proc/sys/dev/cmos需內(nèi)核支持或定期讀取hwclock --show的誤差累積值當(dāng)24小時(shí)誤差1秒時(shí)自動(dòng)創(chuàng)建Jira工單提醒更換。5. 擴(kuò)展思考當(dāng)ntpd遇上容器化與云原生你可能會(huì)問“現(xiàn)在都上K8s了還要搞ntpd嗎”答案是越云原生越需要一個(gè)堅(jiān)實(shí)的本地時(shí)間基座。在Kubernetes集群里每個(gè)Pod的時(shí)鐘都繼承自宿主機(jī)。如果宿主機(jī)時(shí)間漂移所有Pod的日志、metrics、trace都會(huì)錯(cuò)亂。而K8s的Node節(jié)點(diǎn)往往就是你之前配置的那些Linux服務(wù)器。所以ntpd不是過時(shí)了而是下沉到了更底層——它成了整個(gè)云平臺(tái)的時(shí)間地基。我們現(xiàn)在的實(shí)踐是控制平面Master節(jié)點(diǎn)運(yùn)行ntpd作為集群唯一權(quán)威時(shí)間源數(shù)據(jù)平面Worker節(jié)點(diǎn)禁用所有時(shí)間同步只信任Master的NTP服務(wù)特殊工作負(fù)載對(duì)時(shí)間精度要求極高的StatefulSet如時(shí)序數(shù)據(jù)庫(kù)通過hostPath掛載宿主機(jī)的/var/lib/ntp/drift并設(shè)置securityContext.privileged: true直接訪問硬件時(shí)鐘。另外對(duì)于Serverless函數(shù)如AWS Lambda雖然你無法控制底層OS但可以在函數(shù)初始化階段調(diào)用一次你的本地NTP服務(wù)器獲取精準(zhǔn)UTC時(shí)間作為所有后續(xù)計(jì)算的基準(zhǔn)。這比依賴Lambda運(yùn)行時(shí)的系統(tǒng)時(shí)間可靠得多。最后分享一個(gè)小技巧在Prometheus監(jiān)控體系中我專門部署了一個(gè)ntp_exporter它把ntpq -p的輸出轉(zhuǎn)化為Metrics接入Grafana后可以直觀看到所有上游源的offset_seconds、jitter_seconds、delay_seconds曲線。當(dāng)某條曲線突然上揚(yáng)告警立刻觸發(fā)——這才是現(xiàn)代運(yùn)維該有的樣子。我在實(shí)際運(yùn)維中發(fā)現(xiàn)真正讓時(shí)間服務(wù)器“堅(jiān)如磐石”的從來不是多復(fù)雜的配置而是對(duì)每一個(gè)參數(shù)背后物理意義的理解以及對(duì)每一次微小偏移背后硬件狀態(tài)的敬畏。它不聲不響卻支撐著你所有業(yè)務(wù)日志的時(shí)序、所有數(shù)據(jù)庫(kù)事務(wù)的隔離、所有分布式鎖的公平。當(dāng)你某天深夜收到一條“時(shí)間同步異?!钡母婢瘎e急著重啟服務(wù)——先泡杯茶打開ntpq -p看看那個(gè)小小的offset數(shù)字它正默默告訴你這臺(tái)服務(wù)器的心跳是否依然穩(wěn)健。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情综合婷婷久久| 丁香五月在线自慰| 色色色综合网| 久久九九免费大视频| 超碰在线人妻| 99综合免费视频| 久久久性爱视频| 在线中文字幕视频| 久草嫩草在线观看| 婷婷五月激情黄色| 婷婷五月色播| 91九色国产熟女| 九九这里是免费的视频5| 婷婷五月天六点丁香五月| 久久久中文| 五月丁香激情婷婷综合| 亚洲人人96@| 国产第99页| 五月天丁香| 97婷婷五月| 青青草tp| 色色五月天丁香婷婷| 久草热久草在线视频| 五月婷婷五月天激情网| www.伊人天堂偷偷婷婷| 日操| 色色日韩| 亚洲va欧美| 久久99久久99久久99| 综合久久9| 五月丁香啪啪激情| 九九成人精品免费视频| 色九月婷婷综合| 婷婷婷婷婷婷婷婷婷婷丁香| 玖玖色综合色| 日韩二区搞逼插逼毛片| 国产婷婷婷| 人人人操| 97av在线视频| 久热超碰| 五月色婷婷综合丁香精品无遮挡| 这里只有精品日韩| 婷婷色女| 婷婷五月免费在线| www.日韩艹| 91婷婷| 久久久久久18| 开心久久网婷婷| 国产又粗又大又爽又黄| 日日影院 | 丁香九月婷婷综合| 欧美噜噜噜草| 九九家庭影院| 久er7久热| 91九色国产| 九月丁香欧美综合| 成人网站高清无码| 日韩超碰在线| 99色视| 五月丁香婷婷综合视频| 粉嫩av蜜桃av蜜臀av| 色婷久| 五月天丁香啪啪啪啪| 八戒青柠影视剧在线观看| 婷婷久久五月丁香| 丁香婷婷五月天校园春色| 9999三级片| www.五月丁香| 五月6香色婷婷视频| 大香蕉伊人爱在线| 在线,国产,色,热视频| 婷婷导航| 五月天婷婷丁香蜜桃91| 夜夜夜夜夜骑撸| 激情综合色五月丁香六月亚洲| 欧美婷婷五月天综合| 熟女五月天久久综合| 五月丁香啪啪激情| 伊人五月婷婷国产视频| 综合激情在线视频| www婷婷亚洲| 五月丁香婷婷啪啪综合网| 成人五月天色天堂| 天天撸天天干天天插| 深爱激情六月| 99色在线| 婷婷九月久久| 亚洲永久免费| 五月的婷婷六月丁香| 五月丁香色五月| 九玖欧洲亚洲| 五月天开心色情网| www.99riav99| 色五月网址| 久久狠色噜噜狠狠狠狠97| 色大综合| 91日本在线| 久久免费精彩视频| 色原狠狠综合| 婷婷深爱色五月| 婷婷五月超碰| 欧美成性色| 伊人国产婷婷五月天 | 五月婷婷丁香社区| 婷婷五月六月| 久久码久久无清| 亚洲激情综合网| 免费精品66| 婷婷五月18永久免费视频| 亚洲综合另类| 五月婷婷影视| 99热亚洲| 天天做天天爱天天搞| 夜夜嗨一区二区三区直播内容 | 97色色视频| www.开心激情| 色色五月婷| 久久综合中文字幕| 99性爱视频| 超碰碰碰碰| 99欧美精品99日本精品| wWwCom夜操wwW| 激情小说之五月| 类似婷婷激情综合网站| 久久婷婷超碰| 九九热九九| 五月丁香淫淫婷婷婷| 欧美人妻一区二区| 久久九九中文字幕| 丁香五月六月婷婷殴美综合| 大香蕉在九| 91网站黄| 亚洲婷婷欧美婷婷| 中文AⅤ大全| 久久99这里只有精品| 五月婷视屏在线观看| 精品人妻伦一二三区久久| 激情五月天伊人av| 精品久久久久成人码免费动漫| 中文字幕,综合,91| 色五月婷婷亚洲最大| 激情综合五月| 99热9999| 色五月天堂| 久久五月婷综合网| 99热精品在线播放| 日本久久色| 精品视频这里只有精品| 色情综合网| 丁香婷婷五月人体| 热99这就是精品视频| 极品人妻VIDEOSSS人妻| www.精品99| 强伦轩人妻一区二区电影| 亚洲在线网站| 99久久玖玖| 色五月激情网| 国产精品色色色色| 亚洲五月六月婷婷| 99er精品视频| 婷婷丁香成人五月天| 亚洲成人在线观看av| 99热精品在线观看| 99操99| 亚洲精品国产成人AV在线| www.婷婷五月天| 大香蕉久久久久久久久| 婷婷五月天激情小说| 日韩五月婷婷久久| 99热热这里只精品996小说| 五月婷婷激情日本| 婷婷五月电影院| 成人免费高清在线播放| 九九99免费理论| 狠狠色丁香久久| 激情小说在线视频| 五月婷婷色色| 欧美成人猛片AAAAAAA| 亚洲国产精品五月天| 丁香五月天堂网| 91天天操天天干天天射| 极品少妇XXXX精品少妇偷拍| 这里只有精品视频| 另类天堂| 亚洲性爱AV在线| 免费99情趣网视频| www.五月婷| 99久视频| 婷婷五月天美女| 色婷婷六月| 另类丁香五月天区图| 熟女强人妻一区二区三区四区无| 婷婷五月综合网| 金品在线视频99| 日韩精品999| 五月天激情婷婷| 色五月丁香五月激情五月激情| www.狠狠| 成年人丁香五月| www.五月婷婷.com| 亚洲黄色网址| 久久丁香五月婷婷| 日日操日日爽| 丁香五月婷婷深五月| 最近免费中文字幕大全高清大全1| 热这里| 大香蕉久久久久久久久| 九九sese| 久久婷婷综合拍| 日韩成人综合网| 天天搽天天射| 99玖玖人人| 亚洲无码99| 色婷五月| 亚洲xx网| 伊人丁香五月天丁香在线婷| www.五月丁香| 五月天播播| 爱性综合网| 五月天久久色| 538在线精品| 色小说五月婷婷| 国产免费一区二区三州老师F1F1……| 国产乱人偷精品人妻A片| 婷婷第一页| 五月丁香影视| 色色色五月婷| 婷婷开心五月| 欧美丁香六月激情视频| 五月天婷婷激情网| 91黄址| 国产AV一区二区三区最新精品 | 抽插特写| 校花娇喘呻吟校长陈若雪视频 | 少妇性按摩无码中文A片| 色婷婷亚洲精品天天综| 青青草原99热| 亚洲女婷婷五月基地综合久久久| wWwCom夜操wwW| 日本va欧美va国产激情| 精品免费99| 久久久中文| 9久操| 国产AV一区二区三区最新精品| 丁香五月婷婷激情尤物| 99热综合网| 色视五月天婷婷| 超碰在线成人| 99色日本| 狼人婷婷综合| 亚洲色图45p| 97偷拍对白视频| 久久五月综合| 婷婷综合久久| 超碰免费在线| 亚洲精品国产熟女久久久| 色色丁香| 五月婷婷色五月| 色婷婷电影网| 五月天伊人| 婷婷六月视频| 99精品大片| 五月色情网| 婷婷五月天在线看| 中文成人在线| 精品久久久久成人码免费动漫| 婷婷色五月激情| 99综合| 久久人妻www| 色综合日日| 思思热在线精品视频网站| 欧美噜噜免费观看| 色欲五月天| 日本色婷婷综合| 五月丁香六月婷婷啪啪综合| 欧美一区二区三区不卡影视| 岛国资源站| 日本婷婷激情四射中文字幕在线观看| 淫视馆av三区| WWW99视频| 综合激情在线观看| 日韩操人| 97婷婷丁香五月天激情图片| 丁香五月天啪啪a日本| 丁香五月六月激情| 婷婷五月激情五月激情| 日韩婷婷| 九九成人视频| 超碰97在线观看免费| 综合色七七| av操B网站| 日韩精品无码AV| av最新在线| 五月婷婷婷| 91色在线| 五月社区婷婷激情| 操操操Av| 亚洲人妻av| 国外亚洲成AV人片在线观看| 91疯狂操操操操| 色呦呦美女| 67194成I人在线观看线路1| 婷婷五月激情的图片| 伊人网碰碰| 色婷婷六月| 无码激情AAAAA片-区区| 97热九九| 狠狠操天天日| 殴美激情综合网| 五月天激情丁香| 国产成人精品123区免费视频| 丁香五月天堂婷婷| 亚洲区视频| 国产综合激情五月久久| 久9视频免费播放| 深爱激情五月天| 色婷婷丁香女女| 婷婷狠狠97| 欧洲亚洲免费视频9| 99综合网| 五月婷婷色影院| 夜夜骑操AV| 男人的天堂五月丁香| 伊人网啪啪| 精品人妻伦一二三区久久| 97干在线免费| 成人久久天天x资源站| 久 久9 9 热 视 频| 婷婷五月天影院| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 五月天综合在线观看| 日韩欧美一级大黄网站| 九九热99精品| 开心五月丁香啪| 在线观看中文字幕亚洲| 殴美97色| 狠狠狠五月婷婷六月丁香| 欧美婷婷日本| 久操人| 另类小说五月天综合| 69色婷婷| 丁香六月欧美| 五月丁香婷婷激情图片| 日本的α片xxxwww| 超碰人人草| 丁香色情五月综合激情| 91人妻视频| 99视频在线| 亚洲婷婷综合视频| 丁香五月六月婷婷综合激情| 99热精品在线| 91九色 婷婷| 天天射天天射一道本日本社区| 99色精品| 97av在线视频| 成人丁香五月| 91丨九色丨43老版熟女| 天堂色婷婷| 影音先锋91视频| 欧美五月丁香在线观看| 日日做A爰片久久毛片A片英语| 99热亚洲| 人人操AV| 26UUU一区二区| 97色久| 色婷婷四色| 九九色插| 直接看的av| 狠狠色综合无线观看| 五月综亚洲| 另类小说色婷婷| av网址在线| 开心婷婷五月| 色狠狠色综合久久久绯色AⅤ影视| 开心激情网五月| 色天使久久综合| 婷婷色五月色妇| 国产成人精品亚洲线观看| 99色区| 天天噜噜| 五月天色官网| 亚洲情欲久久| 五月天婷婷AV| 婷婷成人综合| 日日躁夜夜躁狠狠久久AV| 99这里只有精品国产| 婷婷五月激情综合| 激情五月丁香激情综合网| 欧美成人AAA片一区国产精品| 2025最新亚洲激情在线| 超碰2021| 99狠狠色| 五月婷婷丁香伦理网| 精品一二三区久久AAA片| 天天拍夜夜爽日日| 久久婷婷综合五月趴| 五月婷婷综合天天操| 色五月婷激情| 超级碰碰碰碰视频| 大香蕉综合在线| 五月深爱婷婷| www.久久9| 2017人人操| www.99久| 五月婷婷影视| 伊人狠狠丁香婷婷综合尤物| 婷婷欧美色| caop视频| 99re在线视频精品,这里只有精品18,| 无码激情AAAAA片-区区| 激情九色| 热久久66| 五月天堂色| 亚洲精品又粗又大又爽A片| 丁香五月停停av| 五月丁香自拍| 成人五月丁香花| 丁香婷婷色五月激情综合| 久操大| 99干日日干| 九九婷婷网五月天| 成年AAAA色情| 伊人久热91| 青青草成人网| 色五婷婷在线视频| 九九九午夜影院成人| 久久99免费视屏| 丁香成人五月天| 久久这里只有精品视频26| 日韩超碰在线| 开心激情站婷婷五月天| 欧美久久婷婷| 91性人人| 丁香婷婷成年| 亚洲色五月| 日韩aaa| 婷婷五月天美女| 大香人妻| 色六月 婷婷| 久久久WWW| 六月婷婷国产| 激情五月天综合图片小说网站| 婷婷色五月天色| 黑人糟蹋人妻HD中文字幕| 五月婷婷啪啪综合网| 婷婷五月俺要去| 人妻aV在线| 丁香五月婷婷av影院| 色播五月丁香| 婷婷六月色开 | 婷婷97碰碰| 大香蕉人在线65| 亚洲亚洲人成综合网络| 操91| 丁香五月在线播放| 免费观看亚洲AV片| 婷综合| 99九九这里有免费视频| 亚洲第一成人无码A片| 久久九九99| 成人va视频| 天天操夜夜爽| 综合综合网| 翔田千里aV中文字幕| 变态另类9| 97在线日本| chaopengdaxiangjiao| 日本丁香五月| 综合色播| 噼里啪啦在线观看免费完整版视频 | 色五月丁香com| 婷婷久草| 午夜天堂啪啪| 天天爱天天狠天天透| 噜噜噜噜在线| 99亚洲欧洲| 九九国产精视频| 9精品在线| 色婷婷久久综| www,色婷婷| 26uuu偷拍亚洲欧洲综合| 婷婷五月天亚洲综合网| 五月天堂六月丁香亚州中文字幕久久 | 综合www色| 91久女| 日本91在线播放| 五月丁香花成人社区| 国产精产国品一二三在观看| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 婷婷综合一二三| 开心激情五月天网| 天天日天天操心| 一级黄色尤物综合视频手机在线观看| 五月天六月婷婷电影| 亚洲色综久久五月| 五月婷婷五月丁香| 九月激情网| av中文在线| 可以看的AV| 天天天天天天操| av九九| 4399无码视频| www一起操在线观看| 亚洲视频操| 色五月激情综合网| 亚洲看av的网站| 亚洲人人操BD| 激情四射网| 色情五月综合婷婷| 67194线路二在线观看| 影音先锋综合网| 99热99久久| 天天做天天爱天天日| 天天干天天日天天插| www.sezonghe| www.久久久.com| 久久久五月天| 丁香六月婷婷开心婷婷网| 久久 婷婷 五月天| 99人人操人人摸| 26uuu欧美| 激情综合五月婷婷| 婷婷之玖玖| 色噜噜狠狠色综合日日| 精品草原久久视频| 四色99久久| 人妻熟女一区二区AV| 高清国产一级婬片a免费| 99ri在线视频| 婷婷五月天在线综合| 欧美五月婷婷| 成人AV播放| 激情色色| 丁香五月婷婷香| 亚洲精品99| 亚洲AV无码成人电影| 人人妻人人澡| 天天插天天操| 777影视理论片大全在线观看| 碰碰碰97国产| 婷婷基地成人五月天| 99热在线免费| 亚洲V国产V欧美V久久久久久| 婷婷久久女人| 五月永久激情| 六月综合婷婷开心伊人| 激情AV中文| 高清激情av在线观看| 婷婷丁香六月| 国产亚洲成人综合| 亚洲午夜精品久久久久久人妖| 99免费热视频在线| 91se精品国产| www.sd-xiangsu.cpm| 国产97色在线 | 日韩| 丰满少妇猛烈A片免费看观看 | 五月综合人妻| 色爱99| 丁香婷婷基地| 久久一操| www、色色色| 被强行糟蹋的女人A片| 色丁香五月天| www.久久爱.com| 激情综合五月丁香六月婷婷| 色婷婷香蕉丁丁网| 欧美成人AAA片一区国产精品| 色五月婷婷自拍| 新伍月婷婷| 五月日韩中文字幕| 五月天播播综合| 丁香六月啪| 六月婷婷七月丁香| 色噜噜狠噜噜视频| 国产成人AV在线播放| 这里只有精品视频一区| 激情6月| 精品九九视频| www.wuyuetian啪啪| site:jszngf.com| 99热.com| 青草性爱视频| 熟妇人妻中文字幕无码老熟妇 | 南京搡BBBB搡BBBB| 国精产品一区一区三区免费视频 | 黄网免费看| 九月av| 欧美日比视频| 婷婷天堂综合| 能看的av| 夜夜天天久久婷婷| 亚洲精品字幕| 99性爱精品| 大香伊人久色| 婷婷五月天六点丁香五月| 无遮羞AV| 六月丁香VA| 99小视频在线观看| 影音先锋91| 热久久91| 久草热久草在线视频| 狠狠擼综合| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 啪色综合| 青青草五月天| 中国AV性爱观看| 九九精品免费视频99| 色色色色色网站| 亚洲免费观看高清完整版AV线| 99热这里都是精品| 色五月开心婷婷| 中文字幕人成乱码在线观看| 六月丁香五月激情婷婷| 性爱网六月丁香| 欧美色99| 三级成人网站| 五月婷婷亚洲色图| 色色色色色色网站| 九九色精品| 四川女人毛多水多A片| 这里只有精品免费观看网占| 丁香五月综合激情性爱| 色色色图| 久久丁香久久| 色色丁香婷婷| 日本不卡高字幕在线2019| 久久综合丁香激情五月| 日本三久久| 五月天丁香| 丁香五月婷婷色情综合| 中文字幕AV网址| 五月天婷婷综合网| 日本色色网站| 婷婷综合网伊人| 97人妻碰碰碰久久| 国产一区二区三区影院| 五月天婷婷成人网| 天天粽合合合合| 五月丁香婷婷欧美色图视频五月丁香777电影 | 毛v一区二区视频| 亚洲激情五月| 九九婷婷网五月天| 日本无va视频| 婷婷综合色图| 亚洲区1| 色婷婷视频| 亚洲成人五月| 日韩六六久久电影| 日木狠狠干| 九九久久污| 婷婷五月影院| 久久久激情视频| 久久精品视频9| 色婷婷手机在线| 99久久国产宗和精品1上映| 丁香六月婷婷久久综合| 婷婷五月天美女视频| 婷婷色婷婷亚洲成人| 婷婷性爱视频在线| 久草婷妨| co超碰在线观看| 五月综合激情| 色色婷婷丁香| 久久婷婷五月天激情四射| 插插网爽妇五月丁香| 激情综合五月| 色综合九九色综合88| 久久五月天影院| 天天综合精品| 9久久精品| 婷婷99中文字幕| 日日杆天天| 日日狠狠久久偷偷四色综合免费| 色婷婷4| 色婷婷五月天激情| 六月婷婷激情| 91综合在线| 成人丁香色| 丁香香蕉婷婷| 伊人久热91| 人人操人人妻| 夜色爱爱亚洲| 欧美色偷偷大香| 丁香婷婷五月色综合| 久久丁香五月天| 天天插综合| 91碰碰碰| 丁香六月婷婷| 九九热在线视频| 日本色天堂| 久久99久久99精品免观看粉嫩| 99热免费| 狠狠高潮精品亚洲1| 五月丁香六月成人| 久久激情五月| 99热在线观看| 五月激情啪啪啪| 另类图片天天影视在线观看| 久久免片| 无码AV免费精品一区二区三区| 精品一二三区久久AAA片| 黄桃AV无码免费一区二区三区| 亚洲va成人va成人va在线观看| 婷婷色婷婷| 久久er99热精品一区二区| 无码人妻AV久久久一区二区三区| 综合av在线| 丁香六月婷婷激情| 91丨九色丨老农村| 亚洲综合一区二区| 青草网在线观看| 五月婷婷综合色啪| 五月激情婷婷开心| 久久久久这里只有精品| 亚洲精品国产setv| 亚洲九九夜夜| 色九月综合| 五月丁香婷婷综合视频| 五月丁香婷中文| 99久久久国产大片区| 天天插夜夜爽| 五月天成人在线视频网站| 成人在线网址| 国产精产国品一二三在观看 | 亚洲第一第二网站| 丁香色五月 97干| 伊人无码高清| 色婷婷丁香社综合| 亚洲婷婷五月天综合| 天天日日爽| 精品网站:999WWW| 六月丁香网| 极品五月天| 97久久人人操| www,五月天激情| 99色五月| 色色网站毛片| 涩涩五月天| 色吧99| 丁香五月天堂网| 久久激情五月网| 中文字幕在线日亚州9| 老美AA片| AV操操操| 免费在线观看av网站| 久久九九玖玖| 狠狠干思思热| 五月丁香久久| 性爱五月丁香| 另类综合网| 永久精品| 开心五月婷婷婷美女| www.狠狠色.com| 亚洲成人免费在线| 五月丁香色婷婷色| 美女五月狠狠| 潮汕成人AV片在线| 国产成人va在线| 热九九精品| 秋霞性爱AV| 六月久久婷婷| 免费成人中文字幕| 婷婷五月天激情亚洲小说| 亚洲天堂热| 久久久九九九 99| 五月丁香六月婷婷免费| 五月天啪啪| www.一起草av| 99视频精品全部免费观看| 色中色综合| 色婷婷天堂| 婷婷开心激情五月激情网| 久热9| 亚洲自拍天堂| 久草热视频在线观看| 1024在线一区| 欧美激情五月天在线观看| 色色五月丁香婷婷| www.99精品视频| 99视频网| AA片在线观看视频在线播放| av在线超清中文| 99热在线精品观看| 91精品人妻少妇无码影院| 深爱婷婷丁香五月激情| 任你搞免费视频观看| 色。 日日日| 日本色婷婷| 丁香五月 综合| 久草热久草在线视频| 色色丁香五月婷婷| 99热99精品在线观看| 婷婷五月骚厕所| 91啦丨九色丨刺激中文| 日韩色色视频| 99热碰碰热| 欧美性丁香色色五月天干干| 一區四區歐美日韓| 丁香五月天AV在线 | 99久热视频在线| 欧美成人A片AAA片在线播放| 色综合偷拍| 丁香花五月天激情| 五月婷婷高清| 超PEN精品在线| 99热这里只有免费精品| 免费播放片大片| 婷婷五月天成人网| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 激情影院免费视频婷婷五月天| 激情婷婷激情在线不卡| 射久久丁香五月| 色 免费网站视频| 国产美女无遮挡裸体毛片A片| 日撸夜撸日操| 久久婷网| 熟妇内谢69XXXXXA片| 五月丁香啪啪伦理电影| 91无码视频| 成人综合网站| 夜夜骑天天操| 色婷婷五月开心六月综合| 五月日韩中文字幕| 五月婷婷丁香五月 | 九九热在线精品| 二色av| 婷婷在线中文字幕| 久久久99免费视频| 成人色情五月天婷婷丁香| 久久综合9| 日韩视频99| 丁香婷婷中文字幕| 91色久| 99视频日韩| 色日本五月天| 5月婷婷激情在线| 99re热精品视频国| 色欧美日| 荫道BBWBBB高潮潮喷| 精品人妻在线| 五六月丁香激情视频| 大香蕉久久草| 182.t午在线观看| av大香蕉| 99精品免费视频| 天天综合天天做天天综合| 中文字幕av亚洲| 三十熟女| 99热这里只有精品4| 六月综合在线| 五月丁婷婷| 午夜丁香婷婷| 久久999久久999久久999久久| 丰满少妇猛烈A片免费看观看| 人人综合久| AV五月婷婷露脸| 亚洲婷婷五月草久| 综合久| 综合玖玖偷拍| 伊人喵咪a V| 这里只有精品视频在线| 婷婷久久大香蕉| 婷婷色色婷婷| 婷婷五点亚洲| 亚洲综合婷婷| 一区二区三区四区五区| 综合色五月| 婷婷五月天丁香成人社区| 美女久久婷婷| A片试看50分钟做受视频| 色99在线| 9热精品| 丁香婷婷色五月激情综合| 五月天成人在线| 日本五月婷婷久久久六月丁香| 男女99免费视频| 久久超级碰碰| 亚洲精品在线视频| 久久天堂精品| 激情丁香久久| 日本理论久久| 久久青青日本视频| 啪啪视频99| 日本三级日本黄色| 久久婷婷五月丁香蜜桃网| 日日噜狠狠色综合久久| 新99色色色色色色| WWW五月婷婷| 亚洲日本激情| 色婷婷欧美在线| 色婷婷中文字母五月丁香| 婷婷丁香五月天婷婷| 婷婷久热| 激情五月天婷婷激情| 婷婷永久在线| 日日噜狠狠| 99色热| 五月丁香爱婷婷深深| 日韩色色小视频| 国产99热在线看| 五月丁香婷婷网网网网| 五月婷婷内射网| 亚洲色五月天是什么| 天天操天天爽天天爱| 伊人婷婷五月| www.深爱激情| 可以免费观看的av| 五月婷网| 开心五月网 | 婷婷中文字暮| 久久99精品日本| 丁香五月日韩| 人妻自慰在线| 六月丁香婷婷尤物| 婷婷五月天干干| 青草五月天| 亚洲av网站在线观看| 一级性爱视频| 国自产拍偷拍精品啪啪一区二区| j五月香在线| 日韩无码亚欧无码| 国产操B视频| 无码一区二区日韩| 五月丁香婷婷中文网| 五月天网站免费欧美| 大香蕉啪啪啪| 丁香五月婷婷姐| 婷婷五月六月丁香综合| 色99视频| 久久婷婷六月综合综合| 五月久久丁香| 亚洲综合无码| 五月天婷五月天综合网在线观| 九九热手机在线视频| 综合色色色| 天天搞天天爽| 亚洲AV久久久久久久久久久久久久久久| 精品一区二区三区三区| 99热老网站| 婷婷色日本| 精品色色| 情欲禁地| 丁香五月婷婷亚洲色图| 丁香五月天色综合| 这里只有免费精品| 久久人人看| 婷婷丁香综合网| 99网址在线看| 激情宗合网激情五月天| 亚洲av综合网| 综合欧美五月婷婷| 另类专区在线| 五月丁香激情深爱婷婷| 大香蕉综合在线| 国内自拍97在线| www.狠狠| 欧美日韩AAA| 这里只有精品视频99| 丁香五月婷婷综合激情哟哟哟| 色色色干| 婷婷五月天欧美| 五月丁香狠狠爱| 九月婷婷综合网| 日本成人噜噜噜噜噜| 色播婷婷五月天| 香蕉视频性爱BB做爱| 亚洲艹网| 色婷婷精品视频| 荫道BBWBBB高潮潮喷| 91精品在线看| 激情五月五月婷婷| 精品香蕉99久久久久网站| 九热...av| 五月激情小说网| 狠狠精品干练久久久无码中文字幕| 色天堂A| 综合图区激情| 99色综合| 精品久久99码| 婷婷五月天天爽| 96丁香婷婷九月蜜桃综合久久| 99热福利| 91操片| 亚洲有码在线视频| 激情色视频| 久久人妻少妇嫩草AV| 天天五月香欧美| 99操视频| 激情六月婷婷| 伊人玖玖网| 久久久九九九 99| 五月丁香婷婷伊人| 四LLL少妇BBBB槡BBBB| 亚洲国产精品成人免费一区久久久在线观看AAAA | 99热首页| 丁香六月婷婷综合| 五月玖玖| 97五月久久丁香婷婷| 激情丁香五月天| 国产激情一区| 丁香婷婷伊人| 亚洲日韩成人三级av| 五月婷婷六月丁香综合视频在线| 久久99网| 国产99热| 丁香六月啪啪| 丁香五月婷婷狠狠色| 大香蕉啪啪网| 99 热国产在| 五月丁香六月激情欧美综合| 亚洲在线综合| 色情五月综合婷婷| 日韩综合网络男女香蕉a片| 亚洲综合视频在线| 国产99久久久| 色爱五月天| 久久综合这里只有精品1| 丁香六月在线| 婷婷综合激情五月中文字幕| 欧美色五月| 六月丁香五月激情亚洲AV| 丁香五月电影| 四五月婷婷| 高潮毛片又色又爽免费| 五月丁香婷婷伊人| 久久3级片| 少妇达人正片在线播放_ikun_福利吧| 人人97操| 激情六月天婷婷| 天天搡日日搡aaaaⅩ| 亚洲色网址| 亚洲激情高潮| 碰超亚洲| 久久色亭亭五月天| 五月色网| 亚洲AV免费在线| 激情二色月| 欧美婷婷综合| 九九色综合网| 激情五月天啪啪视频| 久久久亚洲精品一区二区三区浴池| 五月婷六月天| 91日精品| 久久久久人妻网址| www·五月天| 色护士综合| 色婷婷免费观看| 再綫Av免费視品| 雪千夏麻豆| 一起草无码| 热久久99视频| 丁香青青五月天| 久久精品婷婷| 精品九九视频在线观看| www亚洲无码| 久久婷婷五月天| 四色女婷婷| 在线观看免费狠狠色丁香香综合| 婷婷五月天伊人| 国产日日操夜夜操的肉棒视频| 久久99大全| 色99在线| 国产免费av在线| 婷婷黄色五月天在线视频| 性爱网五月天| 激情五婷网| 婷婷激情蜜桃玖玖丁香| 青青夜夜狠狠夜夜狠狠| 欧美三级韩国三级日本三斤| 久久永久视频| 婷婷六月丁香激情综合| 丁香九月激情久久| 日本天天色| 婷婷婷婷婷婷婷婷| 婷婷激情丁香五月婷婷激情丁香五月婷婷| 淫视馆av三区| 99热精品无码| 综合久久五月天| 五月婷婷六月丁香激情深爱| 亚洲人成网站999久久久综合| 天天色天天日| 国产综合网在线| 亚洲激情免费久久| 中文字幕欧美久久| 综合福利网| 色色射| 激情五月天在线视频| 六月激情婷婷色| 久一网站| 亚洲精品第一国产综合亚AV| 亚洲超碰在线| 色播播婷婷| 丁香婷五月| 六月丁香婷婷视频综合在线观看| 日韩黄色AV无码| 欧美69久成人做爰视频| 色啪网| 99久久精品国产色欲| 人人人操B超碰| 26uuu四色| 久久久久久综合88| 九月丁香欧美综合| 久久视9精| 极品人妻VIDEOSSS人妻| 天天操天天曰| 久久99精品久久久久久噜噜| 中文字幕乱轮| 另类激情五月| 五月婷婷成人网首页| aaaaa黄色| 色婷操逼| 久久天堂网| 第四色网婷婷| 色综合久久88色综合天天| 五月婷婷涩涩爱| 九九热精品| 国内外色色色色色成人视频| 亚洲欧美综合7777色婷婷| 五月丁香在线| 五月丁香六月婷婷色日| 五月激情婷婷六月| 五月婷婷丁香av| 亚洲mm色| renre人人操国产超碰在线| 热99精品视频观看| 99re这里只有精品国产99| 99热综合在线| 性爱先锋AV| 最新日本A片| 性色欲情 网站| 国产欧美日韩性爱| 这里只有精品视频222| 亚洲成人网站在线观看| 五月综合久久| 综合亚洲色色| 这里只有精品视频国产| 丁香五月婷婷动漫| 99热久久最新地址| 99精彩视频网站在线| 色婷婷小说网| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 激情婷婷五月天| 97五月久久丁香婷婷| 色综合久久88色综合天天看| 97色在线观看视频| 美女网黄| 色五月激情| 99爱视频| 婷婷91视频| 婷婷成人av| 九九中文字幕九| 懂色av蜜臀av粉嫩av永陈冠希| 国产免费av在线| 亚洲视频二区| 99精品热视频只有精品10| 久久在这里有精品| 精品九九视频| 欧美成人A片AAA片在线播放| 激情图片五月天| 91人妻人人做人碰人人爽九色| 婷婷五月天小说网| 欧洲第一无人区观看| 激情综合视频| 激情九色| 色婷婷五月天激情| 五月婷婷影视| 日日天天干| 91精品久久久久久77777| 涩五月婷婷| 91av视频| 五月停停999| 天天操夜夜夜夜爽| 亚洲欧州色情在线观看| 婷婷五月天AV在线| 婷婷丁香成人| 1024成人免费看| 色五月色图| 狠狠久久婷五月综合色| 婷婷亚洲欧美丁香五月| 亚洲综合色婷婷| 国产婷婷色综合AV蜜臀AV | 69精品无码一区二区三区| 久9久成人精品视频| 丁香五月激情五月| 牛牛色av| 就要去操亚洲成人精品五月天丁香婷婷| 五月天激情日色在线| 久久精品人妻| 午夜大香蕉| 日韩无码系列| www.夜夜操.con| 91婷婷五月天嫩女| 久久婷婷视频| 艹色18p| 无码地址| 色导航色婷婷五月天在线观看| 99热综合| 一区=区操屄高清大全av| 色五月网址| 婷婷五月亚洲一本在线丁香| 99热免费| 超色欲天天| 丁香激情合作五月| 99热在线精品观看| 综合色七七| 丁香五月天激情网址| 亚美欧色影院| 激情开心五月天| 99男人的天堂| 亚洲最大五月六月丁香婷婷| 久久久久人妻精品| 亚洲av网址| 五月天激情婷婷五月天久久| 久久久久久综合88| 色婷婷AV在线观看| 婷婷五月天无码视频| 91久久| 九九人人看| 日韩人妻操逼视频| 97色在线| 91操片| 色香欲综合| 天天插操| 97丁香五月天| 97操操| 五月 激情视频| 婷婷丁香五月亚洲免费| 亚洲精品V天堂中文字幕| 国产精品久久..4399| 亚洲狠狠干| 68热超碰在线| 丁香婷婷六月天| 99re这里只有| 欧美久久婷婷| 激情人妻综合| 久久婷婷草| 激情五婷网| 国内自拍97在线| 26uuu国产精品| 色区久久| 26UUU| 深爱五月激情五月| 成人视频一区| 日本不卡中文字幕| 九月婷婷激情| 97色色视频| xxxx五月天色色| SESE无码AV| 懂色av粉嫩AV蜜臀AV| 五月丁香六月婷婷a v| 亚洲经典三级| 开心五月婷婷六月丁香| 99热在线播放| 99丁香五月婷| 91九色精品熟女内射| 五月丁香婷婷综合| 色综合久久久久| 久久xxxx| 丁香五月婷婷网| 日本精品在线噜噜噜| 综合网亚洲| 婷婷五月天中文字幕.| 深爱五月天| 天天日日天天| 综合久久狠狠| 国产精品五月天婷婷|