免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地 文章目錄第一章:CPU使用率100%排查??核心判斷(top看%Cpu)??工具鏈??標(biāo)準(zhǔn)排查步驟??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM案例2:Java應(yīng)用CPU 100%??關(guān)鍵注意點(diǎn)第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行第一層:故障現(xiàn)象第二層:兩個(gè)根因第三層:排查步驟(面試口述版)第四層:兩個(gè)典型案例第五層:踩坑關(guān)鍵點(diǎn)第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)一、進(jìn)程狀態(tài)速覽二、故障根因D狀態(tài)(iowait高)Z僵尸進(jìn)程三、排查命令步驟1)全局觀察2)排查D狀態(tài)/iowait高3)排查Z僵尸進(jìn)程四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)五、高頻踩坑點(diǎn)第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑?Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景?Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用?Q4:怎么理解「過早優(yōu)化是萬惡之源」?結(jié)合運(yùn)維實(shí)戰(zhàn),什么情況該優(yōu)化,什么情況堅(jiān)決不要做優(yōu)化???終面綜合大題(可用于壓軸)第五章: Linux CPU性能Q1:線上CPU打滿,簡述完整故障排查閉環(huán),你會(huì)重點(diǎn)規(guī)避哪些坑?Q2:us高與sys高,分別代表什么?列舉典型場景與排查手段Q3:線上負(fù)載很高,但CPU idle還有20?30%,us/sy/wa都正常,請(qǐng)分析原因,能不能直接做CPU綁定?Q4:CPU優(yōu)化有算法優(yōu)化、緩存、CPU親和性、cgroup限制CPU;生產(chǎn)如何取舍,哪些手段慎用?Q5:perf采樣遇到哪些常見坑?(容器、Java、閾值、swapper)第六章: Linux虛擬內(nèi)存(終面)Q1:簡述Linux虛擬內(nèi)存核心原理,為什么要設(shè)計(jì)虛擬內(nèi)存?Q2:malloc底層brk、mmap分配機(jī)制,區(qū)別、優(yōu)缺點(diǎn)?Q3:free命令如何解讀?free、buff/cache、available有哪些線上坑?Q4:top VIRT / RES / SHR / %MEM含義,生產(chǎn)排查踩坑?Q5:內(nèi)存壓力下Linux三種內(nèi)存回收;OOM、oom_score、oom_adj原理?Q6:伙伴系統(tǒng)、slab分配器,slab是否用于用戶態(tài)malloc???SRE高頻拓展面試題Q7?1:缺頁異常分為哪幾類?Q7?2:HugePage大頁適合什么業(yè)務(wù)?有哪些生產(chǎn)代價(jià)?Q7?3:容器內(nèi)執(zhí)行free,顯示的是容器內(nèi)存還是宿主機(jī)整機(jī)?Q7?4:什么是內(nèi)部碎片、外部碎片???面試口述收尾(資深運(yùn)維必背)第七章: Buffer與Cache 資深運(yùn)維面試Q1:請(qǐng)講清楚Linux Buffer、Page Cache(buff/cache)區(qū)別?free命令中buff/cache是什么?Q2:`free`里`available`、`free`有什么本質(zhì)區(qū)別?很多運(yùn)維看到free很小就緊張,對(duì)不對(duì)?Q3:`echo 3 /proc/sys/vm/drop_caches`作用?線上生產(chǎn)環(huán)境能不能隨便執(zhí)行?3代表什么?Q4:slab中SReclaimable與SUnreclaim區(qū)別,會(huì)體現(xiàn)在free輸出哪里?Q5:vmstat中bi、bo是什么指標(biāo)?結(jié)合buffer/cache解釋寫文件流程。??SRE拓展深挖題Q6:怎么理解臟頁dirty page?臟頁過多會(huì)有什么線上問題?Q7:buff/cache持續(xù)占用很高,業(yè)務(wù)內(nèi)存充足,需要手動(dòng)drop_caches釋放嗎?Q8:free、vmstat數(shù)據(jù)來源于哪里???面試一句話收尾第八章: 系統(tǒng)Page Cache緩存 資深SRE面試題Q1:怎么評(píng)估系統(tǒng)頁緩存(page cache)的好壞?cachestat/cachetop/pcstat各自作用?O_DIRECT直接IO為什么cachetop看不到大量緩存未命中?Q2:線上業(yè)務(wù)IO慢,cachetop顯示進(jìn)程READ_HIT%=100%,但是業(yè)務(wù)讀延遲依舊很高,請(qǐng)分析原因與排查步驟?Q3:free看到buff/cache占用很高,free內(nèi)存很小,運(yùn)維要不要手動(dòng)執(zhí)行`echo 3 /proc/sys/vm/drop_caches`清理緩存?線上有什么風(fēng)險(xiǎn)?什么場景才適合執(zhí)行???面試一句話收尾??面試官備用深挖題第九章: 內(nèi)存泄漏 資深SRE面試題Q1:什么是內(nèi)存泄漏?堆、棧、數(shù)據(jù)段、文件映射段,哪些會(huì)發(fā)生內(nèi)存泄漏?線上內(nèi)存泄漏會(huì)帶來哪些連鎖危害?Q2:線上懷疑存在內(nèi)存泄漏,請(qǐng)描述完整排查流程,memleak工具原理,容器環(huán)境會(huì)遇到什么坑?Q3:C語言業(yè)務(wù)進(jìn)程RES持續(xù)上漲,怎么區(qū)分是真內(nèi)存泄漏還是偽泄漏?列舉常見偽泄漏場景。??面試口述收尾??面試官備用深挖題第十章: Linux內(nèi)存故障排查 資深SRE面試Q1:線上收到內(nèi)存告警,請(qǐng)描述完整排查思路,核心看哪些指標(biāo),如何區(qū)分是進(jìn)程、緩存、slab、Swap導(dǎo)致的壓力?Q2:什么是major主缺頁、minor次缺頁?線上指標(biāo)升高分別是什么現(xiàn)象,對(duì)業(yè)務(wù)有什么影響?Q3:Linux內(nèi)存調(diào)優(yōu)有哪些常用手段?哪些參數(shù)/命令生產(chǎn)環(huán)境嚴(yán)禁隨意操作,會(huì)帶來業(yè)務(wù)抖動(dòng)??面試速記小結(jié)(口述小結(jié),背完直接收尾)第十一章: 磁盤IO性能 資深SRE面試題Q1:線上業(yè)務(wù)接口響應(yīng)慢,top觀察iowait很高,請(qǐng)描述完整排查鏈路,關(guān)鍵工具與核心指標(biāo)?Q2:strace -p 綁定進(jìn)程PID,pidstat確認(rèn)該進(jìn)程大量寫IO,但是strace抓不到write調(diào)用,會(huì)是什么原因?Q3:iostat關(guān)鍵指標(biāo)%util、await、aqu?sz,解釋含義;哪些誤區(qū)容易誤導(dǎo)排障??面試速記小結(jié)第十二章: 數(shù)據(jù)庫慢查詢(系統(tǒng)層+MySQL層)資深SRE面試Q1:業(yè)務(wù)接口訪問MySQL,響應(yīng)耗時(shí)十幾秒,top看到iowait很高,請(qǐng)描述完整排查流程Q2:strace拿到mysqld的線程fd,直接把線程號(hào)傳給lsof卻查不到文件,是什么坑?Q3:除了SQL缺少索引,還有哪些外部系統(tǒng)因素,會(huì)導(dǎo)致MySQL查詢突然變慢??面試速記小結(jié)第十三章: Redis響應(yīng)延遲 資深SRE面試Q1:業(yè)務(wù)調(diào)用Redis查詢接口,查詢操作但接口響應(yīng)很慢,top看到iowait高,但iostat磁盤%util并不高,請(qǐng)描述完整排查鏈路Q2:容器內(nèi)運(yùn)行Redis,strace看到fdatasync耗時(shí)高,如何確認(rèn)這個(gè)fd對(duì)應(yīng)的socket還是磁盤文件?會(huì)遇到什么容器坑?Q3:iowait高,但iostat中磁盤%util不高,是什么原因??面試速記小結(jié)第十四章: Linux IO瓶頸快速定位 資深SRE面試Q1:線上業(yè)務(wù)變慢,收到iowait告警,請(qǐng)描述你快速定位IO瓶頸的完整套路?Q2:磁盤IO四大核心指標(biāo)是什么?考察時(shí)容易踩哪些誤區(qū)?Q3:文件系統(tǒng)層面有哪些容易忽略的IO性能指標(biāo)??面試速記結(jié)論第十五章: Linux網(wǎng)絡(luò)基礎(chǔ)與性能 資深SRE面試Q1:簡述Linux數(shù)據(jù)包收發(fā)完整流程Q2:衡量網(wǎng)絡(luò)性能核心指標(biāo)有哪些,分別含義?Q3:線上網(wǎng)絡(luò)變慢排查,你的排查步驟??面試速記小結(jié)第十六章:C10K / C1000K / C10M 速記?? 塔尖一句話一、三階段核心對(duì)比二、必背4個(gè)概念三、生產(chǎn)7大故障(按出題頻率排序)四、監(jiān)控必查命令(脫口而出)五、面試黃金收尾話術(shù)第十七章 tcpdump + Wireshark 面試一頁紙(3道面試題+總結(jié))面試題1:ping 訪問域名,單條ICMP延遲很小,但整個(gè)ping命令執(zhí)行耗時(shí)很長,可能是什么原因?如何定位解決?面試題2:線上服務(wù)器如何使用tcpdump和Wireshark做網(wǎng)絡(luò)故障排查,講完整操作流程,重點(diǎn)參數(shù)?面試題3:抓包中看到TCP斷開連接出現(xiàn)3個(gè)包,不是傳統(tǒng)的四次揮手,請(qǐng)解釋原理?一頁紙核心總結(jié)第十八章 DDoS(SYN?Flood)??核心概念??三大指標(biāo)?軟中斷 softirq??識(shí)別惡意流量(SYN洪水)??緩解手段iptablessysctl內(nèi)核調(diào)優(yōu)(寫入/etc/sysctl.conf,sysctl -p生效)分層防御??完整故障鏈路??面試必背短句第一章:CPU使用率100%排查??核心判斷(top看%Cpu)指標(biāo)高問題方向us/ni用戶業(yè)務(wù)代碼(死循環(huán)、大量計(jì)算、Java GC頻繁)sy內(nèi)核、頻繁系統(tǒng)調(diào)用、內(nèi)核線程wa磁盤IO瓶頸hi/si硬/軟中斷風(fēng)暴top按數(shù)字1,查看每個(gè)CPU核使用率??工具鏈top:定位高CPU進(jìn)程PID,默認(rèn)3s采樣pidstat 1 5:進(jìn)程細(xì)分 %usr / %system / %CPUperf(線上優(yōu)先,不中斷業(yè)務(wù))# 實(shí)時(shí)看熱點(diǎn)函數(shù)、調(diào)用棧perftop-g-pPID# 離線保存,適合轉(zhuǎn)瞬即逝問題perf record-g-pPID# Ctrl+C結(jié)束perf report??容器場景perf出現(xiàn)16進(jìn)制地址:宿主機(jī)生成perf.data,docker cp拷貝進(jìn)容器內(nèi)執(zhí)行report解析?GDB不適合線上:會(huì)暫停業(yè)務(wù)進(jìn)程Java專屬工具# 打印所有線程堆棧,定位高CPUJava線程jstackPID# 統(tǒng)計(jì)JVM各個(gè)內(nèi)存區(qū)域jstat-gcPID1000??標(biāo)準(zhǔn)排查步驟top觀察CPU分項(xiàng),確認(rèn)用戶態(tài)/內(nèi)核態(tài)/IO問題獲取高CPU進(jìn)程PID(top / pidstat)若是Java進(jìn)程:top?H -p PID找到高消耗線程tid,轉(zhuǎn)16進(jìn)制,配合jstack定位Java代碼;也可以使用perf采樣非Java進(jìn)程:perf采樣定位熱點(diǎn)函數(shù)根據(jù)函數(shù)/堆棧定位業(yè)務(wù)源碼,確認(rèn)根因(死循環(huán)、大量循環(huán)計(jì)算、頻繁FullGC等)修改代碼/配置,壓測驗(yàn)證修復(fù)效果??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM現(xiàn)象:php?fpm進(jìn)程CPU打滿,us98%ab壓測:ab -c10 -n10000 http://ip:10000top確認(rèn)php?fpm占用CPUperf top -g -p PID找到sqrt為熱點(diǎn)源碼:單次請(qǐng)求百萬次循環(huán)執(zhí)行sqrt,遺留測試代碼刪除循環(huán),QPS從11提升至2237案例2:Java應(yīng)用CPU 100%現(xiàn)象:Java進(jìn)程CPU持續(xù)100%,us占比極高排查流程:top發(fā)現(xiàn)Java進(jìn)程PID=2345,CPU占用接近100%top -H -p 2345,發(fā)現(xiàn)線程tid=2368CPU占比很高tid轉(zhuǎn)16進(jìn)制:printf "%x\n" 2368→940jstack 2345 jstack.log,在日志搜索0x940堆棧定位業(yè)務(wù)代碼:for無限死循環(huán),沒有sleep;或者集合大數(shù)據(jù)遍歷補(bǔ)充:如果jstat?gc觀察到頻繁FullGC,CPU高是內(nèi)存泄漏導(dǎo)致,優(yōu)先排查內(nèi)存問題??關(guān)鍵注意點(diǎn)CPU使用率是一段時(shí)間采樣差值計(jì)算的平均值,不同工具采樣間隔不一樣,對(duì)比要保持間隔統(tǒng)一/proc/stat原始數(shù)據(jù)是開機(jī)累計(jì)值,不能直接拿來算使用率偶發(fā)瞬時(shí)CPU沖高,登錄現(xiàn)場已消失:依靠監(jiān)控 + perf record離線采樣Java使用perf:需要安裝perf符號(hào),否則只能看到j(luò)vm內(nèi)部符號(hào);jstack更適合定位Java業(yè)務(wù)代碼問題/////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行系統(tǒng)CPU整體很高,但top/pidstat看不到高CPU進(jìn)程,90%是短時(shí)進(jìn)程,其次是進(jìn)程反復(fù)崩潰重啟。第一層:故障現(xiàn)象top全局us/sy高,id低;但所有進(jìn)程CPU占比都很低top看到大量R(Running)運(yùn)行態(tài)進(jìn)程,PID快速不停變化pidstat所有進(jìn)程CPU加起來遠(yuǎn)小于系統(tǒng)總CPU第二層:兩個(gè)根因短時(shí)進(jìn)程(最常見):業(yè)務(wù)代碼exec/system/ProcessBuilder調(diào)用外部命令,進(jìn)程生命周期極短,小于工具采樣間隔,top/pidstat抓不到,海量頻繁創(chuàng)建銷毀累積消耗CPU。進(jìn)程反復(fù)崩潰重啟:程序崩潰,被監(jiān)控/K8s反復(fù)拉起,初始化邏輯消耗CPU,進(jìn)程存活時(shí)間很短。第三層:排查步驟(面試口述版)top:看全局CPU,重點(diǎn)觀察R狀態(tài)進(jìn)程數(shù)量、PID是否漂移;有execsnoop優(yōu)先執(zhí)行,直接捕獲exec調(diào)用,拿到子進(jìn)程和父PID;沒有execsnoop,用perf全系統(tǒng)采樣,必須加-a,不能指定PIDperf record-ag-gperf reportpstree追溯父進(jìn)程,定位業(yè)務(wù)服務(wù);審查源碼外部命令調(diào)用,查看dmesg/容器日志確認(rèn)是否崩潰重啟。第四層:兩個(gè)典型案例PHP:http請(qǐng)求exec調(diào)用stress,權(quán)限報(bào)錯(cuò)快速退出,大量短時(shí)進(jìn)程吃滿CPU。Java:ProcessBuilder高頻調(diào)用shell腳本,腳本執(zhí)行完立刻退出,Java主進(jìn)程CPU占用并不高。第五層:踩坑關(guān)鍵點(diǎn)perf排查短時(shí)進(jìn)程不能帶?p指定PID,必須?a全系統(tǒng)采樣,swapper是空閑內(nèi)核進(jìn)程直接忽略;top/pidstat是采樣平均值工具,進(jìn)程壽命短于采樣間隔就捕獲不到;容器perf符號(hào)缺失:perf.data復(fù)制進(jìn)容器內(nèi)做report解析。面試一句話總結(jié):CPU高找不到進(jìn)程,優(yōu)先懷疑短時(shí)進(jìn)程,用perf -a全系統(tǒng)抓,不要指定進(jìn)程PID。///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)面試/線上速查,現(xiàn)象:iowait高、負(fù)載上漲、大量D/Z進(jìn)程一、進(jìn)程狀態(tài)速覽狀態(tài)含義關(guān)鍵影響R運(yùn)行/就緒CPU調(diào)度隊(duì)列D不可中斷睡眠,等待硬件IO拉高平均負(fù)載,kill?9無效Z僵尸,子進(jìn)程已退出,父未回收資源耗盡PID,無法新建進(jìn)程;kill僵尸本身無效S可中斷睡眠正常等待事件,可被信號(hào)喚醒I內(nèi)核線程空閑態(tài)不會(huì)拉高負(fù)載T暫停/調(diào)試跟蹤gdb、SIGSTOP觸發(fā)重點(diǎn):短時(shí)D屬于正常;大量持續(xù)D、持續(xù)增長Z屬于故障。二、故障根因D狀態(tài)(iowait高)業(yè)務(wù)O_DIRECT直接IO,繞過pagecache頁緩存,直接操作物理磁盤,磁盤慢導(dǎo)致進(jìn)程阻塞D狀態(tài);??通俗:不使用內(nèi)存緩存,每一次讀都直接訪問硬盤,硬盤速度遠(yuǎn)慢于內(nèi)存,CPU大量時(shí)間等待磁盤返回。perf看到blkdev_direct_IO內(nèi)核函數(shù)就是證據(jù)。本地磁盤故障、RAID異常;NFS存儲(chǔ)服務(wù)端卡死,客戶端進(jìn)程阻塞IO。Z僵尸進(jìn)程fork()創(chuàng)建子進(jìn)程,父進(jìn)程未調(diào)用wait/waitpid回收子進(jìn)程退出狀態(tài);未注冊(cè)SIGCHLD信號(hào)處理函數(shù);子進(jìn)程退出速度快于父進(jìn)程處理。??通俗:子進(jìn)程干完活退出,父進(jìn)程代碼沒執(zhí)行“收尸”邏輯,子進(jìn)程就變成僵尸。父進(jìn)程退出,僵尸由init(1)自動(dòng)收割。三、排查命令步驟1)全局觀察top# 看load、wa(iowait),看S列D/Z;按1看各CPUdstat1# 同時(shí)對(duì)比CPU iowait與磁盤讀寫流量2)排查D狀態(tài)/iowait高pidstat -d 1全局看進(jìn)程IO讀寫;進(jìn)程轉(zhuǎn)瞬變?yōu)榻┦瑂trace無法attach,用全系統(tǒng)perf采樣(不加?p)perf record-ag-gperf report忽略swapper內(nèi)核空閑進(jìn)程;看到blkdev_direct_IO代表開啟直接磁盤IO。D狀態(tài)進(jìn)程kill?9殺不掉,需等待IO返回,硬件故障極端情況只能重啟。3)排查Z僵尸進(jìn)程ps-e-ostat,ppid,pid,cmd|grepZ# 拿到僵尸PID、父PPIDpstree-aps僵尸PID# 向上追溯父進(jìn)程臨時(shí)緩解:重啟父進(jìn)程,init自動(dòng)回收僵尸;根治:代碼增加wait/waitpid或SIGCHLD信號(hào)處理。四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)現(xiàn)象:iowait打滿,負(fù)載高,同時(shí)僵尸進(jìn)程持續(xù)增多;dstat確認(rèn)wa升高伴隨大量磁盤讀;pidstat?d看到app大量讀盤;進(jìn)程D狀態(tài)后迅速變成Z,strace attach失??;perf全系統(tǒng)采樣發(fā)現(xiàn)blkdev_direct_IO;?問題代碼:open(disk, O_RDONLY|O_DIRECT|O_LARGEFILE, 0755);開啟O_DIRECT繞過內(nèi)存緩存,大量直接磁盤IO,iowait飆升。?修復(fù):刪除O_DIRECT參數(shù),走操作系統(tǒng)頁緩存,iowait恢復(fù)。僵尸根因:wait()寫在死循環(huán)外面,代碼永遠(yuǎn)執(zhí)行不到//錯(cuò)誤:wait放在死循環(huán)外面,永遠(yuǎn)跑不到for(;;){for(inti=0;i2;i++){fork();}sleep(5);}while(wait(status)0);//?修復(fù):wait移入循環(huán)內(nèi)部,每輪循環(huán)回收子進(jìn)程for(;;){for(inti=0;i2;i++){fork();}while(wait(status)0);sleep(5);}wait挪入循環(huán),子進(jìn)程退出后立刻被回收,不再生成僵尸。五、高頻踩坑點(diǎn)iowait高≠磁盤瓶頸:少量IO也會(huì)拉高wa,必須結(jié)合實(shí)際磁盤讀寫量判斷;kill僵尸進(jìn)程不起作用,僵尸已經(jīng)死亡,必須處理父進(jìn)程;perf報(bào)告swapper是內(nèi)核空閑進(jìn)程,直接忽略;父進(jìn)程為1號(hào)init還殘留僵尸,業(yè)務(wù)無解,大概率內(nèi)核bug,只能重啟機(jī)器。?面試一句話總結(jié):D狀態(tài)優(yōu)先排查IO:直接IO(O_DIRECT)、本地磁盤、NFS,kill?9無效;僵尸不要?dú)⒔┦旧恚ㄎ桓高M(jìn)程,代碼做好子進(jìn)程回收。////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題考察:實(shí)戰(zhàn)閉環(huán)、權(quán)衡取舍、線上踩坑,金字塔答題,包含問題+完整參考答案+深挖追問+追問完整答案Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑??完整參考答案(金字塔)結(jié)論先行:CPU優(yōu)化不是找到瓶頸就直接改,必須走「確認(rèn)瓶頸→量化基線→方案選型→對(duì)比驗(yàn)證→評(píng)估副作用」完整閉環(huán);直接改代碼上線最大風(fēng)險(xiǎn):誤判根因、優(yōu)化帶來副作用、無法證明優(yōu)化收益。確認(rèn)真瓶頸,區(qū)分根因與衍生現(xiàn)象。很多指標(biāo)高只是現(xiàn)象,不是根源。例如iowait升高只是現(xiàn)象,根源是O_DIRECT直接IO;軟中斷CPU高是現(xiàn)象,根源是大量網(wǎng)絡(luò)小包。不能針對(duì)現(xiàn)象做優(yōu)化,要解決背后的根因。建立雙維度基線。不能只看系統(tǒng)CPU使用率;同時(shí)采集**業(yè)務(wù)指標(biāo)(QPS、延遲、錯(cuò)誤率)**和系統(tǒng)指標(biāo)(CPU、上下文切換)作為優(yōu)化前基準(zhǔn)。壓測客戶端要與業(yè)務(wù)服務(wù)隔離部署,防止壓測工具本身消耗資源,污染測試數(shù)據(jù)。多方案選型,綜合權(quán)衡。不能只看性能提升幅度,綜合評(píng)估:改造成本、代碼復(fù)雜度、可維護(hù)性、優(yōu)化副作用;拒絕拿來主義,不追求一步到位解決全部問題?;叶闰?yàn)證,對(duì)比優(yōu)化前后。不僅看系統(tǒng)資源指標(biāo),重點(diǎn)校驗(yàn)業(yè)務(wù)指標(biāo),防止出現(xiàn)CPU降了,但接口延遲升高這類負(fù)優(yōu)化。風(fēng)險(xiǎn)防控,警惕過早優(yōu)化。沒有真實(shí)業(yè)務(wù)壓力,不要提前堆砌緩存、異步、CPU綁定這類復(fù)雜邏輯,徒增維護(hù)成本。實(shí)戰(zhàn)坑舉例:直接對(duì)進(jìn)程做CPU綁定,業(yè)務(wù)流量波動(dòng)大時(shí),會(huì)破壞內(nèi)核調(diào)度均衡,出現(xiàn)單核打滿其余核空閑,整體性能反而變差。??面試官深挖追問 + 參考答案追問:優(yōu)化后CPU使用率降下來,但業(yè)務(wù)接口延遲反而升高,可能有哪些原因?答:① 優(yōu)化手段帶來額外開銷:例如引入緩存,增加鎖、緩存淘汰邏輯;② CPU綁定導(dǎo)致調(diào)度失衡,任務(wù)集中在個(gè)別CPU核,隊(duì)列排隊(duì);③ 算法優(yōu)化雖然降低CPU,但增加IO/鎖等待;④ 并發(fā)線程/進(jìn)程數(shù)量被限制,請(qǐng)求排隊(duì)堆積;⑤ 內(nèi)核參數(shù)調(diào)整,犧牲延遲換取CPU利用率。追問:怎么區(qū)分觀測到的指標(biāo)是根因,還是衍生現(xiàn)象?舉一個(gè)線上實(shí)際例子。答:根因是源頭,衍生現(xiàn)象是根因引發(fā)的結(jié)果。解決根因,衍生現(xiàn)象會(huì)自動(dòng)消失。例子:大量短時(shí)fork子進(jìn)程,會(huì)導(dǎo)致sys CPU高,sys高是現(xiàn)象;真正根因是業(yè)務(wù)頻繁調(diào)用exec創(chuàng)建短時(shí)進(jìn)程。修復(fù)業(yè)務(wù)不再頻繁創(chuàng)建進(jìn)程,sys CPU自然下降,而不是去調(diào)內(nèi)核參數(shù)壓制sys指標(biāo)。追問:如果環(huán)境不允許做完整壓測,只能線上灰度,基線數(shù)據(jù)該怎么獲?。看穑孩?取優(yōu)化前一段時(shí)間監(jiān)控歷史作為基線,保證流量、時(shí)間段盡量對(duì)齊;② 采用灰度發(fā)布,一部分實(shí)例優(yōu)化,一部分實(shí)例保持原樣,做同環(huán)境對(duì)照;③ 對(duì)比兩組實(shí)例的業(yè)務(wù)、系統(tǒng)指標(biāo);④ 小流量逐步放量,一旦指標(biāo)異常立刻回滾。Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景??完整參考答案(金字塔)結(jié)論先行:us高代表業(yè)務(wù)用戶態(tài)消耗CPU;sys高代表內(nèi)核態(tài)開銷;二者排查方向完全不同,先分清指標(biāo),再選擇工具定位。us(用戶態(tài)CPU高):CPU消耗來自業(yè)務(wù)代碼邏輯典型場景:死循環(huán)、高復(fù)雜度算法、大量計(jì)算、頻繁正則表達(dá)式、Java頻繁Full GC;工具:perf top -g -p pid定位業(yè)務(wù)熱點(diǎn)函數(shù);Java配合jstack、jstat -gc。sys(系統(tǒng)CPU高):CPU消耗來自內(nèi)核,由系統(tǒng)調(diào)用、上下文切換、中斷引發(fā)典型場景:大量fork/exec短時(shí)進(jìn)程;頻繁鎖競爭;海量細(xì)小系統(tǒng)調(diào)用;軟硬中斷風(fēng)暴;進(jìn)程數(shù)量多導(dǎo)致頻繁上下文切換;工具:perf record -ag -g做全系統(tǒng)采樣看內(nèi)核調(diào)用棧;pidstat -w觀察上下文切換;execsnoop捕獲短時(shí)exec調(diào)用。??重要坑:短時(shí)進(jìn)程場景,top、pidstat抓不到高CPU進(jìn)程,必須全系統(tǒng)perf采樣,不能指定?p pid。實(shí)戰(zhàn)區(qū)分小技巧:us高優(yōu)先懷疑業(yè)務(wù)代碼;sys高優(yōu)先懷疑系統(tǒng)調(diào)用、進(jìn)程創(chuàng)建、中斷,不要上來就修改業(yè)務(wù)代碼。??面試官深挖追問 + 參考答案追問:Java服務(wù)sys系統(tǒng)CPU很高,你會(huì)一步步怎么排查?答:① 先看pidstat -w,觀察自愿/非自愿上下文切換,如果非自愿切換很高,線程過多、爭搶CPU;② 使用perf record -ag -g全系統(tǒng)采樣,看內(nèi)核調(diào)用棧,看是系統(tǒng)調(diào)用、線程創(chuàng)建、鎖、還是中斷消耗;③ execsnoop排查是否Java通過ProcessBuilder大量創(chuàng)建外部短時(shí)子進(jìn)程;④ 查看JVM配置:線程數(shù)量是否過多;⑤ 排除硬件層面中斷風(fēng)暴。追問:為什么短時(shí)進(jìn)程,指定perf -p PID抓不到問題?答:短時(shí)進(jìn)程生命周期極短,執(zhí)行完立刻退出。perf-p需要進(jìn)程存活才能附著采樣;等執(zhí)行perf命令時(shí)進(jìn)程已經(jīng)消亡。必須?a全系統(tǒng)采樣,捕獲系統(tǒng)內(nèi)全部事件,不綁定特定PID。追問:sys高,但是沒有看到大量fork,還會(huì)有什么可能性?答:① 海量細(xì)小系統(tǒng)調(diào)用,如頻繁read/write、epoll_wait;② 大量線程上下文切換,線程數(shù)量過多;③ 硬中斷、軟中斷風(fēng)暴(網(wǎng)絡(luò)包量大);④ 頻繁鎖競爭,內(nèi)核態(tài)自旋鎖消耗;⑤ 內(nèi)存缺頁異常頻繁。Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用??完整參考答案(金字塔)結(jié)論先行:優(yōu)先應(yīng)用層業(yè)務(wù)邏輯優(yōu)化,其次緩存;系統(tǒng)層面CPU綁定、
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月激情影视| 五月婷婷之综合激情| 操人91| 激情丁香五月天综合| 婷婷不干网| www.狠狠| 五月丁香在线婷婷美女| 色国产五月| 久久区区一二三av| 就爱日五月天| 日产精品一线二线三线芒果| 99re6久热只有精品6在线直播| 思思热热久久| 婷婷爱综合| 在线观看免费狠狠色丁香香综合| 九月婷婷激情久久| 偷拍九九热| 99自拍视频在线| 色久五月天| 欧美激情五月天婷婷| 久久狠婷婷| 国产精品美女久久久久AV超清| 五月天婷婷成人网| 可以免费观看的av| 色色射| 色五月婷婷五月久久| 大香蕉久久婷婷| 激情操逼婷婷| 99re资源在线视频导航| 久久99草五月婷婷| 婷婷五月电影| 亚洲成人无码网站| 26UUU欧美激情一区二区| 激情久久综合网| 成人五月天色天堂| 五月天色婷婷视频| 国产精品A片| 做爱夜夜干天天操| 狠狠操天天日| 九月激情综合| 久久99精品久久久久久噜噜| 中文色婷婷| 99久久人人| 国产黄色在线观看| 五月婷婷综合色啪首页| 97香蕉人人在线观看| 91中文狠狠综合| 日本一级一级一级一级| 亚洲妇女熟BBW| 亚洲人妻AV| 久久丁香五月婷婷| 国产99久久久国产精品免费看| 色婷婷免费观看| 婷婷五月天国产| 超碰熟女拍拍| 人人97碰| 亚洲国产精品二二三三区| 99网| 七七婷婷综合| 91操在线观看| 狠狠色丁香久久久婷| 另类激情五月| 婷婷五月天激情综合| 激情 五月 婷婷 丁香| 五月丁香啪啪| 99热这里只有精品最新| 丁香五月在线自慰| 精品久久久91久久影视网| 色噜噜婷婷| 玖玖婷婷五月天| 大香蕉久久| 99国产精品白浆在线观看免费| 中文字幕人成乱码在线观看| 大香伊人婷婷| 超黄亚洲瑟瑟网站| 色综合五月| 狼友视频在线观看18| 激情久久久| 婷婷六月天| 国产精品久久久久久久久久免费| 婷婷丁香五月天色色| yazhochengrenavwang| 中文字幕AV网址| 色婷婷综合久色AV五色最新| 夜丁香综合| 欧美影院| 大香蕉 婷婷| 99热热这里只精品996小说| 狠狠爱综合| 五月在在观看| 大香蕉av在线| 久草狼人| 天天色官网| 五月婷婷丁香六月| 成人免费黄色短视频| 大香蕉人人网| 视色综合| 99热热热99精品婷婷| 五月婷婷色色网址| 思思精品久久艹| 极品另类| 97人人操com| 婷婷色网| 久久新地址| 中文字幕日产A片在线看| 91狼友视频在线观看| xxxx五月天色色| 激情五月天色| 91色噜噜狠狠狠狠色综合| 这里只有精品视频| 五月丁香网站| 亚洲色频| 91精品久| 五月天婷婷五月| 超碰99热| 狼友超碰| 综合五月丁香六月婷婷| 亚洲123区高清入口| 丁香五月婷婷超碰在线| 99热资源在线| 色婷成人狠干| 79色色| 超碰成人免费| 强辱丰满人妻HD中文字幕| 99啪啪骑| 九九婷婷五月天| 亚洲色综合| 色哟哟性爱av| 91碰超| 玖久久网站| 色噜噜狠狠色综合AV兰草影视| 久热综合| 婷婷丁香十月| 久久久人妻不卡| 可以看的AV| 乱精品一区字幕二区| 丁香五月激情综合| 五月天精品| 99久久精品色老| 深爱激情69热| 人人操大| 99精品国产在热久久婷婷| 久久久久久久,99精品视频| 亚洲俩性性爱图片久久第六页| 国产免费一区二区三区三州老师F1F1.CC| 少妇人妻人伦A片| 九月婷婷综合色干| 成人色五婷婷| 丁香五月综合激情性爱| 色情五月丁香| 丁香五月 综合| 日本五月婷| 五月丁香操婷逼| 大香蕉伊人99| 色波激情五月天| AV九九| 色综合久久44| 五月激情天| 欧美内射AA| 五月色色色| 任你操精品免费| 五月婷婷视频在线观看| 伊人干综合| 六月色婷婷欧美| 91天天操天天干天天射| 99国产视频网| 丁香五月天堂| 任你爽视频| 亚洲色色图片| 男人先锋久久| WWW.五月天9999| 男同色五月开心五月激情五月| 波多婷婷久久| 色婷婷狠狠18| 色哟哟精品| 99在线视频资源| 日本色99| 极品人妻VIDEOSSS人妻| 五月丁香色婷婷| 久9热视频在线观看| 五月婷婷啪啪啪| 婷婷五月天国产精品| 超碰九色| 婷婷色五月色| 日欧一片内射VA在线影院| 亚洲mm色| 在线中文av| 99无码| 天天久久综合| 丁香九月婷婷综合| 色九四色| 婷婷香五月天| 五月激激激情综合网| 在线视频99| 五月天成人综合| 夜夜噜夜夜奇| 婷婷久久网| 国产精品色情AAAAA片软件 | 国产1区2区3区在线观| 嫩草极品| 综合网色| 五月婷婷成人| 激情九九这里只有精品| 亚洲中文字幕网| 成人龟情网丁香五月| www九九热| 1024国产在线| 99热综合网| 色亚洲欧洲| 99热91| 激情综合网激情五月俺也去| 夜夜爽天天干| 九九色色| 丁香五月成人社区| 婷婷五月天色综合| 天天色天天干天天插| 91久久九色| 丁香六月综合激情| av大香蕉| 99热老网站| 日日夜夜小色哥| 中文字幕在线免费观看视频| 九艹在线| 97性视频| 精品99在线| 五月四色激情| 国产乱人偷精品人妻A片| 婷婷亚洲五| 岛国资源站| 610018岁成人视频| 河北真实伦对白精彩脏话| 影音先锋四区| 日韩色五月| 亚洲婷婷成人五月天| 99热精品在线播放| 久草天堂| 久久激情五月| 99re热在线视频| 91热手机在线| 铁牛TV人妻| 久草x色在线观看99| 九九aV| 99色干| 久久久久久人妻| 综合综合网| jiujiu无码五区| 99热日本| 思思热99er在线视频| 深爱五月月天| 1024成人免费看| 99re6在线视频精品免费| 丁香大香蕉| 久久婷婷五月天激情| 婷婷五月在线播放| 欧美日韩成人高清在线| 色99日韩| 亚洲欧洲另类| 超碰九热| 六月激情丁香一道本7777| 日本综合99| www久久久久久久久久久| 无码激情AAAAA片-区区| 91丨九色丨国产打屁股网站| 色婷婷五月影视| 综合99在线| 久久久九九视频精品18| 婷婷久久性爱| 成年AAAA色情| 天天爽免费视频| 26uuu欧美日本| 橾逼网| 色噜噜狠噜噜视频| 丁香欧美| 一丁香五月天月AV| 五月婷婷在线视频| 99天天操夜夜操| 99精品综合在线| 亚洲熟女乱色综合亚洲网站| 色综天天综合| 丁香五月天天高清在线| 婷婷激情九月| 性av| 97亚洲婷婷| 欧美日朝成人| www五月天激情com| 五月丁香色色| 性爱激情五月| 久久婷婷色| 新99思思视频| www.五月天| 182TV大香蕉| 九九99九九99偷拍视频免费看| 蜜臀A∨在线水帘洞| http://www.lingjunshare.com/ | 色婷婷在线视频久| 婷婷综合爱| 日本色狠狠| 成人AV在线电影| 五月丁香激情综合| 五月天色色色色色| www久久99com| 噜噜色婷婷| 天天做天天要天天爽| 男人综合网| VA婷婷亚洲| 丁香婷婷视频在线| 欧美色五月| 大香蕉久久伊人网| 99热色无码| 日韩欧美四五区| 婷婷五月天激情在线| 久久婷婷视频| 色伦专区97中文字幕| 中文字幕人妻AV| 五月婷婷五月天| 色播丁香五月婷婷操:屄| 婷婷丁香色五月| 网色99| 人妻免费网站| 丁香五月婷婷久久久| 色噜噜狠狠色综合网| 开心五月六月婷婷| 色香欲综合| 久久久婷| 欧美婷婷丁香五月社区| 狠色色狠网| 嫩草视频在线观看| 日本人妻操| 丁香五月婷婷丫| 色5月丁香婷婷| 99视频| 久久99免费视频| 九九精品网站| 国产67194| 新激情五月天| 6月丁香婷婷激情| 婷婷五月成人| 丁香五月综合激情久久潮喷| 五月丁香啪啪综合网| www.狠狠| 九九99免费视频| 激情五月丁香六月综合AVXXXX| 天天干天天干天天操| 青青久久大香蕉| 日本成人噜噜噜噜噜| 大香蕉99| jiujiujiuwuyuetian| 久热re在线视频| 婷婷五月天人妻| 99爱精品| 欧美欧盟性爱网| 日韩精品一品二区三区的使用体验| 亚洲最大成人综合网720P| 五月婷色| 日韩啊啊啊| 日韩在线99| www.色五月.com| 中文字幕乱码亚洲精品一区| 五月四色婷婷| 激情内射人妻1区2区3区| 婷婷无码视频| www九九热| www.99色在线| 五月婷视频在线| 久久婷婷桃花五月天| 亚洲色域网| 丁香五月六月激情久久| 色五月,com| renrencaoav| 99久久9| 婷婷五月天天天日日夜夜| 97视频.干com| 天天天天天天天干| 久久小说| A色色| 久草热8精品视频在线观看| 久久综合激情五月天| 婷婷色五月激情| 久久最新色色色| 五月天色综合| 国产五月天激情小说| 最近韩国日本免费高清观看| 日本va欧美va欧美| 男人天堂AV在线一区二区| 欧美日韩一区二区三区四区| 免费看片操逼| 超碰在线99| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 久热这里只有精品视频免费观看| 成人一区在线观看| 超碰人人超碰| 激情综合五月.....| 91婷婷丁香五月亚洲| 亚洲第79页| av最新在线| 99福利导航| 五月丁香美女| 操比激情五月| 国产精品电影| 五月丁香亚洲五月| 国产99久9在线| 成人丁香五月| 色色五月婷婷丁香| 色五月天丁香| 99视频热99| WWW.桔色成人.COM| 婷婷黄色五月天在线视频| 五月天丁香久久综合 | 黄桃AV无码免费一区二区三区 | www.婷婷六月天| 99精品久久| 亚洲日韩一页精品发布| 少妇搡BBBB搡BBB搡毛茸茸 | 99热最新精品| 一区三区视频有限公司| 开心五月深爱五月| 成年人最刺激的综合网| av婷婷丁香 六月| 亚州第一A片| 五月婷婷AV| 操逼在线视频| 超碰免费人妻| 色五月美女| 五月婷婷五月天| 久久免费视频62| 99激情网| 狠狠色九月| 色一情一乱一伦一区二区三区| www.99情趣网| 337p午夜影院| 五月丁香大香蕉| 91在线视频观看午夜福利| 亚洲超碰在线| 激情丁香五月天图片| 六月丁香婷婷五月天| 色情成人五月天| 夜夜骑操AV| 欧美日韩五月婷婷| 91碰碰视频在线观看| 欧美精品999| 五月涩涩网| 五月婷婷六月丁香免费| 五月天停停日日| 亚洲视频在线观看| 色婷婷视频在线| 五月丁香网站| 婷婷五月天激情免费在线观看| 五月婷婷新网站| 热久69| 国产一二区爆乳_1国产日韩一区二区三-成人AV| 欧美丁香五月97色| 婷婷色五天| 操你av| 丁香五月天色综合| 国产精品在线视频| 久久丁香五月婷婷激情综合网| 五月婷婷色啪| 久99精品视频| 丁香啪啪| 成人AV在线电影| 久婷| 亚洲另类婷婷综合| 青青草激情网| 深爱婷婷网| 99riAV国产精品视频| 婷婷五月丁香伊人| 丁香五月六月欧美| 99re这里| 欧美色性色好| www.婷婷,com| 久久99久久99精品免观看粉嫩| 色色色色色热| 天天激情5月天亚洲| 色天堂A| 男人視頻站| 婷婷五月中文字幕| 狠狠色97| 九九热99视频| 天天操天天爱天天日| 欧美五月丁香在线| 99热精品10| 69堂午夜视频最新地址| 婷婷五月丁香在线观看| 人妻VideOssS人妻| www.99热这里只有精品| 五夜丁香| 99亚洲精品视频| 国产精品久久久久久久久久| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 久久五月天综合视频网站| 色婷婷黄色网络| www久久99com| 1995年关宝慧版蜘蛛女| 婷婷五月在线视频| Av大香蕉| 亚洲精品又粗又大又爽A片| 538在线精品| 国产一级黄色影片,| 久久久九九九 99| 玖玖色资源| AV在线观看网站| 婷婷丁香色五月天久久88| 五月婷色丁香| 五月精品| 综合久久婷婷| 婷婷五月天你懂的| 五月五婷婷网| 婷婷香五月| 激情五月婷婷五月| 这里只有精品视频在线| 人妻Av在线| 国产97色在线 | 日韩| 婷婷五月天成人| 九九九九九九九热| 久久综合影院 | 开心婷婷五月天综合| 婷婷丁香五月六月激情| 天天肏高清在线| 大香蕉综合在线| 伊人九九68| 五月丁香婷婷色色| 五月婷婷综合精品| 五月丁香六月婷综合成人综合| 福利视频在线播放| 亚洲99综合| 丁香五月狠狠综合欧美| 超碰成人在线观看| 激情图片亚洲| 九九激情网| 五月丁香婷婷激情澎湃四射| 天天干天天日天天操| av婷婷丁香| 久久曰曰| 激情五月婷婷五月| 被强行糟蹋的女人A片| 玖玖激情五月天| 26uu| 激情婷婷五月天| 色啦啦视频| 激情文学天天| 久久久久久综合88| 青青草五月天| 婷婷五月偷拍| 成人无码精品1区2区3区免费看| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 亚洲妇女熟BBW| 丁香五月欧美色综合| 色婷婷六月| 99精品视频播放| 黄色三级日本| 五月婷婷丁香在线视频| 成片免费播放| 综合久| 五月婷庭丁香在线| 久久永久视频| 丁香五月婷婷欧美成人色图| 婷婷丁香激情五月| 26uuu国产| 丁香五月婷婷激情尤物| 国产精品人人妻人人爽| 影院久久久| 六月婷婷日| 色色色99| 五月婷婷三级| 大香蕉伊人久久| 99色日本| 丁香五月色| 五月婷婷狠狠久久| 五月色婷婷综合| 久久se 综合网| 99热欧| CHINESE熟女老女人HD视频| 97综合在线| 亚洲综合草草| 丁香五月AV| 99在线热视频| 碰97久久| 激情床戏| 五月丁香久人妻中文| 啊V视频在线观看| 玖玖婷婷婷丁香五月| 久久五月天激情| 久久日韩婷婷五月| 第四色五月婷婷| 五月婷婷九| 丁香五月婷婷在线观看| www.9797国产| 91久久1118| 五月婷中文字幕| 日韩综合久| 欧洲S级在线观看| 五月婷婷在线视频观看| 人人性久久| 婷婷激情社区| 五月情四婷婷| 婷婷天堂伊人| 天天日天天干天天操| 九月综合| 26uuu国产| 99热这里只有在线播放| 色婷婷丁香AV综合| 五月婷婷九| 99久久婷| 日韩精品AV一区二区三区| 蜜桃五月天色| 男人的天堂五月丁香| 激情六月丁香| 啪啪91| 日韩综合成人| 久婷五月| 成人视频九九| www.刺激色网站www.| 丁香五月av| 五月婷婷影院| 香蕉AV福利精品导航| 婷婷丁香五月亚洲| 91久久久久久久久18| 97自拍视频在线| 99久久6| 婷婷丁香成人| 懂色av粉嫩av蜜臀av| 色五月天成人| 久热视频A.| 校园春色亚洲色| 色色色色五月天| 激情五月天啪啪| 婷婷五月欧美| 六月婷婷狠狠色在线观看| 一区操| 人妻中文在线| 久热网站| 天天插天天很| 日本久久人人| 99色综合久久| 久久五月视频| 99热免费| 国产一级婬片毛片| 99精品热视频| 伊人热婷婷| 六月丁香网| 婷婷九月丁香| 激情综合六月| 丁香五月天激情网址| 狠狠 久久| 99人人干| 色激情综合| 激情六月一二| 激情五月激情综合网一级丸片| 亚洲成人另类| 婷婷日韩| 97在线观看| 六月久久婷婷| 日日操夜夜爽| 天天综合网亚洲网站| 亚洲va日| 九九热在线观看6| 碰超在线九色| 国产精品电| 91久久婷婷| 久操大| 噜噜色婷婷| 五月丁香六月合| 热久久成人| 成人午夜无码视频| 26.uuu丁香五月婷婷| 国产中文字幕在线视频免费观看 | 五月婷婷欲色| 激情网 五月天| 天天 青草 制服丝袜 在线| 成人版视频在线观看| 狠狠色婷婷丁香五月| 久久久久久久91| 狠狠精品干练久久久无码中文字幕| 国产精品久久..4399| 婷婷性福五月天| 五月丁香六月婷婷欧美综合| 直接看的AV网站| 天天插夜夜爽| 中文字幕色色色| 欧美丁香六月激情视频| 天天爱天天做天天舔| 66久久视频在线| 99爱免费在线观看| 色婷婷五月基地在线| 色五月激情问网站| 夜夜夜夜做天天天做无码视频| 这里只有视频精品| 狠狠色激情在线| 秋霞网在线观看理论91| 玖操97| 亚洲麻豆乱码国产2028| 色婷婷AV久久久久久久| 九九热视| 狠狠爱五月婷婷| 激情综合一| 日韩另类| 久久久激情| 五月综合激情婷婷六月色窝| 97人碰人操| 丁香五月婷婷综合激情啪啪啪| 国产精品成av人在线视午夜片| 亚洲成人日韩无码精品| 五月婷婷性爱视频| 97性视频| 五月婷婷开心色伊人| 日逼免费视频| 色色性爱视频| WWW,五月| 亚州美女| 久久久久视剧HD| 综合www色| 在线日韩视频| 色婷丨日丨天丨综合久久| 日日夜夜爽爽| 久久久97| 国产SUV精品一区二区883| 香蕉影院色| 色婷婷超碰| 五月丁香婷婷色| 五月激情开心婷婷| 天天爽天天爽| 天天爱天天日| www.ppypp| 色婷婷电影| 久久小说网| 玖玖激情网| 欧美成人无码一区二区三区| 99九九精品| 中文字幕在线观看视频www| 四川女人毛多水多A片| 日韩精品一曲二曲三曲四曲五曲| 成人av中文字幕| 色五月成人网| 色色免费网站| 日逼AV影音先锋男人资源站| 久久婷婷综合网| 久久婷婷欧美| 大香蕉婷婷久久| 狠狠色综合五月人人| 日本久久爽| 欧美韩日AAA网站| 色五月网址| 激情九月丁香婷婷| 少妇真实被内射视频三四区| 色婷婷超碰| 玖玖精品视频99| AV在线大香蕉| 大香伊人婷婷| 色婷丨日丨天丨综合久久| 天天肏高清在线| 丁香婷婷久久五月天| 五月婷婷基地| 色婷婷丁香五月在线观看| 亚洲精品久久久无码| 国产97色在线 | 日韩| 亚洲视频在线观看99| 激情AV在线| 1024欧美看片| 五月天久久久| 中文字幕在线资源| 婷婷久久图片| 亚洲欧美一区二区三区爱爱动图| 丁香五月激情鲁| 五月亭亭直播| 五月丁香婷婷色色| 天天做天天爱天天爽| 亚洲综合网在线| 99热在线里有精品| 超碰在线观看99| www,色综合| 狠狠狠夜夜夜| 五月丁香婷婷钟和色图| 亚洲精品乱码久久久久99| 亚洲色综合| 九九99热| 天天干天天做| 亚洲性视频| 丁香六月婷婷综合缴| 婷婷丁香五月天激情四射| 五月在在观看| 国产肥白大熟妇BBBB视频| 九月婷婷久久| 99热精品无码| 人妻人人操| 国产.亚洲.欧洲视频在线| 亚洲一级AV在线免费播放| 狠狠干伊人| 日韩野外 无套| 天天干天天操天天爱| 字幕网AV中文字幕| 五月婷婷综合潮喷| 97婷婷五月丁香| 婷婷香五月综合激情| 九色成人AV在线| 色五月婷激情| 九九热内射| 婷婷五月草| 久久影视婷婷五月| 殴美日韩成人| 九九99精品| 97色色色色色| 婷婷综合五月天激情| AA片在线观看视频在线播放| 五月婷高清视频| 久久全意婷婷| 五月丁香六月婷婷开心网| 婷婷日韩| 97影院一级片| 丰满少妇猛烈A片免费看观看| 婷婷激情五月天激情在线| 99噜噜噜在线播放| 欧美va欧美va差| 久久综合五月情| 久婷五月| 亚洲综合在线伊人婷| 99热这里| 日日爽天天| 综合精品99| 大香蕉AV在线| 国产色婷婷亚洲| 久久se 综合网| 亚洲色婷婷五月天| 久久99婷婷| 99欧美| 五月天激情www| 97色色综合| 99re在线播放| 五月天成人小说网| 欧美五月婷婷| 4399无码视频| 99热思思| 婷婷五月天另类视频| 天天揷综合网| 久久丝袜婷婷| 久久午夜理论| 日韩黄色电影| 五月丁香| 久热亚洲| 婷婷丁香五月激情中文字幕版| 五月丁香婷婷啪啪网| 99久久99九九99九九九| 五月婷婷和六月| 五月丁香黄色| 国产精品久久久久久久久久| 99热婷婷| 91大神在线免费看视频全集男男一起操| 婷婷久久丁香五月| 五月丁香色婷婷综合| 91色综合网| 成人做爰A片免费看网站找不到了| 99色在线| 天天久久综合| 国产成人高清| 激情性爱婷婷| 丁香五月成人| 97干网站| 丁香五月欧美激情| 天天综合情| 五月丁香综合中文| 色爆五月| 俺去也婷婷| 婷婷丁香五月天激情| 天天 日综合| 五月婷婷性爱| 久久九九婷婷| 亚洲av电影在线| 日韩成人综合网| 伊人玖玖网| 色色五月婷婷丁香| 五月丁香六月婷婷不卡免费无码 | 亚洲看av的网站| www.激情五月天。com| 国产探花一片区| 免费看欧美成人A片无码| 久激情网| 五月天色五月| 99热6这里只有精品| 巴基斯坦粉嫰无码视频| 免费无码毛片一区二区A片| 五月婷婷AV| 26uuu成人网| 婷婷色丁香六月| 狠狠狠激情网| 国产中文亚洲欧美日韩性交| 五月丁香六月香香蕉| 日韩黄色AV无码| 黄色片久久| 五月婷婷开心网| 大香蕉婷婷色| 超碰成人在线观看| 噜噜狠狠色综合久| 超碰网站在线观看| www99热| 婷婷丁香激情五月天色色| 6080av| 久久黄色免费视频| 丁香六月中文| 西西4r午夜剧场| 中字幕视频在线永久在线观看免费| 精品色色| 久久怡红院| 激情综合五月婷婷| 久久婷婷精品| 婷婷色婷婷| 亚洲A片成人无码久久精品青桔 | 精品人妻久久久久| 99在线精品视频免费观看20| 亚洲久热无码| 人人干人人操人人摸| 久热视频这里只有精品| 婷婷综合五月天激情| 伊人五月人妻精品| 丁香五月婷婷乱| 夜夜综合色| 99在线精品视频免费观看20| 99视频精品全部观看10| 婷婷开心激情| 五月天综合网| 九热视频| 丰满人妻一区二区三区| 天天干天天日蜜臀av| 五月激情婷婷偷拍| 亚洲天堂玖玖| 9久久久久| 级情九色| 第六色在线| 色操b| 婷婷五月天成人| 久久人人超| 色婷婷色99国产综合精品| 成人无码精品1区2区3区免费看| 全部老头和老太XXXXX| 丁香五月婷婷综合激情啪啪啪| 九九九九中文字幕| www.超碰在线| 六月综和久久| 丁香五月婷婷色播艳门照| 噜噜狠狠色综合久| 超碰在线99| 丰滿爆乳一区二区三区| 日韩无码91| 天天草人人摸| 色偷偷狠狠| 91久久九久久九久久九久久九久久| a在线观看| 三男玩一女三A片| 丁香婷婷性爱| 丁香激情网| 美欧成人视频| 五月六月丁香激情视频| 欧洲日韩一区二区三区| 五月婷婷综合网| 色婷婷五月天在线观看| 99re久热| www久| 五月色网| 欧美99热| 婷五月天| 色五月丁香六月资源站| 丁香激激情网| 99热这里只有精品青草| 久久婷婷六月综合国际| 国产av基地| 激情五月婷婷伊人| 综合色色网| 琪琪布丁香社区激情五月天| 曰本aaaaaa丈片| 亚洲日本激情| 99热这里只有精品9| 一本道在线电影| 色噜噜五月丁香婷婷| 五月亭亭六月色| 五月久久婷婷天堂视频| 99国产精品白浆在线观看免费| 成人免费视频一区| 五月天五月色| 99热99色| 91色性感五月婷婷丁香| 久久久精品视频79| 婷婷无码五月天| 亚洲色五月婷婷| 九九久久免费视频44| 国产亚洲99久久精品| 五月婷婷自拍| 91丨九色丨国产打屁股| 9 9 9色色| 操逼福利视频| 天天干天干| 色色色色色五月| 天色综合网站| 色婷婷激情| 日本色图综合| 婷婷五月天视频免费在线观看| http:色情日本com| 亚洲激情综| 五月天婷婷视频小说| 国产黄色在线观看| 天干天天干天天天天天| 婷婷99狠狠躁天天躁中| 五月天婷婷AV| 五月色天情| 美女久久天堂| 六月香五月婷| 婷婷六月色| 在线视频你懂得| 97操碰视频| 婷色视频| 99在线精品视频| www.9色色色| 婷婷五月永远18免费久久久| 丁香婷婷基地| 五月婷婷丁香啪啪| 五月天最新网| 五月天激情黄色网址| 激情亚洲色图片丁香综合| 五月天色五月| 天天天久久久| 能直接看的av网站| 亚洲天堂热| 色婷婷电影网| 丁香五月激情宗合网| 色婷婷操逼| 庭庭久久内射| 99色网站| 操操操操操操婷婷五月天| 成人网址在线观看| 丁香午月AV中文字幕| 久热这里只有精品6| 激情五月丁香婷婷夜夜操| 婷婷亚洲影院| 97亚洲色 torrent magnet| 五月丁香久久| 久色成人| 男同91| 亚洲视色| …亚洲黄色在线播放日韩、av中文a…| 婷婷久月| 亚洲综合成人网站| 综激情网| 大香蕉啪啪网| 成 人片 黄 色 大 片| 亚洲AV无码久久精品色欲| 97涩婷婷婷婷基地| 婷婷深爱五月| 97操在线视频| 玖玖婷婷五月天| 色五月色五天色情网| 五月丁香亭亭A片| 激情六月婷婷| 亚洲精品99| 久热在线中文字幕色999舞 | 婷婷丁香激情综合色情| 中文字幕在线不卡视频| 亚洲99综合| 欧美色狠婷久| 国产精品成av人在线视午夜片| 久久久久久久久人妻| 亚洲另类婷婷综合| 九九黄色网| 国产玖玖资源| 久久精品63| 图片区 小说区 区 亚洲五月| Www.婷婷五月| 综合久久久| 五月丁香六月激情| 婷婷五月美女直播| 久99在线视频| 性欧美大战久久久久久久83| 精品三区影院| 热九九精品| 久久99热这里只频精品6学生| 五月丁香人妻| 亚洲日本激情| 99视频啪啪| 日本久久精品| 丁香五月婷婷天激情| 亚洲色夜| 精品亚洲国产成AV人片传媒| 99热一区| 婷婷五月欧美综合| 色欧美日| 欧洲电影在线观看免费版英语版| 色色网站| 色五月aV| 99狠狠操一| 丁香婷婷天堂| 六月丁香啪啪啪| 五月花婷婷丁香| 婷婷色五月丁香六月欧美啪| 色情成人五月天| 操人无码| 丁香五月天狠狠| 亚洲开心激情网| 五月天激情四射网站| 先锋影音av色五月天资源站| 五月丁香激情综合啪啪| 亚洲综合狠狠艹| 婷婷五月天综合激情| 超碰国产AV| 午夜不卡久久精品无码免费| 五月婷婷基地| 婷婷五月天欧美| 先锋资源 996| 337p大胆噜噜噜噜噜91Av| 六月综合婷婷开心伊人| 国产成人精品亚洲线观看| 九九99免费视频| 五月天成人伊人| 久久婷婷五月天懂色| 丁香五月婷婷色偷偷| 亚洲国产精品VA在线看黑人| 99热这里只有精品3| 99久在线精品99re8热| 丁香六月毛片| 日韩一区二区在线播放| 大香蕉综合在线| 人人看人人97| 亚洲天堂碰碰婷婷| 日日躁夜夜躁狠狠久久AV| 日本狠狠干| 久大香蕉| 国产性爱一级| 五月天婷婷乱论小说| 丁香婷婷啪啪啪| 色婷婷五月天成人网| 国产99美少妇| 99视频这里只有免费精品| 夜夜躁婷婷AV| 免费看无码视频A级| 天天干天天av天天射 | 久久久大香蕉| 五月丁香六月激情综合 | 婷婷 伊人 久久| 亚洲成片在线观看| Av在线资源| 日日操无码| 激情五月丁香五月综合| 亚洲午夜在线视频| 99网| www久久久久久久久久久| 天天影院色| 综合网色| 欧美精品中文字幕亚洲专区| 天天插天天插| 极品人妻VIDEOSSS人妻| 五月亭亭开心网| 五月婷婷六月激情| 9l视频自拍9l九色成人| 激情丁香五月| 91日本在线| 久热这里| 五月开心播播网| 牛色色碰| 丁香五月婷婷少妇| 97婷婷五月激情六月丁香伊人| 色99www.| 久久综合五月婷婷| 91精品91久久久中77777久久玖玖九九| 久久久大香蕉| 五月丁香激情综合网| 草操AV在线| 丁香六月视频| 久久婷婷六月综合| 性爱视频99| 婷婷婷久久久| 色色色成人网| 日韩成人免费电影| 六月婷婷综合网2| 免费色婷婷| 99婷婷国产最新视频| 深爱婷婷基地| 色综合五月在线| 丁香色婷婷五月天| 久久婷网| 五月婷婷色色| 精品国产乱码久久久久久免费| 中文字幕成人版| 丝袜激情网| 丁香色五月婷婷17C| 26uuu亚洲欧美| 亚洲色视频| 日日操夜夜爽| 97色综合| 991国产精选视频在线播放下载| 99黄色性生活| 色婷婷成人| 国产日日夜夜操| www.日日夜夜.com| 色色色国产| www色色com| 亚洲美女裸体被操在线观看| 另类国产区| 久久婷婷热| 99久久99热| 激情综合丁香五月| 香蕉综合网| 午夜天天精品视频| 色婷婷文字幕| 精品九九在线观看| 欧美影院| 五月丁香六月| 综合久久五月天| 欧美成人va| 久热九九| 内射丰满人妻| 五月丁香久人妻中文| 婷婷色六月| 99热很操老逼| 亚韩在线视频| 96五月丁香熟女| 午夜色婷婷| 婷久久综合| 五月天婷婷激情干干| 99色综合网| 久久综合婷婷激情| 六月丁香深深爱综合网| 97婷婷五月| 农村熟妇高潮精品A片| 日本高清久| 人妻尝试久久久久久久久久久久| www色色com| 久久久潮喷-久久久九九-成人AV| 婷婷五月天激情四射五月天激情| 九九无码| 大伊香蕉精品视频在线| 97干在线| 九九性视频| 99燥99日| 色七色九九| 色欲久久久久久综合网综合网| 久久久天堂国产精品女人| 久久99免费视屏| 婷婷五月激情图片| 伊人激情综合| 五月开心婷婷极品激情| 蜜臀av粉嫩av懂色av| 啪啪九九色| 天天干天天日天天插| 婷婷丁香亚洲色综合91| 国产精品视频久久99| 五月丁香五月综合欧美| 开心五月六月婷婷| 激情五月六月婷婷| 日日夜夜天天综合| 91操碰| 亚洲激情综合五月婷婷啪啪| 久久激情视频| 欧美日本综合网| 99久久婷婷| 丁香五月在线自慰| 婷婷六月激情综合| 久久婷婷五月天蜜桃| 九九在线视频| 丁香五月区| 国产高清RV综合aVa| 久久九九@| 日比视频91| 色人久久| 99精品无码网站| 国产一级片| 欧日韩成人| www色综合亚洲92| 亚洲欧洲另类| 国产激情综合五月久久| 99热在线精品播放| 久久玖玖综合|