免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

xvisor時間虛擬化實戰(zhàn):從虛擬定時器設計到Guest時鐘校正

xvisor時間虛擬化實戰(zhàn):從虛擬定時器設計到Guest時鐘校正 1. 為什么專門聊xvisor的時間虛擬化1.1 從一次“Guest卡死”說起先講個我實際踩過的坑。前兩年在一款ARM嵌入式板卡上做多系統(tǒng)隔離方案選了xvisor作為Type-1 hypervisor跑一個輕量級Linux Guest。功能驗證基本通過但跑了一天后發(fā)現(xiàn)Guest的gettimeofday返回值跟墻鐘差了將近40秒再跑幾天直接差到幾分鐘。起初我以為只是NTP沒同步后來用串口抓日志發(fā)現(xiàn)vCPU在定時器中斷里反復進出Guest的時鐘中斷頻率明顯不對甚至出現(xiàn)連續(xù)drop tick的情況。這個問題帶我走進了xvisor的時間虛擬化實現(xiàn)。說實話虛擬化領域大家聊得最多的是CPU虛擬化、內存虛擬化、中斷虛擬化時間虛擬化經常被一筆帶過。但真正做過hypervisor的人都知道時間虛擬化是“看著不起眼、做起來頭疼”的模塊——它跟調度器、中斷控制器、物理定時器、Guest內部時鐘源全都有耦合。Guest卡死、時鐘漂移、性能抖動十有八九是時間虛擬化沒設計好。這篇文章就以xvisor為例掰開揉碎講清楚時間虛擬化是怎么設計的。適合三類人看一是做嵌入式虛擬化方案選型的技術負責人想評估xvisor能不能用二是自己寫或維護hypervisor的開發(fā)者想?yún)⒖家惶卓陕涞氐膖imer虛擬化設計三是正在被“Guest時鐘不準”“定時器中斷風暴”之類問題折磨的運維和驅動開發(fā)同學。1.2 xvisor是誰為什么拿它當例子xvisor是一個開源Type-1 hypervisor主打輕量、可移植官方支持ARM、x86、RISC-V等架構在嵌入式領域常被拿來跟KVM、Xen、Xenomai這類方案做對比。它的代碼量比Linux內核小好幾個數(shù)量級但虛擬化核心要素齊全CPU虛擬化、設備模型、中斷虛擬化、時間虛擬化都有完整實現(xiàn)。也正因為代碼規(guī)??煽胤浅_m合用來“解剖”虛擬化內部原理。選xvisor講時間虛擬化還有一個重要原因它的設計思路很“直給”。不像大型hypervisor那樣為了兼容各種硬件而堆滿條件分支xvisor在時間子系統(tǒng)的抽象上做得很精簡——核心對象少、依賴關系清晰、中斷流明確。讀懂它的時間虛擬化再回頭看KVM的kvm-clock、Xen的xen_timer會發(fā)現(xiàn)底層邏輯是相通的只是工程復雜度不同。這篇文章我不會只貼源碼也不會只講理論。我會從“Guest感知的時間到底是什么”這個根問題出發(fā)拆解xvisor的設計取舍然后給出我在實際編譯、配置、驗證過程中用到的操作步驟和調試命令最后把我踩過的坑整理成排查清單。保證你看完能對時間虛擬化有一個完整的、可復用的認知框架。2. 時間虛擬化的核心難點Guest眼中的“時間”從哪來2.1 三條時間線Guest同時在用三套時鐘要理解時間虛擬化先得搞清楚虛擬機里的“時間”不是一個東西。實際運行中一個Guest至少依賴三條時間線。第一是墻鐘時間wall clock也就是人類可讀的日期時間比如2025年幾月幾日幾點幾分。Guest里的用戶程序調用clock_gettime(CLOCK_REALTIME)拿到的基本是這條線。墻鐘時間通常是軟件維護的根節(jié)點是某個RTC芯片或網(wǎng)絡時間協(xié)議。第二是單調遞增時間monotonic time用來計算時間差、超時判斷比如clock_gettime(CLOCK_MONOTONIC)。這條線不能被用戶跳變只能單調往前走。內核里的jiffies、高精度定時器hrtimer都依賴它。第三是硬件定時器時間線。CPU或者SoC內部有周期性的硬件定時器——ARM的Generic Timer、x86的TSC/APIC timer、RISC-V的mtime等。操作系統(tǒng)用它來產生周期性tick中斷驅動調度器、時間輪、延遲執(zhí)行等機制。三條時間線各有各的虛擬化難點。墻鐘時間主要是“怎么把宿主機的當前時間安全地給Guest”單調時間主要涉及“offset和速率怎么折算”硬件定時器則是真正的硬骨頭——因為Guest要直接操作硬件定時器寄存器而hypervisor必須截獲這些訪問并進行模擬。2.2 直接透傳的致命問題Guest能碰到物理中斷有人可能會問既然ARM有Generic Timer這種虛擬化友好的硬件直接把定時器硬件給Guest用不就行了問題沒那么簡單。ARM Generic Timer確實提供了CNTVCT虛擬計數(shù)器、CNTVOFF虛擬偏移、CNTV_TVAL虛擬定時器這些機制硬件層面就已經支持時間虛擬化。但xvisor的目標是通過設備樹描述虛擬平臺要支持不同板卡、不同ARM實現(xiàn)不能默認所有平臺都帶完整的虛擬化定時器擴展。更重要的是即使硬件支持Guest對定時器的訪問仍然會產生虛擬中斷hypervisor必須參與中斷路由。直接透傳最典型的災難是Guest把定時器的觸發(fā)周期設置得極短比如每10微秒產生一次中斷而且沒有經過hypervisor的rate limiting物理CPU就被中斷風暴占滿其他vCPU完全餓死。又比如Guest在suspend時把定時器關閉但hypervisor不知道導致喚醒后時間完全錯亂。所以xvisor的總體思路很明確虛擬定時器必須由hypervisor統(tǒng)一管理Guest不能直接拿到物理定時器的全部控制權。2.3 時間虛擬化的三個基本操作Offset、Dilation、Injection拋開硬件細節(jié)時間虛擬化本質上就是對Guest可見的時間軸做三個操作。第一個是Offset偏移。虛擬機的啟動時間點通常不等于宿主機的時間零點而且多個虛擬機可能要求看到不同的“當前時間”。hypervisor維護一個基準時間點為每個Guest計算一個偏移量。Guest讀時間時hypervisor返回“物理時間 offset”。第二個是Dilation縮放。虛擬機的時鐘速率不一定跟物理時鐘1:1。調試場景里經常需要“放慢”Guest的時間比如把Guest的時鐘減速到0.5倍速這樣跑定時器相關的競態(tài)條件時更容易復現(xiàn)。反過來性能測試時又想讓Guest時間盡量貼近物理時間。實現(xiàn)縮放最簡單的方法是修改虛擬定時器的周期——物理定時器每10ms觸發(fā)一次但告訴Guest每次都過了20msGuest感知的時間就被拉伸了兩倍。第三個是Injection注入。虛擬定時器到期后hypervisor不能直接讓物理中斷打到Guest的向量表里而是需要構造一個虛擬中斷通過中斷控制器的虛擬化接口注入給指定的vCPU。注入的時機、優(yōu)先級、目標vCPU選擇都有講究做不好就會出現(xiàn)中斷丟失或者重復注入。xvisor的時間虛擬化本質就是一套把這三件事做扎實的框架。3. xvisor的時間虛擬化設計拆解3.1 兩層定時器Host Timer與Virtual Timer先區(qū)分兩個概念xvisor代碼里明確區(qū)分了“主機定時器”host timer和“虛擬定時器”virtual timer。這個概念如果不厘清代碼會越看越亂。Host Timer是物理定時器由xvisor自身使用用于產生hypervisor內部的心跳tick——調度器的時間片輪轉、延遲任務、超時檢查都靠它。xvisor把物理定時器配置成固定周期比如配置CONFIG_SCHED_PERIOD相關的值每次中斷到來時xvisor的時間子系統(tǒng)統(tǒng)一處理。Virtual Timer是給每個Guest vCPU仿真的定時器。每個vCPU維護自己的虛擬定時器狀態(tài)——什么時候到期、周期多少、中斷注入給誰。Guest在設備樹里看到的定時器節(jié)點就是xvisor為它創(chuàng)建的一個虛擬設備。這樣的兩層設計有一個明顯好處物理定時器只有一個中斷頻率可控可預測虛擬定時器數(shù)量可以任意多且互相隔離。Guest無論怎么折騰自己的定時器配置影響的只是它自己的虛擬定時器上下文物理中斷的穩(wěn)定節(jié)奏始終由hypervisor掌握。3.2 核心對象timer、timer_event、vcpu_timexvisor的時間虛擬化核心代碼在core/time.c和對應架構的arch/arm/time.cARM平臺。語言用的是C但我先不貼大段源碼而是把里面的關鍵對象捋清楚。第一個核心對象是struct timer代表一個“到點需要處理”的注冊項。它包含回調函數(shù)、參數(shù)、到期時間、周期標志等。xvisor的定時器管理類似內核的timer wheel但精簡得多基本是一個按到期時間排序的單向鏈表。注冊一個定時器意味著把回調掛到鏈表上時間一到回調執(zhí)行。第二個核心對象是struct timer_event這是虛擬定時器的事件描述。每個vCPU維護一個timer_event代表該vCPU當前正在等待的虛擬定時器到期點。Guest設置CNTP_TVAL或CNTV_TVAL時xvisor把它翻譯成一個絕對到期時間掛到timer_event上。第三個核心對象可以叫vcpu_time context它記錄了虛擬時間與物理時間的換算關系offset、dilation系數(shù)、上次同步點等。每次Guest讀取虛擬計數(shù)器時xvisor根據(jù)這個context計算出返回值。這三個對象的關系是物理tick到達 → host timer鏈表中找到最近的timer_event → 判斷哪個vCPU的虛擬定時器到期 → 更新vcpu_time context → 構造虛擬中斷注入給目標vCPU。3.3 虛擬中斷的流轉路徑從物理中斷到Guest中斷向量中斷路徑是時間虛擬化里最容易出bug的地方。我梳理一下xvisor在這條鏈路上做了什么。首先是物理中斷入口。ARM架構下定時器中斷是PPIPrivate Peripheral Interrupt每個CPU獨立。xvisor在啟動階段把物理定時器中斷注冊到自己的中斷處理框架里中斷到來先進入hypervisor的異常處理向量。然后是host timer處理。xvisor的時間子系統(tǒng)調用timer_expire之類邏輯遍歷定時器鏈表找出所有到期項。這里有一個實現(xiàn)細節(jié)鏈表項不是簡單地刪除而是會先判斷是單次定時器還是周期定時器。單次定時器直接摘除周期定時器則重新計算下一次到期時間并重新入鏈。接著是虛擬到期判定。每個timer_event到期并不意味著Guest一定需要中斷。xvisor會先比較虛擬定時器的到期時間和當前虛擬時間如果還沒有真正到期說明是host timer提前醒了的“偽喚醒”直接跳過。只有真正的到期才進入下一步。最后是虛擬中斷注入。xvisor調用中斷控制器的虛擬化接口把虛擬定時器中斷置為pending狀態(tài)。對于ARM GIC這通常涉及GICD_ISPENDR或者使用GIC的虛擬化擴展GICv2/v3的list register機制。注入的目標必須是定時器所屬vCPU當前正在運行的物理CPU否則還要考慮vCPU遷移帶來的中斷路由問題。這條路徑如果捋清楚了調試時間虛擬化就有抓手。每次“Guest時間不準”的問題本質上可以歸因到這條鏈路中的某一環(huán)offset計算錯、虛擬到期判定錯、中斷注入丟、物理中斷頻率抖動。3.4 設計取舍為什么這么精簡代價是什么xvisor的時間虛擬化設計主打精簡這是有代價的理解取舍比記代碼更有價值。第一個取舍是用鏈表而不是紅黑樹或時間輪管理定時器。xvisor面向嵌入式場景虛擬機的數(shù)量、定時器數(shù)量都不會特別大鏈表在幾十個節(jié)點規(guī)模下表現(xiàn)足夠而且實現(xiàn)簡單、便于驗證。代價是定時器數(shù)量多時插入復雜度為O(n)但實際場景中很少成為瓶頸。第二個取舍是把虛擬時間映射做成線性關系offset dilation而不是像KVM那樣做復雜的時鐘源切換。線性映射的優(yōu)點是計算開銷小、Guest看到的時間連續(xù)缺點是無法精確模擬“Guest暫停期間時間不走”這類的特殊語義只能靠offset調整來補償。第三個取舍是以tick為基本驅動而不是完全事件驅動。xvisor的host timer按固定周期走周期內所有虛擬定時器到期行為都會延遲到下一個tick統(tǒng)一處理。這樣會引入最多一個tick周期的延遲但對大多數(shù)嵌入式Guest來說完全可接受而換來的是實現(xiàn)簡單、不用頻繁配置物理定時器。這三個取舍合在一起就是xvisor時間虛擬化“小而美”的底層邏輯。你要真想給別人講清楚xvisor的時間虛擬化把這幾個取舍講明白比背代碼更有說服力。4. 實操從編譯配置到時間正確性驗證4.1 配置xvisor時間相關選項理論講完動手環(huán)節(jié)還是要走的。我在QEMU模擬的ARM平臺用virt機器上做過完整的xvisor Linux Guest驗證。第一步是編譯xvisor時間虛擬化主要關系到幾個配置宏。xvisor的配置在config/arm/下一般先復制默認配置再改。時間相關的關鍵項大致有CONFIG_SCHED_PERIOD物理調度周期也就是host timer的tick周期。默認值通常是1000000納秒1ms。這個值直接決定定時器中斷頻率影響虛擬定時器到期精度。CONFIG_TIMER_FREQ虛擬定時器頻率基準ARM平臺往往對應Generic Timer的頻率通常在設備樹里聲明。CONFIG_MAX_VCPUS_PER_GUEST單Guest的最大vCPU數(shù)會影響每vCPU定時器上下文的分配。我實測時把CONFIG_SCHED_PERIOD調成1000000Guest的dmesg里時鐘源是arch_sys_countertick穩(wěn)定在1000Hz左右。如果你想要更高精度的虛擬定時器可以把CONFIG_SCHED_PERIOD調小到100000100微秒但代價是hypervisor自身的中斷開銷會明顯變大跑高負載時會看到宿主機CPU占用上升。注意xvisor的配置項不是每個版本都一樣源碼版本不同宏名可能略有差異。建議先查config/arm/*.conf里的實際定義再對照include/下的頭文件確認宏作用別盲目照抄老文章的配置。編譯命令我用的經典三連cd xvisor make ARCHarm CROSS_COMPILEaarch64-linux-gnu- defconfig # 手動調整.config里時間相關項 make ARCHarm CROSS_COMPILEaarch64-linux-gnu- -j8編譯產物是xvisor二進制和xvisor.dtb。虛擬機鏡像和文件系統(tǒng)我是用buildroot現(xiàn)成做的這里就不展開了。4.2 設備樹里的定時器節(jié)點Guest看到的虛擬定時器xvisor通過設備樹向Guest描述虛擬硬件。在xvisor的dts/目錄下你可以找到arm虛擬平臺的設備樹模板定時器節(jié)點大概長這樣timer { compatible arm,armv8-timer; interrupts GIC_PPI 13 IRQ_TYPE_LEVEL_LOW, GIC_PPI 14 IRQ_TYPE_LEVEL_LOW, GIC_PPI 11 IRQ_TYPE_LEVEL_LOW, GIC_PPI 10 IRQ_TYPE_LEVEL_LOW; clock-frequency 62500000; };這個節(jié)點對Guest來說就是它的物理定時器但實際上xvisor會把clock-frequency聲明的頻率作為虛擬定時器的頻率而不是直接透傳真實頻率。這里有個容易踩的坑clock-frequency的值必須跟CONFIG_TIMER_FREQ配合好。如果設備樹里聲明的是62.5MHz而xvisor內部用的基準是50MHzGuest里的clock_gettime跑一段時間后就會出現(xiàn)整數(shù)倍的漂移。建議的做法是把設備樹里的clock-frequency跟實際板卡的真實timer頻率解耦單獨定義一個對齊xvisor內部頻率的值保證虛擬計數(shù)器換算關系閉合。Guest內核起來后可以通過以下命令確認它看到的定時器信息cat /sys/devices/system/clockevents/clockevent0/current_device cat /proc/interrupts | grep arch_timer cat /proc/timer_list | head -50正常情況下Guest應該能看到arch_timer事件設備并且中斷計數(shù)會隨時間穩(wěn)定增長。如果中斷計數(shù)不動說明虛擬定時器中斷沒有注入成功需要優(yōu)先檢查GIC的虛擬中斷配置。4.3 驗證時間正確性的三板斧配置好之后怎么判斷時間虛擬化是“對的”我總結了三板斧。第一板斧是單調性驗證。在Guest里寫一個簡單循環(huán)反復讀取CLOCK_MONOTONIC確認返回值嚴格遞增不倒退。時間虛擬化做得粗糙時最容易出現(xiàn)“時間倒流”——因為虛機在suspend時沒做好offset補償恢復瞬間Guest看到的時間比暫停前還要早。我用的一個極簡腳本思路大致是#!/bin/bash prev0 for i in $(seq 1 100000); do cur$(date %s%N) if [ $cur -lt $prev ]; then echo time go backwards: $prev - $cur break fi prev$cur done第二板斧是對比驗證。同時記錄宿主機和Guest的時間換算成同一個參考系打點對比。不是要求完全一致而是要求偏移量在一段時間內保持相對穩(wěn)定波動在可接受范圍。如果Guest時間線性偏離宿主機通常是dilation參數(shù)不對如果忽快忽慢通常是虛擬定時器到期處理不穩(wěn)定。第三板斧是壓力驗證。在Guest里跑周期性任務比如每10ms打印一個時間戳連續(xù)跑一小時。人為給宿主機加負載比如同時跑多個CPU密集型vCPU或實時任務觀察打印間隔是否穩(wěn)定。時間虛擬化最怕的就是“鄰居干擾”——別的vCPU忙的時候你的虛擬定時器到期被拖后造成Guest端的定時器延遲。xvisor在這塊的短板是它的調度器比較簡單虛擬定時器到期后如果目標vCPU不在運行中中斷注入后要等該vCPU被調度才能被處理延遲會疊加。實測中2個vCPU的Guest在高負載下定時器周期的抖動大概在幾個毫秒量級對于非實時場景能接受。4.4 用QEMU的虛擬時間做快速驗證如果手上沒有真實板卡QEMU是一個很趁手的驗證環(huán)境。QEMU自身支持時間虛擬化相關參數(shù)比如-rtc、-icount。在調試xvisor時間虛擬化時我通常用如下命令啟動qemu-system-aarch64 -machine virt -cpu cortex-a57 \ -kernel xvisor -dtb xvisor.dtb -m 1024 \ -nographic \ -append consolettyAMA0啟動后進入xvisor的shell再加載Guest鏡像。這種環(huán)境下驗證時間虛擬化的好處是QEMU的時鐘可控可以通過-icount控制虛擬CPU的指令執(zhí)行速度方便制造時間壓力場景。我曾在-icount 2大約每2條指令一個時鐘tick下跑Guest明顯看到Guest的定時器中斷被拉伸這正是驗證dilation語義的好場景。提示QEMU環(huán)境下時間虛擬化的表現(xiàn)跟真實硬件差異很大尤其是ARM Generic Timer的虛擬化擴展在QEMU里是模擬的性能不能代表真實板卡。它適合驗證邏輯正確性不適合做性能評估。5. 常見問題與排查實錄5.1 Guest系統(tǒng)時間漂移嚴重現(xiàn)象Guest里date顯示的時間比實際時間慢或快很多運行越久差得越多。排查步驟先區(qū)分是墻鐘時間漂移還是單調時鐘漂移。在Guest里分別執(zhí)行date和cat /proc/uptime對比兩者的增長速度。如果uptime正常而date偏慢問題在墻鐘時間同步——NTP或者RTC虛擬化沒做好如果兩者都偏問題更可能在虛擬計數(shù)器頻率配置不對。解決方案墻鐘問題優(yōu)先檢查xvisor的RTC虛擬化是否工作Guest里是否有/dev/rtc。頻率問題檢查設備樹的clock-frequency和xvisor的CONFIG_TIMER_FREQ是否對齊。我在板卡上遇到過一次典型問題設備樹時鐘頻率寫的是62.5MHz但xvisor內部CONFIG_TIMER_FREQ還是默認的50MHz導致Guest時間線性慢20%修改后恢復正常。5.2 vCPU卡死或中斷風暴現(xiàn)象Guest啟動后頻繁出現(xiàn)soft lockup/proc/interrupts里arch_timer中斷數(shù)增長異??靽乐貢r整個Guest無響應。排查步驟先用串口進xvisor shell查看vCPU狀態(tài)vcpu list觀察目標vCPU是否反復進出hypervisor。然后查host timer的實際觸發(fā)頻率確定是不是某個虛擬定時器被反復注冊成短周期。xvisor的timer命令通??梢詃ump當前的定時器鏈表timer如果發(fā)現(xiàn)大量到期時間相等的短周期定時器基本就是Guest的定時器配置被錯誤透傳或者虛擬中斷注入后Guest沒有正確應答導致中斷反復重注入。解決方案多數(shù)情況是虛擬中斷的清除語義沒做對。ARM Generic Timer的虛擬中斷是level-sensitive的Guest必須清除CNTV_CTL的enable位或重寫CNTV_TVAL才能拉低中斷線。如果xvisor在注入后沒有同步更新定時器狀態(tài)Guest清了中斷但hypervisor認為還沒清就會陷入注入-清除-再注入的循環(huán)。檢查arch/arm/time.c里的timer_event更新邏輯確保在注入虛擬中斷前已經把該定時器標記為“已到期并等待Guest處理”而不是“周期性重新觸發(fā)”。5.3 掛起/恢復后時間跳變現(xiàn)象Guest執(zhí)行suspend比如echo mem /sys/power/state到resume后系統(tǒng)時間要么跳到未來要么完全不動。排查步驟這個問題的本質是掛起期間物理定時器停了但虛擬時間還在按物理時間累加或者反過來。xvisor時間子系統(tǒng)需要感知Guest的電源狀態(tài)變化。解決方案在xvisor里增加一個電源狀態(tài)遷移時的“時間凍結”處理Guest進入suspend時記錄當前虛擬時間快照Guest resume時重新校準vcpu_time context的offset使Guest看到的單調時間在掛起期間保持不變或按預期補償。這部分的實現(xiàn)復雜度取決于虛擬平臺怎么建模電源管理。我的建議是優(yōu)先保證offset補償也就是suspend期間不走虛擬時間把這次掛起產生的物理時間差不做累加。5.4 和KVM、Xen的時間虛擬化對比聊完xvisor的排查實錄再橫向對比一下其他方案能更清楚xvisor的定位。對比維度xvisorKVMLinux內核Xen時鐘源虛擬化方式線性映射offsetdilationkvm-clock半虛擬化 TSC/ACPI虛擬化Xen共享信息頁 hypercall定時器中斷注入虛擬中斷直接注入vCPU通過KVM的irqchip vcpu定時器事件通道注入精度上限依賴host tick頻率約1ms量級可支持ns級精度kvm-clock亞毫秒級復雜度低便于閱讀和二次開發(fā)高功能全面但代碼龐大高分域模型復雜典型場景嵌入式、資源受限、需要高可控性的場景服務器、云主機、桌面虛擬化服務器虛擬化、云基礎設施這個對比不是要分高下而是說明xvisor在時間虛擬化上的設計目標是“夠用、可控、可移植”。如果你需要納秒級精度的時間虛擬化xvisor確實不是首選但你要是想在嵌入式場景里搞清楚時間虛擬化是怎么回事xvisor的代碼是很好的入門教材。5.5 那些“嵌套虛擬化”報錯其實也和時間相關熱搜詞里有一堆“vmware嵌套虛擬化失敗”“此平臺不支持虛擬化AMD-V”“模塊hv啟動失敗”之類的報錯很多人以為是CPU特性問題其實有一部分和時間虛擬化脫不了干系。舉個例子VMware Workstation啟用了嵌套虛擬化后如果虛擬機里的系統(tǒng)讀到的TSC頻率跟宿主機的實際TSC頻率不一致高精度定時器就會錯亂輕則報錯重則直接無法啟動。另一類“HV啟動失敗”的場景里時間同步驅動VMware Tools的time sync和hypervisor的時鐘源沖突也是常見原因。這類報錯給的提示往往只有一句話但排查思路是類似的先確認宿主機的虛擬化特性是否完整egrep -c (vmx|svm) /proc/cpuinfo再確認虛擬機內部的時間源、時鐘源信息是否正常最后檢查hypervisor的時間同步機制是否被安全軟件或系統(tǒng)策略關閉了。這些經驗跟xvisor的時間虛擬化本質上是相通的——時間源沖突、頻率不一致、中斷注入失敗是虛擬化領域共通的坑。6. 調試xvisor時間子系統(tǒng)的幾個技巧6.1 用日志定位時間問題xvisor自帶日志系統(tǒng)可以通過配置打開精細日志。排查時間虛擬化問題時我習慣先把這幾個日志開關打開# xvisor啟動參數(shù)或config里開啟 log-level debug重點關注兩類日志一類是定時器中斷處理路徑的日志能看到物理tick何時到、虛擬定時器何時到期另一類是虛擬中斷注入日志——每次給vCPU注入timer中斷時的目標vCPU和當前物理CPU。實際調試中我發(fā)現(xiàn)最有效的方法是在vcpu_time context的每次更新處加一條臨時打印記錄物理時間、虛擬時間、offset三個值。把一組數(shù)據(jù)抓下來數(shù)據(jù)之間的線性關系一目了然偏移量是常量還是變化量、速率是否偏差這些都能直接算出來。等到問題確認后再把打印關掉。6.2 構造最小復現(xiàn)場景時間虛擬化的問題往往要跑很久才暴露復現(xiàn)困難。我的經驗是把場景“時間壓縮”把虛擬定時器的周期調到極短把host tick調大人為放大時間偏差。比如正常場景虛擬定時器是10ms周期調試時改成1ms連續(xù)跑10秒相當于把問題放大了10倍。另外同時跑兩個周期相差很遠的Guest也是好辦法。一個Guest跑快速tick另一個Guest跑慢速tick兩者在同一個host timer上競爭很容易暴露出調度器和時間管理器之間的優(yōu)先級問題。6.3 如果我要二次開發(fā)從哪入手如果你讀完這篇文章想在xvisor基礎上改時間虛擬化我建議按這個順序入手第一步先熟悉vcpu_time context的維護邏輯動手改offset和dilation的換算跑Guest觀察時間變化。這個改動最小、驗證最快能建立直觀感覺。第二步改虛擬定時器的到期處理比如把單次觸發(fā)改成周期觸發(fā)或者加入“定時器追趕”邏輯。這一步能讓你理解物理tick到虛擬中斷的完整路徑。第三步再動中斷注入的細節(jié)比如調整虛擬中斷的優(yōu)先級、目標vCPU選擇策略。這一步最容易引入回歸務必配合第4節(jié)的驗證三板斧做充分測試??偟膩碚fxvisor的時間虛擬化雖然精簡但五臟俱全。它的設計沒有太多花活卻把時間虛擬化的核心問題——時間線管理、硬件定時器抽象、虛擬中斷注入——都表達清楚了。讀它的代碼比讀大型hypervisor里動輒上萬行的時鐘框架要友好得多。如果你打算深入研究虛擬化從xvisor的時間子系統(tǒng)入手再對照KVM的實現(xiàn)去看會有事半功倍的效果。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日本天天综合| 五月激情影院| 色99日韩| 五月花激情网| 欧美性爱丁香五月| 色五月激情网| 婷婷永久在线| 五月天婷婷丁香| 91九色在线| 婷婷五月激情欧美大胆视频| 成人精品视频99在线观看免费 | 婷婷婷五月天最新综合你懂的| 中文字幕黄色电影网址| 日韩久久系列| 亚洲乱码日产精品BD| z色五月播播久久| 激情欧美婷婷| 久久九九99| 丁香五月天亚洲综合| 婷婷久热| 97天堂| 99这里只有精品视频| 樱花99视频| 日韩AV在线免费观看| 极品人妻XXXXOOOO| 婷婷在线视频| 人人操AV| 精品影院| 逼特逼在线免费播放| 婷婷香五月天| 日本久久精品| 免费视频WWW在线观看网站| 九九热10| 亚洲精品电影| 色婷婷电影网| 国产AV国片偷人妻麻豆| 亚洲视频在线观看| 97干在线视频精品店| 婷婷丁香六月| 俺也去五月婷婷丁| a级毛片一区二区免费视频| 九九九九这里只有精品| 91超级碰碰碰| www.天天干| 亚洲中文乱字字幕在线永久| 99热最新网址| 97大香蕉五月天| 午夜天堂一区人妻| 日本操B视频| 中文字幕精品无码一区二区| 综合久久婷婷99| 国产精品久久久久久久久久 | 五月色欧洲| www.激情在线| 婷婷射婷婷舔| 九九热自拍| 婷婷色情网| 婷久久| 激情av在线| 少妇人妻人伦A片| 96精品久久久久久久久| 思思久久99| 五月天色色色| 色婷婷丁香AV综合| 啊V视频在线观看| 91碰在线| 超碰AAAAAAV| 天天狠狠插| 思思久久青草热| www.五月丁香av| 六月丁香婷啪射| 丁香五月成人论坛| 情久久综合五月天| 五月天激情网站| 91精品久久久久久77777| 日本狠狠干| 亚洲日韩乱码一区二区三区四区 | 丁香五月婷婷色| 日日爱678| 亚洲乱码成人| 丁香伊人网| 99热国产这里只有| 另类小说激情五月天| 五月天婷婷色色网| 日韩黄在免| 99精品综合在线| av在线免费网站 | 六月丁香视频网站| 九九热这里| 五月丁香六月色| 五月婷婷综合网| 青草视频在线观看视频| 婷婷九月狠狠色| 狠狠色丁香久久久婷| 色爱综合网| 97色色网| 99热精品中文字幕| 天天干,噜噜色,狠狠色| 久久婷婷五月综合激情国产| 日韩在线看AV| 五月婷婷六月丁香免费| 久久久久久人妻久久久久久久久久人妻久久久| 色色色图| 九色PORNY自拍成人精彩视频| 99热视| 噜噜色婷婷| 丁香五月综合婷婷| 欧美色偷偷大香| 九九熱最新視頻| 天天干天天色天天干| 婷婷五月综激情| 欧美性生交A片免费看| 人妻在线网站| 五月丁香欧美综合| 国产精品久久久爽爽爽麻豆色哟哟 | 婷婷五月天成人| 婷婷色爱| 狠狠婷婷色| 九九色热| 99热思思在线观看| 伊人久久大香网| www.金莲av| 狼人久草| 无码人妻电影| 91色涩| 五月婷婷亞洲中文| 色插人人| 五月停停激情网| 国产超碰在线| 天天做综合| 久久视频婷婷| 久久婷婷啪啪视频| 婷婷91| 婷婷五月综合色中文字幕| 丁香婷婷偷拍| 午夜天堂一区人妻| 色婷五月丁香久亚洲| 97综合在线| 狠狠干在线| 依人大香蕉在钱1| 99热这里只有精品26| 99在线观看精品视频| 无码激情AAAAA片-区区| 国产美女精品| 天天操天天插天天射| 丁香伊人综合| 毛片九九九九九九九九18| 综合久色五月| 五月丁香婷婷五月色| 伍月婷婷免费视频| 久久小说网| 激情精品久久| 狠狠操狠狠色| 99热这里只有精品5| 五月丁香婷久久| 久久机只有这里精品| 亚洲乱码日产精品BD| A片试看120分钟做受视频红杏| 久久伦乱| 婷婷五月天av| 五月天激情美女久久| 超碰97在线操| 五月丁香婷婷婷激情爱爱| 99在线一区| 99视频在线精品| 超热久碰.com| 日本一级黄色电影| 五月色情婷婷开心五月色情| 丁香五月瑟瑟| 午夜免费试看| 狠狠色 综合色区| 国产乱轮一区二区三区| 日韩久热| 综合色五月天| 伊人五月天97| www.色婷婷| 丁香婷婷浪潮AV久久综合| 六月丁AV| 天天舔夜夜操www com| 婷婷九月色| 狠狠五月天婷婷| 激情五月婷婷综合网| 天天爽天天干天天| 激情五月,色五月| 日本久久99| 综合五月天婷婷色| 综合婷婷| 亚洲AV永久无码影院黑人| z色五月播播久久| 91婷婷在线| 色婷婷影视| 五月婷婷丁香在线视频| 激情综合区| 99ER热精品视频| 丁香六月亭亭久久综合| 丁香五月天欧洲在线| 五月婷婷开心综合| 色亚洲无码| 婷婷97狠狠成人网站| 99久久玖玖| 久久伊人婷婷| 色婷婷亚洲综合av| 欧洲第一无人区观看| 99热在线免费| 五月天激情网址| 久久五月婷综合网| 亚洲字幕AV一区二区三区四区| 久久免费婷婷视频| 五月花成人网| 丁香婷婷激情综合五月激情| 天天综合色丁香| 白人荫道BBWBBB大荫道| 97碰在线| 激情综合激情综合| 婷婷五月天资源| 91se在线视频| 丁香六月激情| 色99日韩| 99热精品99| 激情二色月| 人伦30P| 538在线精品| 久久多色| 久久婷婷人人| www.婷婷五月| 亚洲色情在线| 99综合一区| 天天爽爽日日做做| 久热九九| 九九九色综合| www.婷婷亚洲基地| 超碰在线视屏| 国产免费AV在线| 青青999| 久久久天堂国产精品女人| 欧美在线操| 色婷婷九月| 日本综合九九| 任我干视频在线观看| 日日操夜夜爽| 饮料下药迷倒漂亮女同事强干| 色XX综合网| 五月天婷婷久色| 婷婷五月天最新综合你懂的 | 日日夜夜久| 色丁香久综合在线久综合在线观看| 久草婷婷| 综合五月天亚洲婷婷| 99久在线观看| 色五月天丁香| 日本怕怕视频| 五月天激情小说电影| 婷婷天堂综合| 丁香 婷婷五月| 婷婷激情五月天网站| 大香蕉手机视频| 亚洲激情综合| 影音先锋女人AA鲁色资源| 色99色| 97人人干| 99视频在线观看地址| 九九色逼| 婷婷五月丁香亚洲| 大香蕉狠狠爱主页| 亚洲区视频| 玖玖爱综合网| 亚州精品色情在线观看| 婷婷开心综合人妻小说网址| 激情综合色播| 99精品自拍视频| 亚洲激情网| 香蕉综合在线| 少妇搡BBBB搡BBB搡毛茸茸| 八戒青柠影视剧在线观看| 欧美色五月| 久久久国产精品黄毛片| 亚洲自拍天堂| 国产午夜成人AV在线播放| 精品国产乱码久久久久夜深人妻| 亚洲正能量欧美| 婷婷日本色| 一月婷婷色色| 免费精品66| 婷婷丁香五月天色区| 精品少妇蜜臀91| 亚洲色激情| 久久人妻人人| 国产亚洲精品AAAAAAA片| 综合天堂AV久久久久久久| 97涩婷婷| 精品思思久久| 成人免费va| 五月天丁香网站| 在线另类| 日本久久精品18| 在线播放成人网站| 丁香美女主播视频在线观看| 日韩啪啪网| 亚洲人人操BD| 久久这里只精品| 六月婷婷毛片| 日韩婷婷| 天天天综合网| 色婷婷成人做爰A片免费看网站 | www激情网| 六九色综合婷婷五月天| 日本精品人妻无码77777| 99操网站| 婷婷久久视频| 色婷婷综合久久久久| 国产免费一区二区在线A片视频| 久久婷婷五月天大香蕉| 久久色五月天| 色五月婷婷综合在线| 国产看真人毛片爱做A片| 狠狠色噜噜狠狠亚洲A∨| 91久久综合亚洲鲁鲁五月天| 99热这里只有精品最新网址| 99九九久久| 国产中文字幕在线视频免费观看| 色婷婷五月天天天天天天天天天| 成人视频一区| 亚洲AV免费国产电影| 国产Va视频| 久久与婷婷| 97日本操| 69激情小说| 天天干天天干天天干天天干天| 超碰成人av| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 色噜噜狠狠色综| 五月婷在线播放| 日韩人妻无码专区| www.激情在线| 99热亚洲| 亚洲 综合中文| 激情久久丁香| 99伊人性爱在线影院| 日日操,夜夜撸| 婷婷成人五月天成人文学| 久久婷婷丁香视频网| 欧美视频在线观看噜噜| 粉嫩AV久久一区二区三区| www.色五月.com| 五月婷婷中文字幕AV| 国产69久久久欧美黑人A片| 婷婷五月激情网| 五月婷婷综合在线| 天堂久久性| 亚洲第79页| 影音先锋91网站在线观看| 超碰在线人妻| 色播五月丁香婷婷| 国产精品扒开腿做爽爽爽A片唱戏| 99色综合网| 五月婷婷导航| 色综合久久88色综合天天99| 超碰在线免费9| 91九九精品| 华人在线免费| 高清国产一级婬片a免费| 5月婷婷性视频| 国产看真人毛片爱做A片| 99激情网| 国产AV一区二区三区最新精品| 99这里有精品久久97| 五月天com| 色色综合色视频| 婷婷五月激情丁香| 我要色综合五月婷婷| 欧美大片免费播放器| 玖玖在线资源视频| 五月天婷婷综合色| 无套内射极品大美女| 五月天激情日色在线| 99爱这里只有精品免费视频| 狠狠色婷婷7777久综合| 黄色片区子| 丁香六月激| 涩五月婷婷| 丁香五月综合在线播放 | 夜夜爽天天干| 九月婷婷久久久| 五月激情综合网| 丁香六月色情| 人人爽欧美婷婷久久久五月丁香| 色五月首页| 婷婷四月 成人 狠狠干| 97一区二区| 婷婷五月激情天| 日韩成人电影在线播放| 婷婷丁香社区| 97碰碰在线观看视频| 狠狠综合| 亚洲中文AV网站| 日韩 中文 欧美| 丁香5月激情网| AAA级久久久精品| 五月婷婷,六月丁香| 色情五月婷| 99精品成人无码A片观看金桔| 99只有这里是精品| yellow视频在线观看91| 五月婷婷色在线| 五月丁香六月激情视频| 色吧五月婷婷六月丁香| 伊人网碰碰| 国产精品人人做人人爽人人添| www夜夜操comwww| 91碰| 色吊操色妞| 91成人品| 激情综合网五月| 丁香五月综合激情久久潮喷| 色青五月天| 嫩BBB槡BBBB搡BBBB| 色小说五月天| 天天插天天| 性爱综合网| 伊人激情综合| 国产特级毛片AAAAAAA高清| www.婷婷五月天| 四虎婷婷五月天| 色六月婷婷| 第四色色六月色综合| 五月天成人小说| 色99网| 久久久中文| 91午夜婷婷狠狠久久综合9色| 99综合一区| 99综合99| 激情深爱综合| 天天色月| 婷婷丁香五月激情密臀av| 五月花婷婷| 丁香六月色婷婷| 激情播丁香| 国产精品色婷婷久久久精品| A片天天| 欧美一级色| 五月天婷婷色综合| 97碰| 激情五月天的婷婷| 丁香色色五月| 欧美日韩一区二区三区四区| 少妇AB又爽又紧无码网站| 中文字幕丰满人妻无码专区| 丁香美女主播视频在线观看| 激情五月五月五月婷婷| 久久99热这里只有精品23| 久久久A级视频| 综合六月久久| 国产成人AV| 99爱在线视频| 99色婷婷视频| 九九热自拍| 婷婷激情五月天激情| 艾小青av| 精品三区影院| 涩涩网五月天| 5月婷婷五月天| 亚洲六月婷| 开心丁五月| 精品无码av丁香五月激情| 婷婷五月天桃花网| 激情文学综合婷婷五月天丁香花| 亚洲网视屏| 这里只有精品视频| 丁香五月婷婷激情尤物| 99爱视频| 精品人妻一区二区三区四区不卡在| 婷婷中文综合网| 四川BBB搡BBB爽爽视频| 狠狠色综合久久久久| 91久久精品国产91性色TV| 丁香五月天色婷婷| 影音先锋噜一噜| av大香蕉| 亚洲爆乳无码精品AAA片蜜桃| 日本99热| 婷婷色色综合| 日韩有码一区| 99热碰碰| 五月天激情偷拍| 青青草a在线| 99在线观看视频免费| 婷婷综合网在线| 日日干综合| 狠狠色性| 岛国av网站| 五月天色综合| 五月丁香啪| 激情综合网五月婷婷| 成人精品一区日本无码网| 久久久天堂国产精品女人| 影音先锋女人AA鲁色资源| 色色五月婷婷网| 熟妇天天综合| 五月色丁香| 日日日,com| 亚洲激情高潮| 99精品视频免费| www.97碰碰com| 99热这里只有精| 五月婷久久久久综合| 亚洲成人电影在线免费观看| 亚洲精品电影| 开心五月婷| 五月精品| 色日本颜射| 色约约视频一区二区三区四区五区| 日韩精品一区二区刘| 第四色激情网| 天天干天天射色综合| 亚洲色网络| 99这里只有精品视频| 超碰在线91| 丰满少妇乱A片无码| 日韩欧美性爱| 五月丁香激情综合网官网| 成人精品99| 97资源欧美日韩大香蕉超碰一区| 大香蕉久久视频久久视频| 久久五月天免费网站| 婷婷伊人綜合中文字幕| 天天天天色天天天天天干| 99久久精品国产色欲| 婷婷五月成人| 久久影视婷婷五月| 蜜桃婷婷丁香| 狠狠色成人影片| 婷婷丁香五月在线观看91| 婷婷性爱| 26uuu成人网| 丁香五月大香蕉| 国产综合视频婷婷| 99热免费看| 婷婷视频网| 色综合丁香婷婷| 日本va视频| 色色婷婷丁香| 丁香五月激情网| 九月色婷婷综合| 婷婷伊人久久| 97五月婷婷| 色视五月天婷婷| 超碰精品在线| www.婷婷五月天.com| 丁香六月激情网C0W| 一区二区三区视频| 五月婷婷激情综合在线| 1024国产| 久久久jd| 丁香五月婷婷色情综合| 丁香五月天天| 九九免费视频| 一级七香蕉| 婷婷色五月色妇| 色射影院| 色碰干| 午夜丁香综合婷婷| 男人視頻站| 99久久精品网| 激情开心五月天| 狠狠草天天草| 久久小视频| 99热99日天天干| 丁香五月婷在线观看| 国产午夜精品一区二区三区嫩草| av九九| 婷婷色在线观看| 天堂综合久久| 色五月婷婷影院| 99福利导航| 人人操AV| 丁香 久久| 亚洲成人av在线| 欧美日韩国产伦精品日韩人妻一| 国产精品色色| 97热精品| 日韩婷婷| 五月婷婷六月激情在线| 少妇被躁爽到高潮无码文| 五月香蕉综合| 97超喷视频在线观看| 五月婷婷在线观看| 激情五月婷婷她| 激情综合网激情五月天| 日本久久高清| 国产毛片精品一区二区色欲黄A片| 五月丁香综合网色欲| 色色五月天激情| 婷婷九月激情| 久热视频97AV在线观看| 丁香婷婷月| 色五月婷婷影院| 色五月激情五月| 99热精品网| 97caop| 久久机热/这里只有精品| 停停六月 综合| 丁香婷婷激情五月天无毒不卡蜜桃| 99视频在线观看网址| 99热1| 六月婷婷成人| 丁香深五月婷婷| 色色综合激情| www.综合久久.com| 欧美性做爰大片免费看办公室| 五月婷婷亚洲综合网| 亚洲热热视频| 激情六月日韩| 成人精品在线| 婷婷五月开心六月AV| 久re热视频| 99视频这里只有免费精品| 99热国产在线| 色婷婷在线播放| 五月婷婷久久综合| 婷婷五月天网址| 欧美色色色| 天天操综合网站| 六月丁香久久| 九久热| 日韩成人电影AV| 日日狠狠久久偷偷四色综合免费 | 九色无码| 五月天电影网| 色噜噜狠狠色综合网| 久久一二三视频| 日韩狠狠色| 亚洲精品第一国产综合亚AV| 97碰在线| 天天色综合图片| 天天爽天天爽天天爽天天爽天天爽| 久久九九热re6这里有精品| 欧美色宗和激情| 天天色综合网吨吧| 99在线观看亚洲| 天天射色五月天| 在线看片h站| 九九色影视| 激情丁香五月婷婷啪啪| 色噜噜伊人| 日本免费91| 五月色亭丁香| 国产亚洲精品AAAAAAA片 | 9色免费网| 99热久久这里只有精品| 四色99久久| 久久这里只精品| 五月婷婷之六月丁香| 激情五月激情综合俺也去婷婷小说| 激情五月婷色| 国产精产国品一二三在观看| 色色亚洲| 婷婷丁香久久| 91人人操.COM| 激情五月天开心| 99久久激情视频| 久久五月天黄色五月天色网址| 国在线激情网| 99日韩| 啪啪丁香五月| 另类天堂| 97九色视频| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 亚洲狠狠色丁香婷婷综合久久| 久久久久9999| 99精品视频网| 婷婷香五月天| 亚洲精品视频在线播放| 这里只有精品视频免费在线观看| 另类小说激情五月天| 五月婷婷之美女图片| 激情婷婷五月黑人| 极品五月天| 精品成人无码A片观看香草视频| 天天综合网、天天综合色| 五月激情丁香五月| 91人妻PORNY九色大屁股| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 五月色丁香婷婷综合| 丁香五月av| 色99在线视频| 91一起操| 伊人香大香蕉视频| 99在线看片| www.91AV.com| 超碰成人电影| 亭亭丁香aV| 五月天影院婷婷在线观看| 五月婷婷色男女| www.爱操com.| 五月花在线观看视频| 五月激情六月综合| 五月天激情综合网站| 五月大香蕉| 久热这里只有精品性色AV| 五月天婷婷自拍图片在线观看| 婷婷五月亚洲激情| 超碰成人免费| 五月婷六月天| 色婷狠狠| 欧美激情综合色综合啪啪五月| 91一起操| 亚洲岛国电影| 96丁香六月婷婷蜜桃综合久久| 成人精品在线| 丁香五月在线看| 亚洲综合激情五月久久| 久草天堂| 91av视频| 超碰人人超碰| 六月丁香婷婷六月激情综合| 九九热这里只有精品6| 92久久| 九九色情网站| 97资源碰碰在线| 五月丁香直播| 伊人五月天在线| 99热亚洲精品| 91九色成人原创视频| 九九操操| 亚洲色99| 日本片日本片祼观看网站在线看中文版网页在线看 | 襙比视频| 91碰| 91男同视频| www五月天com| 五月天久久成人| 玖玖五月| 日本丰满久久| 久久婷婷六月天| 天天插插天天| 三级片AAA久久久AAA久久久AAA| 毛片蕉地一二| 6080av| 久久网日本| AV片一区在线观看| 99爱视频精品在线观看| 五月天婷婷在线播放| 天堂成人A片永久免费网站| 超碰激情五月| 热热久久久久久久久| 婷婷在线视频| 欧美啪啪五月天| 91人妻视频| 激情五月天 婷婷| 久婷婷五月综合欧美| 欧美五月丁香在线观看| 丁香六月激情四射| 美国天天操无码| 国产性色蜜乳| 久久久久久久人妻| 91人人操人人| 五月天成人小说网| 亚洲精品V天堂中文字幕| 97操碰视频| 五月丁香亭亭| 99视频啪啪| 五月丁香六月停停| 噼里啪啦在线观看免费完整版视频| 热久久婷婷| 精品九九视频| 无码色| 九九色色网| 91色色色18| 91人人爽人人操| 亚洲第79页| 天天日天天肏天天奸| 五月婷婷播| 久久久久人妻网址| 久99久在线| 性爱网五月天| 色99自拍| 亚洲高清在线| 粉嫩av懂色av蜜臀av熟妇| 久久激情五月婷婷| 玖玖婷婷五月| 五月婷婷,狠狠操| 婷婷久久免费| 婷婷五月丁香超碰| 久99综合婷婷| 色欲婷婷五月天| 91碰碰碰| 思思热在线观看| 五月婷婷色播| 色婷婷大香蕉| 成人av免费观看| 六月丁香激情综合网| 色色色色色色色色综合网| 久碰视频| 色五月激情网| 久久机只有这里精品| 亚洲成av人影院| 色五月天天| 五月丁久久| 丁香五月六月婷婷怡红院| 一区操| 大香蕉99| 婷婷丁香色五月亚洲| 久久精彩视频| 天天拍久久| 色亭亭九月| 69久久99精品久久久久婷婷| 激情綜合網址| 日日夜夜狠狠| 玖玖精品资源| 99视频在线观看网址| 婷婷五月综激情| 色综久久AV| 九九色网专区| 久久色五月天激情小说| 日韩美女羞羞网站在线观看| 亚洲成人中心| 秋霞学生妹一二级| 91在线操逼视频| WWW.桔色成人.COM| 99热啪啪| 色操综合| 色色免费网站| 无码婷婷五月天| 热婷婷久| 欧美激情五月天| 丁香五月 综合| 91日在线视频| 久久三级视频| 丁香五月亚洲综合| 激情五月天综合网| 色婷婷五月天| 99热这里全都是精品| 欧美色五月| 久久丁香婷婷色情综合| 久久久婷婷五月亚洲97号色| 超碰av在线| 7EzOBIhNq85TO| 少妇性按摩无码中文A片| 丁香综合伊人| 丁香社92视频| 人妻内射一区二区在线视频| 亚洲男女激情| 色久五月| 日本精品99网站| 99热伊人综合| 色色色色网站| 五月天社区婷婷丁香社区| VA五月激情在线| 欧美三级A做爰在线观看| 天天操天天插| 丁香婷婷六月天| 久草 天堂| 国产免费一区二区三州老师F1……| WWW.99热| 日本五月婷| 五月天婷婷激情小说| 日本丁香久在线| 午夜]香婷婷深深爱| 丁香六月啪| 九九热最新视频| 夜夜天天天天天干天天爽| 亚洲精品国产成人AV在线| 婷婷五月天丁香综合网| 第四色激情网| 九九99视频| 日韩久热| 91色吧网| 婷婷五月丁香国产| 热思思九九| 婷婷另类小说| 99自拍视频在线| 精品久久99码| 女高怪谈在线观看| 五月激情婷婷六月丁香| 欧美色狠婷久| 91精品无码| 色婷婷国产精品综合在线观看| 五月婷婷啪啪啪啪| 极品人妻VIDEOSSS人妻| 亚洲人妻av| 91超碰人人操| 久久视频婷婷| 丁香五月色五月| 五月色色激情网| 日日爽天天| 五月涩涩网| 久久五月婷天天干| 另类婷婷丁香| 手机激情网| 侠女刀之记忆电影在线看免费| 99久久亚洲精品视频| 日本精品干| 思思99久久| 婷婷五月中文字幕| 另类视屏| 99伊人性爱在线影院| 国产精品国产| 97五月久久丁香婷婷| 久久综合影院| 超级黄色片| 亚洲av网站在线观看| 2017狠狠干| 啪啪综合网| 人妻久久久久| 五月天色综合| 五月丁香另类图片| 激情综合婷婷五月| tingtingjiqingwuyue| 激情婷婷五月天网址| 天天日天天狠狠操| 妇激情基地| 五月婷婷色色| 亚洲五月天伊人| 五月婷婷中文网| 久草久青福利| 九九久久99| 九九99久久| 激情五月天在线| 蜜臀丁香黄色婷婷五月天| 一夜福利不卡| 久久黄A片| 六月婷婷狠狠做| 色播五月丁香综合| 这里只有精彩亚洲视频推荐| 狠狠狠色激情综合适合| www.久久99热地址发布| 婷婷六月综合激情| 国外亚洲成AV人片在线观看| 婷婷五月丁香成人网| 99热超| 人妻AV在线| 丁香五月骚喷水视频| 欧美成人色婷婷| 丁香六月久久| 综合久久婷婷| 国产偷人爽久久久久久老妇APP| 99亚洲天堂| 91九色白丝| 婷婷色五月丁香六月欧美啪| 天天综合干| 久久这里有精品视频| 婷婷色丁香五月| 嫩草AV久久伊人妇女超级A| 五月婷婷9| www超碰| 开心婷婷五月中文字幕组| 色婷婷六月| 国产亚洲精品AAAAAAA片| 久热re视频在线观看网站| 99在线观看精品| 丁香五月日啪| 182TV大香蕉| 九月丁香| 丁香五月最新地址| 天天摸天天爽| 9精品在线| 久久精品A片777777| 另类精品视频在线观看| 激情欧美婷五月| 久超超碰| 九九色婷婷五月天| 开心五月六月婷婷| 天天爽天天| 极品少妇XXXX精品少妇偷拍| 99啪啪网| 五月丁香六月情婷婷久久| 中文字幕在线免费观看视频| 久热婷婷综合| 另类的婷婷| 婷婷五月天成人网| 亚洲欧美综合7777色亭亭| 97碰| 亚洲视频色婷婷| 被强行糟蹋的女人A片| 9久国产精品| 天天爱天天日| 97精品综合久久| 超碰AV成人| 欧美性爱特黄一级aaaassss| 激情综合婷婷| 欧美日本99| 五月婷婷插一插| 婷婷丁香五月亚洲| 国产激情在线| 色婷婷狠狠干芒果TV| 亚洲欧洲中文日韩久久AV乱码| 日本婷婷在线| 人妻内射视频| 久热91| 婷婷色激情网| 久久婷色| 伊人色五月| 五月色婷婷综合| 激情网 久久| 色五月丁香婷婷综合| 丁香五月性| 99riAv1国产在线观看| 人人爽欧美婷婷久久久五月丁香| 免费三级黄色| 91热99| 成人在线不卡| 久婷婷婷| 香蕉人在线香蕉人在线 | 婷婷丁香婷婷97| 99热只有国产在线精品| 国产精品99久久久久久久女警| 久久精品99久久| 九九热re99re6在线精品| 久久天堂女人| 九九热在线视频观看| 丁香六月天婷婷| 五月婷婷激清网| 黄色网址五月婷婷| 先锋男人99资源| 婷婷欠久少妇| www.婷婷,com| 91人妻人人操| 99re这里只有精品在线观看| wwwav大香蕉| 国产,欧美,日韩,性爱| 人妻日日日| 99国产性感视频| 久婷狼色诱惑在线| 激情五月天开心总和网| 超级碰碰一区| 婷婷激情六月视频| 中文字幕激情综合| 亚洲永久四色| 九九热在视频| 免费看欧美成人A片无码| 久99久热只有精品国产99| 婷婷情色开心五月天99| 中文国产五月天| 免费一区二区三区| 五月天综合在线观看视频| 激情综合网五月婷婷| 4399在线日本A片| 色色a| 大波美女VA网站| 日韩熟女啪啪视频| 五月婷视屏在线观看| 久热69| 婷婷综合网| 森林影视大全,最好看的2019年视频 | 亚洲国产成人AV在线| 六月婷婷久久| 噜噜干日本| 96丁香六月婷婷蜜桃综合久久| 五月丁香视频在线观看| www.色欲丁香婷婷| 99精品无码| 五月婷婷色播视频| 在线18av | 久久思思热| 丁香五月婷婷色| 玖玖婷婷色欲| 秋霞A V毛片| 99这里有精品免费| 国产婷婷五月| 第四色激情网| 久久人妻在线| 色五月激情网| 色网五月婷婷| 在线观看的av| 99热这里只有在线播放| 久草婷| 丁香色婷婷五月天| 九九人妻福利| 无码动漫AV| 深爱激情五月网| 日本操B视频| 亚洲色久| 丁香伊人五月色婷婷五十路| www.99热这里只有精品| 丁香久久五月天视频在线观看| 丁香五月激情月| 99操碰| 亚洲婷婷欧美婷婷| 婷婷久久免费看| 婷婷久久图片| 欧美69久成人做爰视频| 天天在线XXX| 狠狠人妻久久久久久综合丁香| 激情四射婷婷色色色| 久久免费精彩视频| 国产操碰| 99久久精品网| 五月丁香婷婷综合在线| 亚洲AV成人在线| 综合狠狠干| 人人操Av| 秋霞丝袜啪啪啪| 久久婷婷五月综合色区| 成人欧美日韩| 99re思思久久| 9久久久| 色99热| 99精品国产热久久91色欲| 人人干人人看| 伊人爱爱日本| 久久婷婷的综合色丁香五月| 久99综合婷婷| er99免费视频在线| 婷婷激情社区| 泰州成人视频| 91男同视频| 久久久久久久久久久44| 丁香六月婷婷综情欧美| 色婷綜合网| 色欲婷婷五月天丁香| 天天日天天舔| 色色99| 激情九九六月激情免费视频| 亚洲网视屏| 婷婷香五月综合激情| 大香蕉九操| 天堂无码人妻精品AV一区| 六月婷婷青青青视频| 99热这里只有精品1025| 欧美婷| 五月婷婷六月丁香综合| 国产肥白大熟妇BBBB视频| 日韩精品一区二区刘| 五月丁香色色网| 丁香 婷婷 亚洲 熟女| 人人爱国产| 五月婷婷玖玖综合玖玖爱| 日本精品99网站| 五月婷久久| 激情五月天婷婷| 久久久久久久久久久久久9| 丁香九月激情久久| 狠狠999| 九九亚洲视频| 四色五月婷婷| 伦乱美欧| 五月婷婷激情久久| 色综合99| www.久久爱.c n| 五月天色婷婷视频| 九九综合精品| 热996精品在线观看| www.狠狠操.co m| 五月婷婷五月色| 五月丁香综合精品欧美| 日本欧美成人片AAAA| 99热在线这里| 天天色天天日| 久久综合色五月| 久久伊人日日夜夜| 无码任你操| 五月天之色情综合网| 婷婷五月天天| 亚洲日日操| 久久婷婷五月综合精品蜜芽| 色五月婷婷丁香婷婷| 天天日天天色| 99热最新国内| www.狠狠操.con| 青青草成人网| 婷婷五月天网址| 婷婷五月激情天| 影音 五月 婷婷 久久| 99热福利| 国产综合色婷婷精品久久| www狠狠爱com| 丁香五月婷婷88在线| 超碰九色| 五月丁香六月婷婷的女人| 手机激情网| 91操人视频| 丁香花成人区| 免费视频这里只有精品| 成人在线精品| 99久久亚洲国产| 五月激情婷婷开心| 超碰av在| 色五月五月丁香| 99超级碰免费视频| 久热视频A.| 五月花免费视频| 色婷婷综合亚洲| 丁香 亚洲 久久| CAoub青青超碰| 婷婷五月丁香伊人| 就爱日五月天| 九九综合久久| 五月激香蕉网| 婷婷综合伊人丁香| www.seqingwuyuetian| 色色色视频| 天天爽天天爽| 情五月亚洲婷婷| www久久99| 99噜噜噜在线播放| 日韩无码专区| 金桔一区二区ab地址| 成人丁香五月天| 日日噜人人人做人| 婷婷激情五月| 丁香五月天激情网址| 激情第四色| 九九性视频| 超碰九色| 国产欧美日韩一区二区三区| 色婷婷激情| 综合激情五月综合激情五月激情1| 狠狠干,狠狠操| 激情99热| 艹B高清无码| 欧美色五月天| 另类亚洲电影| 五月丁香六月婷婷激情网| 日本99在线| 色综合久久综合中文综合网| 在线成人网址| 97干在线视频| 天天上天天爽| 亚洲av另类在线观看| 六月丁香综合| 无码橾| 97人人超| 99这里只有免费的精品| 国产精品扒开腿做爽爽爽A片唱戏| 欧美性爱特黄一级aaaassss| 婷婷激情久久| 色欲日日躁| 五月婷婷丁香综合,亚洲天堂| 九九热最新| 91婷婷| 成人无码髙潮喷水A片| 开心五月深爱激情| 99热精品10| 婷婷五月综合在线| 婷婷六月丁香1| 亚洲天堂有码| 91丨九色丨熟女|老版| 五月丁香六月综合情在线观看| 国产日韩精品SUV| 五月婷AV| 久久草中文日韩欧美| 久久久五月天| 啪到高潮激情丁香五月| 成人色图情色成人网 www.5b5b5bcom 五月天 | 五月天婷婷伊人| 五月婷婷丁香| 五月婷婷开心亚州在线| 久久九九婷婷| 天天日天天爽| 成人超碰Av| 五月婷综合激情| 色五月激情五月| 婷婷五月六月激情| 日本精品99网站| 日日夜夜干| 婷婷另类小说| 99在线视频免费| 97超喷视频在线观看| 久久色婷婷| 色六月天| 91九色丨国产丨爆乳| 丁香六月婷婷综合| 丁香在线视频| 婷婷综合成人五月天| 亚洲精品成人片在线播| 一级黄色影片|