免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線(xiàn)實(shí)戰(zhàn)洞察。

分布式計(jì)算如何將芯片電源簽核周期從幾周縮短到幾天

分布式計(jì)算如何將芯片電源簽核周期從幾周縮短到幾天 在芯片后端設(shè)計(jì)流程中電源簽核Power Signoff是流片Tapeout前最耗時(shí)的環(huán)節(jié)之一。一顆復(fù)雜 SoC 的全芯片電源網(wǎng)絡(luò)分析往往要跑好幾周才能出結(jié)果一旦 IR Drop 或 EM 違反要求修改后又要重新來(lái)一輪整個(gè)項(xiàng)目排期被拖得很緊。本文想結(jié)合這類(lèi)真實(shí)痛點(diǎn)拆解一套自研高性能分布式解決方案的技術(shù)思路為什么電源簽核這么慢分布式架構(gòu)如何把幾周的周期壓縮到幾天以及落地時(shí)需要注意哪些工程問(wèn)題。內(nèi)容適合芯片后端工程師、EDA 工具開(kāi)發(fā)人員以及對(duì)高性能計(jì)算和分布式系統(tǒng)感興趣的開(kāi)發(fā)者。1. 電源簽核為什么需要分布式計(jì)算1.1 什么是芯片電源簽核芯片內(nèi)部有成千上萬(wàn)個(gè)標(biāo)準(zhǔn)單元和宏單元它們需要依靠電源網(wǎng)絡(luò)把外部電壓送到每一個(gè)供電引腳。當(dāng)芯片工作在特定頻率和負(fù)載條件下電流在電源網(wǎng)絡(luò)中流動(dòng)會(huì)產(chǎn)生電壓降IR Drop長(zhǎng)期大電流還會(huì)引發(fā)金屬連線(xiàn)的電遷移EM問(wèn)題。電源簽核要做的事情就是在流片之前驗(yàn)證所有單元在最高功耗場(chǎng)景下收到的電壓是否仍然滿(mǎn)足時(shí)序要求電源網(wǎng)絡(luò)走線(xiàn)是否能在產(chǎn)品生命周期內(nèi)穩(wěn)定工作。從專(zhuān)業(yè)角度拆開(kāi)看電源簽核通常包括三大部分IR Drop 分析、EM 分析、功耗與熱分析。IR Drop 關(guān)注靜態(tài)和動(dòng)態(tài)電壓降EM 關(guān)注金屬連線(xiàn)上的電流密度是否超過(guò)安全上限功耗分析則用來(lái)評(píng)估峰值功耗、平均功耗幫助選擇封裝和散熱方案。一次完整的全芯片電源簽核往往需要對(duì)多個(gè)電壓域、多個(gè)功能模式、多個(gè)工藝角corner做組合遍歷計(jì)算量非常驚人。1.2 傳統(tǒng)電源簽核慢在哪里傳統(tǒng)簽核流程的第一個(gè)瓶頸是數(shù)據(jù)規(guī)模。進(jìn)入 7nm、5nm 甚至更先進(jìn)工藝之后全芯片電源網(wǎng)格的節(jié)點(diǎn)數(shù)量往往以?xún)|為單位。對(duì)這些節(jié)點(diǎn)建立矩陣方程并求解單臺(tái)服務(wù)器的內(nèi)存很容易觸頂內(nèi)存一旦不夠計(jì)算只能回退到磁盤(pán)交換速度會(huì)驟降幾個(gè)數(shù)量級(jí)。第二個(gè)瓶頸是迭代流程。傳統(tǒng)的簽核流程通常是串行的先整理數(shù)據(jù)再做功耗分析然后跑 IR/EM 仿真最后看報(bào)告。如果某一項(xiàng)不滿(mǎn)足就要修改電源網(wǎng)格或單元布局再重新跑一遍。一次完整簽核需要兩到三周一個(gè)項(xiàng)目往往要經(jīng)歷多輪迭代流片窗口很容易被錯(cuò)過(guò)。第三個(gè)瓶頸來(lái)自工具本身的擴(kuò)展性。很多商業(yè) EDA 工具的分布式能力依賴(lài)額外的 license 和內(nèi)置調(diào)度機(jī)制擴(kuò)展性有限。團(tuán)隊(duì)如果同時(shí)起多個(gè)任務(wù)license 數(shù)量不夠時(shí)就會(huì)排隊(duì)排隊(duì)時(shí)間甚至比計(jì)算時(shí)間還長(zhǎng)。這也是不少團(tuán)隊(duì)開(kāi)始考慮自研分布式方案的根本原因。1.3 分布式方案如何壓縮簽核周期分布式方案的基本出發(fā)點(diǎn)可以概括為“分而治之”。把全芯片的電源網(wǎng)絡(luò)分析按照物理區(qū)域、電壓域或驗(yàn)證場(chǎng)景拆分成多個(gè)子任務(wù)由多臺(tái)計(jì)算節(jié)點(diǎn)并行處理再把各子任務(wù)的結(jié)果合并為全芯片報(bào)告。假設(shè)單機(jī)需要兩周的計(jì)算時(shí)間拆成 4 個(gè)子任務(wù)后理想情況下可以壓縮到幾天。根據(jù)行業(yè)實(shí)踐芯曉科技通過(guò)自研高性能分布式解決方案把芯片電源簽核周期從幾周縮短到幾天。這背后并不是簡(jiǎn)單地把工具“多開(kāi)幾個(gè)窗口”而是要解決三個(gè)核心工程問(wèn)題任務(wù)怎么拆、任務(wù)怎么調(diào)度、結(jié)果怎么合并。本文后面的章節(jié)會(huì)圍繞這三個(gè)問(wèn)題展開(kāi)并給出一個(gè)可運(yùn)行的調(diào)度原型方便你理解整套流程的落地細(xì)節(jié)。2. 分布式電源簽核的整體架構(gòu)與選型2.1 硬件與軟件環(huán)境分布式電源簽核的計(jì)算環(huán)境一般是一個(gè)小規(guī)模的 Linux 集群。計(jì)算節(jié)點(diǎn)之間通過(guò)萬(wàn)兆以太網(wǎng)或 InfiniBand 互聯(lián)共享存儲(chǔ)用于讀寫(xiě)版圖數(shù)據(jù)、工藝庫(kù)、中間結(jié)果和最終報(bào)告。共享文件系統(tǒng)可以選擇 NFS、Lustre、BeeGFS 等方案具體選型取決于團(tuán)隊(duì)已有基礎(chǔ)設(shè)施。這里特別要提醒的是存儲(chǔ)子系統(tǒng)往往是容易被忽略的瓶頸因?yàn)殡娫春灪松婕按罅堪鎴D文件和波形文件I/O 壓力并不比 CPU 壓力小。軟件層面通常需要一套任務(wù)調(diào)度系統(tǒng)調(diào)度系統(tǒng)之下每個(gè)計(jì)算節(jié)點(diǎn)調(diào)用真實(shí)的 EDA 簽核工具執(zhí)行 IR/EM 分析。操作系統(tǒng)以 Linux 為主版本需要根據(jù) EDA 工具的認(rèn)證版本選擇。不同工具對(duì)操作系統(tǒng)的認(rèn)證環(huán)境有差異因此環(huán)境版本要按項(xiàng)目實(shí)際情況調(diào)整不要盲目追求最新系統(tǒng)版本穩(wěn)定性?xún)?yōu)先。2.2 架構(gòu)組件與數(shù)據(jù)流整體架構(gòu)可以分成三層控制層、計(jì)算層、存儲(chǔ)層。控制層負(fù)責(zé)任務(wù)拆分、調(diào)度、監(jiān)控和結(jié)果匯總計(jì)算層由多臺(tái) Worker 節(jié)點(diǎn)組成每個(gè) Worker 消費(fèi)一個(gè)子任務(wù)存儲(chǔ)層保存全芯片數(shù)據(jù)、分區(qū)數(shù)據(jù)、日志和最終報(bào)告。一次完整的數(shù)據(jù)流大致是下面這樣數(shù)據(jù)準(zhǔn)備輸入全芯片版圖數(shù)據(jù)、電源網(wǎng)格數(shù)據(jù)、工藝庫(kù)和約束文件。任務(wù)下發(fā)控制節(jié)點(diǎn)按照拆分策略生成多個(gè)分區(qū)任務(wù)并提交到調(diào)度隊(duì)列。并行計(jì)算各計(jì)算節(jié)點(diǎn)從共享存儲(chǔ)讀取各自的分區(qū)數(shù)據(jù)調(diào)用簽核工具執(zhí)行分析輸出分區(qū)結(jié)果。合并驗(yàn)證控制節(jié)點(diǎn)收集所有分區(qū)結(jié)果執(zhí)行合并與一致性校驗(yàn)生成全芯片簽核報(bào)告。這套流程中控制節(jié)點(diǎn)是“大腦”Worker 是“四肢”共享存儲(chǔ)是“記憶”。任何一個(gè)環(huán)節(jié)設(shè)計(jì)不合理都可能讓分布式方案的優(yōu)勢(shì)大打折扣。2.3 技術(shù)選型自研調(diào)度器還是開(kāi)源框架很多團(tuán)隊(duì)會(huì)問(wèn)直接用開(kāi)源分布式調(diào)度框架不行嗎當(dāng)然可以。但電源簽核場(chǎng)景有一些特殊性單個(gè)任務(wù)可能運(yùn)行幾小時(shí)甚至一天任務(wù)之間存在依賴(lài)關(guān)系比如必須先做功耗分析再做 IR/EM 分析而且調(diào)度系統(tǒng)需要和 EDA 工具鏈深度集成。通用流式框架雖然生態(tài)成熟但面對(duì)長(zhǎng)時(shí)間任務(wù)、斷點(diǎn)續(xù)跑、結(jié)果血緣記錄這些需求時(shí)往往需要做大量定制。因此不少團(tuán)隊(duì)選擇自研輕量調(diào)度器只保留自己需要的調(diào)度語(yǔ)義配合消息隊(duì)列實(shí)現(xiàn)任務(wù)分發(fā)和狀態(tài)同步。自研的初期成本確實(shí)更高但調(diào)度語(yǔ)義可以完全自定義后續(xù)擴(kuò)展也更靈活。如果團(tuán)隊(duì)已經(jīng)有消息中間件和監(jiān)控基礎(chǔ)設(shè)施建議在第一版就搭好任務(wù)狀態(tài)表和監(jiān)控大盤(pán)這對(duì)后續(xù)排查問(wèn)題非常有幫助。3. 核心原理拆解任務(wù)拆分、調(diào)度與結(jié)果合并3.1 任務(wù)拆分從物理區(qū)域到計(jì)算單元任務(wù)拆分是分布式電源簽核的關(guān)鍵常用策略有三種按物理區(qū)域劃分、按電源域劃分、按場(chǎng)景劃分。按物理區(qū)域劃分最直觀把芯片版圖按坐標(biāo)切成多個(gè)矩形分區(qū)每個(gè)分區(qū)交給一臺(tái)機(jī)器分析。但這種切法會(huì)切斷電源網(wǎng)格導(dǎo)致邊界區(qū)域的電流路徑不完整。解決辦法是在邊界處做重疊overlap讓相鄰分區(qū)有一部分計(jì)算區(qū)域是重復(fù)的合并時(shí)再統(tǒng)一裁決。按電源域劃分適合多電壓域芯片。不同電壓域之間本身有隔離結(jié)構(gòu)相互作用相對(duì)較小天然適合并行。按場(chǎng)景劃分則適合多 corner、多 mode 組合一個(gè)場(chǎng)景一個(gè)任務(wù)并行度最高但對(duì)存儲(chǔ)和 license 的消耗也更大。實(shí)際項(xiàng)目中通常混合使用先按場(chǎng)景分再按區(qū)域分最終形成一張任務(wù)樹(shù)。拆分粒度對(duì)性能影響很大。分區(qū)數(shù)量越多單個(gè)任務(wù)計(jì)算時(shí)間越短但邊界合并和校驗(yàn)的成本越高還可能帶來(lái)精度損失。分區(qū)粒度需要根據(jù)芯片面積、機(jī)器內(nèi)存和可用節(jié)點(diǎn)數(shù)做幾輪實(shí)驗(yàn)才能確定。3.2 任務(wù)調(diào)度狀態(tài)機(jī)與容錯(cuò)任務(wù)調(diào)度核心是一個(gè)狀態(tài)機(jī)。一個(gè)任務(wù)至少經(jīng)歷 pending、running、completed、failed 四種狀態(tài)。調(diào)度器負(fù)責(zé)任務(wù)分發(fā)、狀態(tài)更新、失敗重試。考慮容錯(cuò)時(shí)Worker 節(jié)點(diǎn)可能在任務(wù)執(zhí)行期間宕機(jī)調(diào)度器需要有心跳機(jī)制檢測(cè)節(jié)點(diǎn)健康超時(shí)未上報(bào)的任務(wù)要重新調(diào)度。調(diào)度策略上首先要做拓?fù)渑判驖M(mǎn)足依賴(lài)關(guān)系的任務(wù)才能進(jìn)入待調(diào)度隊(duì)列。資源分配方面調(diào)度器要記錄每個(gè) Worker 的 CPU、內(nèi)存、license 占用情況可以采用最簡(jiǎn)單的“最少負(fù)載優(yōu)先”或“先來(lái)先服務(wù)”策略。對(duì)電源簽核場(chǎng)景來(lái)說(shuō)優(yōu)先級(jí)應(yīng)該支持人工調(diào)整比如某個(gè)分區(qū)發(fā)現(xiàn)問(wèn)題后相關(guān)的后續(xù)任務(wù)可以?xún)?yōu)先執(zhí)行。為了避免單點(diǎn)故障調(diào)度器本身建議做高可用。至少要做到調(diào)度記錄和任務(wù)狀態(tài)寫(xiě)入持久化存儲(chǔ)調(diào)度進(jìn)程重啟后可以恢復(fù)而不是把狀態(tài)全部放在內(nèi)存里。3.3 結(jié)果合并與一致性校驗(yàn)合并階段要處理分區(qū)結(jié)果的重疊區(qū)域。以 IR Drop 為例兩個(gè)相鄰分區(qū)會(huì)各自給出邊界節(jié)點(diǎn)的電壓值合并時(shí)需要統(tǒng)一到同一個(gè)節(jié)點(diǎn)坐標(biāo)上并以更保守的值或仿真精度更高的值作為最終結(jié)果。對(duì)于 EM 違反只需要把各個(gè)分區(qū)的違反點(diǎn)匯總?cè)ブ?。一致性校?yàn)同樣重要。系統(tǒng)要對(duì)比重疊區(qū)域的結(jié)果設(shè)置容差閾值比如電壓差超過(guò) 1mV 就報(bào)告警告。如果相鄰分區(qū)邊界數(shù)據(jù)差值過(guò)大說(shuō)明拆分或仿真設(shè)置存在不一致需要重新檢查邊界條件和工藝庫(kù)參數(shù)。這個(gè)步驟在自動(dòng)化流水線(xiàn)中必須顯式標(biāo)記為校驗(yàn)失敗不能直接放行。另外每個(gè)子任務(wù)對(duì)應(yīng)的輸入數(shù)據(jù)和版本信息都要記錄保存確保結(jié)果可追溯。簽核報(bào)告最終要能追溯到使用的是哪一版版圖、哪一版工藝庫(kù)、哪個(gè)分區(qū)腳本這在流片前的評(píng)審和審計(jì)中非常關(guān)鍵。4. 實(shí)戰(zhàn)案例用 Python 實(shí)現(xiàn)一個(gè)分布式簽核調(diào)度原型下面我們用一個(gè) Python 原型來(lái)演示整體流程。需要說(shuō)明的是真實(shí)的電源簽核工具通常通過(guò)命令行方式調(diào)用本文用模擬函數(shù)代替重點(diǎn)演示任務(wù)拆分、調(diào)度和合并的工程思路。你可以把核心流程遷移到自己實(shí)際的調(diào)度系統(tǒng)中。4.1 項(xiàng)目結(jié)構(gòu)與準(zhǔn)備項(xiàng)目目錄結(jié)構(gòu)如下power_signoff_distributed/ ├── task_model.py ├── worker.py ├── scheduler.py ├── merger.py └── run_example.py各文件職責(zé)如下task_model.py定義任務(wù)和結(jié)果的數(shù)據(jù)結(jié)構(gòu)。worker.py模擬單個(gè)分區(qū)上的電源簽核計(jì)算。scheduler.py實(shí)現(xiàn)簡(jiǎn)單的分布式任務(wù)調(diào)度。merger.py實(shí)現(xiàn)分區(qū)結(jié)果合并與邊界一致性檢查。run_example.py組裝整個(gè)流程并運(yùn)行示例。環(huán)境要求是 Python 3.8 及以上示例只使用標(biāo)準(zhǔn)庫(kù)不依賴(lài)第三方包。4.2 定義任務(wù)數(shù)據(jù)模型創(chuàng)建task_model.py定義分區(qū)任務(wù)和任務(wù)結(jié)果# task_model.py from dataclasses import dataclass, field from typing import List, Optional dataclass class PartitionTask: task_id: str region_name: str mode: str corner: str x_start: int x_end: int y_start: int y_end: int status: str pending # pending / running / completed / failed retry_count: int 0 dataclass class TaskResult: task_id: str max_ir_drop_mv: Optional[float] None em_violation_count: int 0 em_violation_points: List[tuple] field(default_factorylist) error_message: str PartitionTask中記錄了任務(wù)所屬的區(qū)域坐標(biāo)、工作模式、工藝角等信息。status字段用來(lái)支持調(diào)度的狀態(tài)流轉(zhuǎn)。TaskResult保存該分區(qū)計(jì)算出的最大 IR Drop、EM 違反點(diǎn)列表以及可選的錯(cuò)誤信息。4.3 實(shí)現(xiàn) Worker 與調(diào)度器創(chuàng)建worker.py模擬單個(gè)分區(qū)上的簽核計(jì)算。實(shí)際項(xiàng)目中這個(gè)函數(shù)內(nèi)部應(yīng)該通過(guò)命令行調(diào)用真實(shí)的 EDA 簽核工具# worker.py import random import time from task_model import PartitionTask, TaskResult def run_power_signoff(task: PartitionTask) - TaskResult: # 模擬耗時(shí)操作實(shí)際場(chǎng)景中這里調(diào)用 EDA 簽核工具 seconds random.randint(1, 3) time.sleep(seconds) # 模擬該分區(qū)的分析結(jié)果 result TaskResult( task_idtask.task_id, max_ir_drop_mvround(random.uniform(10.0, 50.0), 2), em_violation_countrandom.randint(0, 5), ) for _ in range(result.em_violation_count): x random.randint(task.x_start, task.x_end) y random.randint(task.y_start, task.y_end) result.em_violation_points.append((x, y)) return result創(chuàng)建scheduler.py實(shí)現(xiàn)一個(gè)簡(jiǎn)單的線(xiàn)程池調(diào)度器# scheduler.py from concurrent.futures import ThreadPoolExecutor from typing import List from task_model import PartitionTask, TaskResult from worker import run_power_signoff class PowerSignoffScheduler: def __init__(self, max_workers: int 4): self.executor ThreadPoolExecutor(max_workersmax_workers) self.futures {} def submit(self, task: PartitionTask): task.status running future self.executor.submit(run_power_signoff, task) self.futures[future] task return future def collect(self) - List[TaskResult]: results [] for future, task in self.futures.items(): try: result future.result() task.status completed results.append(result) except Exception as e: task.status failed results.append(TaskResult(task_idtask.task_id, error_messagestr(e))) return results這里用ThreadPoolExecutor是為了演示方便。如果任務(wù)是 CPU 密集型的真實(shí)簽核計(jì)算更推薦使用ProcessPoolExecutor或真正的多機(jī)調(diào)度避免 Python GIL 限制并行效率。實(shí)際生產(chǎn)系統(tǒng)還需要狀態(tài)持久化、失敗重試和心跳檢測(cè)這些都可以在PowerSignoffScheduler基礎(chǔ)上擴(kuò)展。4.4 實(shí)現(xiàn)結(jié)果合并模塊創(chuàng)建merger.py把各分區(qū)的結(jié)果合并為全芯片級(jí)報(bào)告# merger.py from typing import List from task_model import TaskResult class ReportMerger: def __init__(self, tolerance_mv: float 1.0): self.tolerance_mv tolerance_mv def merge(self, results: List[TaskResult]) - dict: if not results: return { max_ir_drop_mv: 0.0, em_violation_points: [], overlap_warnings: [], } all_ir [r.max_ir_drop_mv for r in results if r.max_ir_drop_mv is not None] max_ir_drop_mv max(all_ir) all_points [] for r in results: all_points.extend(r.em_violation_points) # 模擬重疊區(qū)域一致性檢查 overlap_warnings [] if len(all_ir) 2 and (max(all_ir) - min(all_ir)) self.tolerance_mv: overlap_warnings.append(分區(qū)最大IR Drop差異超過(guò)容差需要人工復(fù)核) return { max_ir_drop_mv: max_ir_drop_mv, em_violation_points: all_points, overlap_warnings: overlap_warnings, }合并模塊在真實(shí)場(chǎng)景中會(huì)更復(fù)雜需要讀取每個(gè)分區(qū)的詳細(xì)節(jié)點(diǎn)電壓文件比較相鄰分區(qū)重疊區(qū)域的數(shù)值差異。這里的tolerance_mv就是一致性校驗(yàn)的閾值實(shí)際工程中應(yīng)該開(kāi)放配置。4.5 運(yùn)行與驗(yàn)證創(chuàng)建run_example.py把整個(gè)流程串起來(lái)# run_example.py from task_model import PartitionTask from scheduler import PowerSignoffScheduler from merger import ReportMerger def build_tasks(): tasks [] # 假設(shè)將芯片平面劃分為 3x2 共 6 個(gè)分區(qū) regions [ (0, 100, 0, 100), (100, 200, 0, 100), (0, 100, 100, 200), (100, 200, 100, 200), (0, 100, 200, 300), (100, 200, 200, 300), ] for idx, (x0, x1, y0, y1) in enumerate(regions): tasks.append( PartitionTask( task_idftask_{idx}, region_namefregion_{idx}, modefunc, cornerss_0p90v_125c, x_startx0, x_endx1, y_starty0, y_endy1, ) ) return tasks def main(): tasks build_tasks() print(f共生成 {len(tasks)} 個(gè)分區(qū)任務(wù)) scheduler PowerSignoffScheduler(max_workers3) for task in tasks: scheduler.submit(task) results scheduler.collect() print(f任務(wù)完成 {len(results)} 個(gè)) merger ReportMerger() report merger.merge(results) print( 全芯片簽核匯總 ) print(f最大IR Drop: {report[max_ir_drop_mv]} mV) print(fEM違反點(diǎn)數(shù)量: {len(report[em_violation_points])}) if report[overlap_warnings]: print(警告:, report[overlap_warnings]) else: print(邊界一致性檢查通過(guò)) if __name__ __main__: main()運(yùn)行命令cd power_signoff_distributed python run_example.py由于示例中使用了隨機(jī)數(shù)每次運(yùn)行的輸出會(huì)略有不同但整體結(jié)構(gòu)類(lèi)似共生成 6 個(gè)分區(qū)任務(wù) 任務(wù)完成 6 個(gè) 全芯片簽核匯總 最大IR Drop: 42.17 mV EM違反點(diǎn)數(shù)量: 13 邊界一致性檢查通過(guò)這個(gè)原型雖然簡(jiǎn)單但已經(jīng)覆蓋了任務(wù)拆分、并行調(diào)度、結(jié)果匯總和一致性校驗(yàn)四個(gè)關(guān)鍵步驟。你可以在此基礎(chǔ)上把run_power_signoff替換為真實(shí) EDA 工具調(diào)用把線(xiàn)程池替換為多機(jī)調(diào)度中間件就是一個(gè)可用的分布式電源簽核調(diào)度框架雛形。5. 常見(jiàn)問(wèn)題與排查思路分布式電源簽核系統(tǒng)在落地過(guò)程中會(huì)遇到不少問(wèn)題下面匯總幾類(lèi)高頻問(wèn)題問(wèn)題現(xiàn)象常見(jiàn)原因解決思路任務(wù)一直處于 pending 狀態(tài)調(diào)度隊(duì)列阻塞或等待依賴(lài)任務(wù)完成檢查依賴(lài)關(guān)系拓?fù)洳榭搓?duì)列積壓情況某個(gè)節(jié)點(diǎn)任務(wù)運(yùn)行特別慢存儲(chǔ) I/O 爭(zhēng)用或節(jié)點(diǎn) CPU 被其他任務(wù)占滿(mǎn)拆分存儲(chǔ)目錄監(jiān)控節(jié)點(diǎn)資源占用限制單節(jié)點(diǎn)并發(fā)合并結(jié)果中邊界電壓不連續(xù)分區(qū) overlap 設(shè)置不合理或邊界條件不一致增大重疊區(qū)域統(tǒng)一邊界約束文件分布式結(jié)果與單機(jī)全芯片結(jié)果差異較大拆分導(dǎo)致精度損失或仿真相網(wǎng)設(shè)置不一致對(duì)比單機(jī)結(jié)果標(biāo)定誤差調(diào)整分區(qū)粒度Worker 節(jié)點(diǎn)宕機(jī)后任務(wù)丟失缺少心跳和狀態(tài)持久化引入心跳檢測(cè)任務(wù)狀態(tài)寫(xiě)入數(shù)據(jù)庫(kù)超時(shí)自動(dòng)重調(diào)度并行度提升后總時(shí)間反而變長(zhǎng)拆分粒度過(guò)細(xì)通信和合并開(kāi)銷(xiāo)超過(guò)計(jì)算收益增大每個(gè)任務(wù)的計(jì)算量減少分區(qū)數(shù)量license 不足導(dǎo)致排隊(duì)工具 license 數(shù)量限制引入 license 資源統(tǒng)計(jì)按 license 可用量調(diào)度排查這類(lèi)問(wèn)題建議先看日志再看監(jiān)控最后看數(shù)據(jù)。日志要記錄每個(gè)任務(wù)的開(kāi)始時(shí)間、結(jié)束時(shí)間、狀態(tài)轉(zhuǎn)換和錯(cuò)誤信息監(jiān)控要覆蓋 CPU、內(nèi)存、磁盤(pán) I/O、網(wǎng)絡(luò)吞吐和 license 占用數(shù)據(jù)層面要能快速定位某個(gè)分區(qū)的輸入文件版本和輸出結(jié)果。6. 最佳實(shí)踐與工程建議在真正落地分布式電源簽核方案時(shí)下面幾條工程建議值得重點(diǎn)關(guān)注。第一點(diǎn)是“先正確、后快速”。分布式方案上線(xiàn)前一定要先選一塊中等規(guī)模的芯片用同一版數(shù)據(jù)分別跑單機(jī)全芯片分析和分布式分析對(duì)比最大 IR Drop、違反點(diǎn)位置和數(shù)量。只有誤差控制在可接受范圍內(nèi)才能繼續(xù)放大規(guī)模。不要一上來(lái)就追求速度正確性出問(wèn)題會(huì)導(dǎo)致流片風(fēng)險(xiǎn)。第二點(diǎn)是拆分粒度要?jiǎng)討B(tài)調(diào)整。靜態(tài)固定的拆分策略往往不是最優(yōu)的??梢愿鶕?jù)每個(gè)分區(qū)的實(shí)際計(jì)算耗時(shí)反饋動(dòng)態(tài)調(diào)整下一次的劃分方式。比如某些區(qū)域單元密度高計(jì)算量大就應(yīng)該切成更小的分區(qū)單元稀疏區(qū)域則可以合并成大分區(qū)。第三點(diǎn)是日志和血緣必須完整。分布式系統(tǒng)排查問(wèn)題的難度與節(jié)點(diǎn)數(shù)量成正比。每個(gè)任務(wù)至少要記錄輸入版圖文件路徑、工藝庫(kù)版本、配置參數(shù)、工具版本、輸出文件列表、執(zhí)行節(jié)點(diǎn)、開(kāi)始結(jié)束時(shí)間。這樣才能保證簽核報(bào)告可追溯、可復(fù)現(xiàn)。第四點(diǎn)是存儲(chǔ)和網(wǎng)絡(luò)不能省。很多人把精力放在調(diào)度器上最后發(fā)現(xiàn)瓶頸在共享存儲(chǔ)。建議把輸入數(shù)據(jù)、中間結(jié)果、最終報(bào)告分別放在不同目錄甚至不同存儲(chǔ)池避免大規(guī)模并行讀寫(xiě)互相干擾。網(wǎng)絡(luò)方面如果分區(qū)之間的中間文件交換頻繁建議優(yōu)先升級(jí)網(wǎng)絡(luò)而不是增加 CPU。第五點(diǎn)是監(jiān)控和告警要前置。分布式系統(tǒng)不是搭好就能穩(wěn)定運(yùn)行。任務(wù)失敗率、節(jié)點(diǎn)存活率、隊(duì)列積壓數(shù)、平均任務(wù)耗時(shí)這幾個(gè)指標(biāo)應(yīng)該從一開(kāi)始就接入監(jiān)控大盤(pán)設(shè)置合理告警閾值避免半夜任務(wù)掛掉第二天才發(fā)現(xiàn)。第六點(diǎn)是權(quán)限和安全邊界。EDA 數(shù)據(jù)是芯片公司核心資產(chǎn)集群訪(fǎng)問(wèn)要基于最小權(quán)限原則任務(wù)執(zhí)行賬號(hào)不應(yīng)有刪除其他團(tuán)隊(duì)數(shù)據(jù)的權(quán)限。涉及生產(chǎn)環(huán)境變更時(shí)先在小范圍驗(yàn)證再逐步擴(kuò)大任何批量操作前都要確認(rèn)備份策略。最后一點(diǎn)是要做好和現(xiàn)有流程的兼容。分布式簽核并不是要完全替代原有單機(jī)流程而是為大規(guī)模、多迭代場(chǎng)景提供加速通道。建議保留原有的單機(jī)流程作為對(duì)照分布式流程用作快速迭代和回歸驗(yàn)證兩邊結(jié)果定期對(duì)比確保長(zhǎng)期穩(wěn)定。7. 結(jié)語(yǔ)電源簽核從幾周縮短到幾天本質(zhì)上是把“等一個(gè)結(jié)果”變成了“集一批結(jié)果”。任務(wù)拆分、調(diào)度容錯(cuò)、結(jié)果合并這三件事做好分布式方案才能真正跑起來(lái)。本文用一個(gè)小型 Python 原型演示了核心流程實(shí)際項(xiàng)目中你還需要接入真實(shí) EDA 工具、補(bǔ)齊狀態(tài)持久化和監(jiān)控告警并且通過(guò)多輪對(duì)比實(shí)驗(yàn)標(biāo)定拆分精度。分布式計(jì)算并不是銀彈但它確實(shí)是當(dāng)前芯片簽核提速最務(wù)實(shí)的路徑之一。如果你正在做類(lèi)似的后端簽核平臺(tái)或高性能計(jì)算改造可以從本文的調(diào)度原型入手先搭一個(gè)小規(guī)模閉環(huán)再逐步擴(kuò)展到全芯片級(jí)規(guī)模。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
天天夜天天色天天| 婷婷开心激情| 六月综和久久| 色色色婷婷五月天| 欧美日韩中国| 色婷婷丁香花五月天| 久久丁香综合| 99热这里只有精品最新网址| 亭亭丁香久久五月| 五月五婷婷网| 欧美精品999| 大色鬼综合| 另类图片五月天| 久久99最新| 色婷婷19| 99精品人人| 六月丁花香啪啪激情欧美| 热99在线精品| 婷婷玖玖五月天| 激情五月丁香激情综合网 | 婷婷五月天激情文学小说| 日韩操啪| 亚洲久艹| 色色色在线观看| 色五月丁香com| 亚洲欧美婷婷五月色综合| 天天天日天天天干| 涩涩网五月天| 人人舔天天| 狠狠操天天操| 好吊丝aV| www.激情五月天| 亚洲瑟瑟精品在线| 激情五月天www| 新99色色色色色色| 婷婷激情蜜桃玖玖丁香| 五月综亚洲| 欧美在线视频99| 婷色视频| 爱操人妻| 26uuu.| 激情五月综合| 日本女天天爽| 五月婷伊人| 丁香婷婷网| 婷婷色在线视频| 丁香五月婷婷综合激情啪啪啪啪啪啪啪 | 五月婷婷日| 97人人干。| 2015在线中文字幕| 99热99美国在线观看| 丁香九月色| 九 九九九AV| 六月丁香AV| 蜜乳AV成人| 91丨九色丨国产| 搡BBBB搡BBB搡18 | 人妻中文字幕网| 欧美在线视频9| 碰人人97| 色婷操逼| 翔田千里无码| 99爱视频| av国产精品| 免费观看全黄做爰的视频| 丁香六月激情综合| 婷婷六久久| 激情啪啪五月天| 天堂爱啪啪| 色婷婷A| 亲子乱AV一区二区三区下载| 五月社区婷婷激情| 色色色婷婷| 超碰免费99| 丁香色五月天| 99热每日| 婷婷五月天成人导航| 99热这里只有精品10| 色五月丁香婷婷综合| 婷婷五月天激情五月天| 婷婷九月激情| 伊人喵咪a V| 久久精品系列| 久久只这里有精品| 婷婷大香蕉| 六月丁丁香| 超碰婷婷五月| 丁香六月婷婷综合激情欧美| 激情五月丁香婷婷| av国产精品| 影音先锋高清无码资源网| 超碰人人插| 欧美啪啪五月天| 亚洲精品国产成人AV在线| 亚洲六月婷| 人人摸人人| 久99久在线| 亚洲亚洲人成综合网络| 97婷婷丁香| 久久成人综合五月天| 欧美这里只有精品| 狠狠干最新地址| 开心五月婷婷综合在线精品素人| 中文字幕日韩无码制服诱或| 99热精品在这里| 丁香婷婷五月激情四射网| 久久婷婷综合基地| 婷婷 丁香 精品| 婷婷丁香五月综合| 狠狠干综合| 天天色综合综合| 亚洲色婷婷| 97人碰人操| 天堂AV三级| 日日爱699| 欧美成人A片AAA片在线播放| 怡春院久操| 天天干天天干天天干天天干天天干天天| 这里只有精品久久| 免费成人中文字幕| www.深爱激情| 亚洲国产色婷婷| 六月色色综合| 国产肥白大熟妇BBBB视频| av在线播放网址| 久久五月婷天天干| 操日本99| 久8色色| 开心五月婷婷| 色婷婷五月天亚洲| 色色色综合网| 婷婷久久午夜网| 久久99大全| 久久日本wwww色| 天天做天天要天天爽| 色五月首页| 五月天丁香久久| 国产成人99久久亚洲综合精品| 色五月在线观看| 91色吧网| 激情九月婷婷| xxxx五月| 成人综合视频网址| 这里只有精品69| 欧美日韩成人| 五月天激情啪啪| 五月网在线| 另类亚洲2| 日日天天干| 5月婷婷6月丁香aV| 性做爰A片免费视频A片直播 | 色99久草在线| 播播网色播播| 亚洲操人| 国产成人精品一区二区三区视频| 丁香五月激情澎湃一区| 婷婷五月丁香国产| 丁香五月六月婷婷综合| 黄网在线播放| 99精彩视频网站在线| 午夜 外网 精品 在线| 无码99| 九九热99re8热免费观看| 99操99| 99re8这里只有精品99re8热视频| 色色色五月婷婷| 精品人妻久久久久久| 九九久久综合| 三级毛片视频| 天天操综合网| 久久黄色免费视频| 一起草日本| 久热网在线视频| 五月开心啪啪| 99无码| 五月综合婷婷开心网| 99国产精品久久久久久久久久久| 日日狠狠久久偷偷四色综合免费| 99久久玖玖| 九九综合色| 激情深爱婷婷网| 五月丁香激情综合| 久久婷婷激情四射五月天| 99亚洲日韩| 97婷婷在线| 色综合色五月| 六月丁香社区| 9er热在线精品视频| 99热久久这里只有精品| 99热e| 丁香香五月激情免费视频| 亚洲精品久久久无码| 成人性爱精品视频| 玖玖在线视频福利| 91seAV| 亚洲AV网站在线观看| 久久婷婷五月天懂色| 亚洲无码99| 丁香午夜天| 9久精品视频| 人人操av| 成人av在线电影| 激情5月婷婷狠狠干| 欧在线一区| 日本色天堂| 激情婷婷五月天伊人在线观看| 九九色网| 综合久久丁丁香婷| 九九热视频在线观看| 色综合色色| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 欧亚成人A片一区二区| 色五月六月| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 成人午夜视频精品一区| 色综合综合色| 五月激情在线| 激情小说婷婷五月| 夜夜夜叫天天天做| 超黄亚洲瑟瑟网站| www.久久| 婷婷五月天黄色| 色啦啦视频| 五月丁香亚洲综合| 色~性~乱~伦~噜| 亚艹艹| 五月天国产成人| 久久区区一二三av| 九九精品re免费视频| 大学生高潮无套内谢视频| 五月天色婷婷综合| 五月六月婷| tingtingzonghewang| 99久久婷婷| 99热全是精品| 亚洲色图日韩网址| 欧美日韩成人高清在线| 日韩无码性爱| 久久九九re热| 欧美伊人9| 婷婷婷五月香蕉| 99热这里有精品| www.zbzhongsen.com| 色婷婷五月天视频网站| 激情婷婷五月天| 亚洲va欧洲va国产va不卡| 欧美99热| 激情开心五月亚洲| 女人天堂 AV| 颜射 精品性爱av| 天天爽在线视频| 美欧日韩国产成人在战| 国产 亚洲 在线| 欧美日本黄色| 快乐激情五月色婷婷| 国産精品| 五月婷婷六月丁香激情深爱| 精品一区二区三区四区五区六区介绍 | 夜夜躁狠狠 | 五月天丁香综合在线| 美女爆乳18禁www久久久久久| 成人精品视频99在线观看免费| 五月天激情视频| 天天干电影| 天天噜噜| 色婷青青| 国产精品国产| 5月激情天| 开心 五月 综合| 日本天天综合| 国产精品色婷婷AV综合色色| 亚洲免费观看高清完整版AV线| 99性爱视频| 国产成人综合在线| 一本大道熟女人妻中文字幕在线| www.婷婷久久五月天| 国产高清视频91九九九久久久| 色情成人五月天| 五月天婷婷涩涩| 黄色一级影片| 亚色网站小视频| 丁香激情六月天婷婷| 不卡影院午夜理论片| va婷婷| 99九九视频| www.99视频| 中文字幕日产A片在线看| 国产精品A成V人在线播放| 国产在线网| 毛片蕉地一二| 99热精品少| 五月天黄色激情小说| 五月天最新网| AV中文在线| 密着浓厚中出乚交尾GvG935| 综激情网| 九九在线这里只有精品视频| 狠狠色综合网站久久久久| 欧美韩国日本| 婷婷综合色图| 国产,欧美,日韩,性爱| 五月天婷婷久久| 天天精品视频免费观看| 青青久久五月天丁香婷婷| 成人AV中文字幕| 久久婷婷五月国产激情综合片| 五月婷综合网| 丁香五月影院| 26uuu丁香婷婷五月| 热久久思思热思思| 欧美婷婷丁香五月社区| 狠狠色综合久久久久| 性视频久久| 亚洲乱码成人| 婷婷五月天综合网| 日韩淑女人妻luan伦激情精品一区二| www.激情| 337p大胆噜噜噜噜噜91Av| 玖操97| 色综合久久天天综合网| 99在线爽| 丁香五月开心婷婷| 98国产精品综合一区二区三区| 麻豆精品| 丁香六月婷婷综合欧美| 激情婷婷丁香五月| 深爱丁香网| www.婷婷五月天| 精品成人无码A片观看香草视频| 夜夜大香蕉婷婷丁香| 99爱最新免费视频在线观看| 久久538| 五月婷婷六月天| 精品一二三区久久AAA片| 丁香婷婷五月色成人网站| 丁香五月冃欧美| 直接看的av| 一级二级色大片| 色色哒五月婷婷六月丁香| 99热婷婷| 69堂午夜视频最新地址| 婷婷六月久久综合导航| 久久99操| www.五月婷婷久久.com| 婷婷色情网| 九九色综合九九色| 丁香社92视频| 婷婷五月天激情网站| 国外亚洲成AV人片在线观看| www色婷婷久久综合久色| 超碰免费人妻| 欧美日朝成人| 五月丁香五月综合欧美| 婷婷亚洲色| av在线观看网站| 操逼综合网| 激情五月丁香激情综合网| 久99视频| 久久五月激情网| 国产精品人人做人人爽人人添| 国产精品大香蕉| 日本久热| 婷婷导航| http:色情日本com| 狠狠五月激情婷婷直播片| 国精产品一区一区三区免费视频| 精品三区影院| 99在线综合视频| 色五月第四色| 免费看成人747474九号视频在线观看| 五月色婷婷中文字幕| 99热1| 久久久99久久| 99人这里只有精品| 超碰2021| 久热中文字幕| 色五月av伊人| 欧美啪啪五月天| 色五月婷婷91| 六月丁丁香| 国产精品五月丁香| 国产伊人大香蕉| 99re6久热只有精品6在线直播| 青青草99热久久精品国| 五月天久久婷婷| 五月丁香综合网色欲| 免费观看欧美成人AA片爱我多深| 丁香五月激情啪啪| 久久婷婷亚洲| 日韩久久系列| 国产精品成人在线| 九九在线免费观看| www.久久久久久| 久久亚洲婷婷| 色区域网站视频| 99热色婷婷| 色五月婷婷中文字幕| www.婷婷网| 香蕉影院色| 99爱在线视频| 天天肏天天插| 五月婷婷色播| 亚洲六月色| 丁香五月先锋| 99re思思精品在线观看| 九热免费视频| 综合久久婷婷99| 操九色| 久久99最新| 激情文学 综合 九月| 日韩在线视频中文字幕| 这里只有精品免费视频在线观看| 97人人草| 激情五月综合第一页| 亚洲色啪| 一起草Av| 人人操av| 九九色视频| 丁香五月婷婷啪啪啪| 五月激情四射网站| 天天操天天插| 91超碰九色| 五月婷婷婷自由综合| 国产操碰| AAA久久久AAA久久久AAA| 色狠狠色噜噜AV天堂五区| 五月丁香色综合| 婷婷五月天激情四射| 婷婷五月天BBw| www99热| 日韩 mm 不卡| 色狠狠婷婷| 五月综合色| 色五月婷婷九月| 激情五月网站| 美女五月天婷婷| 五月丁香激| 91久久网站| 丁香五月性爱| 亚洲九区| 综合色图区| 激情五月婷婷视频一区二区三区| 五月天婷婷影院影院| 超碰99在线观看| 久婷自拍视频| 婷婷中文网站| 婷婷五月天免费视频| 婷婷一本和五月丁香| 丁香五月婷婷超碰在线| 欧洲综合视频| 亚洲AV综合网| 碰碰女| 五月婷婷综合影院| www.五月丁香| 91色吧网| 色五月超碰| 九伊人网| 亚洲性视频| 光棍影院日韩精品| 4399在线观看免费毛片| AV成人在线播放| 色99婷婷五月天| 91伦| 91人碰| 大胆伊人久久| 六月丁香婷婷综合狠狠爱夜夜爱| www99久久| 非洲一级AV| 9l视频自拍9l视频自拍九色学生| 草草操操| 久鲁鲁色网 | 天天爽天天摸| 色婷婷综合网| 久久婷婷影院| 丁香五月天激情综合| 激情第四色| 婷婷五月天激情四射五月天激情| 99色精品视频| 99热在线中文字幕| 婷婷五月婷| 色久丁香五| 欧美va在线观看| 久久激情天堂| 激情婷婷丁香| 欧美十二区| 色色色色色日韩午夜激情 | 欧美性生交XXXXX无码小说| 伊人综合网站| 91色欲综合| 毛片新网地| 婷婷丁香社区网| 婷五月天在线草| 五月丁香婷婷激激激综合网色播| 九九热精品视频在线观看| 综合AV在线| 激情婷婷六月天| 国产一区二区三区影院| 婷婷丁香黄色| 国产超碰在线| 五月天社区狠狠| 开心激情婷婷| 国产一区二区三区影院| 玖玖爱导航| 色色婷| 噜噜噜色噜噜| 色热久| 国外亚洲成AV人片在线观看| 久久大香免费| 色五月天综合| 欧美日韩123| 99国产精品久久久久久久久久久| 天堂久久大香蕉| 激情五月,色五月| 99热99这里只有精品| 色欲影香| 久久5 9视频免费观看| 丁香色成人| 丁香婷婷人妻综合网| 五月婷婷中文字幕AV| 婷婷亚洲综合| 日亚二欧美| 色婷婷综合中心| 激情五月天视频| 开心婷婷五月| 91碰碰视频| 激情丁香网| 97人人操在线| 操碰99在线视频观看| 婷婷八月激情| AV在线中文| 五月四色激情| 人妻性爱| 五月天婷婷激情小说电影| 9l视频自拍九色9l黑人| 五月婷婷和六月| 婷婷六月啪啪| 久热这里只有精品视频6| 射区导航| 久久婷婷桃花五月天| 26uuu.| 五月丁香啪综合| 国内熟女黄色系列| 手机AVAV天堂看网| 激情色播| 狠狠色丁香五月婷巨| 五月天开心婷婷激情网站| 成人免费120分钟啪啪| 五月丁香六月婷婷成人| 激情小说视频图片| 婷婷99视频全集高清| 97五月天婷婷午夜| 免费视频无码| 亚洲性受XXXX五月丁香| 九九色逼| 九九久久99| 六月撸婷婷| 久久免费试看120秒| 天天干天天色天天干| 国产毛片精品一区二区色欲黄A片| 五月色色网| 激情久久丁香| A1片久久久| 99热这里只有精品青草| 99人人看| 激情综合网五月婷婷| 日韩啪啪自拍| 免费观看的婷婷五月视频在线| 久久六月婷婷| 亚洲色情在线| 国产婷婷久久| 久大香蕉| 69精品人人人人| 欧美性爱五月天| 婷婷久久五月丁香| 天天操天天曰| A√天堂网在线| 日本99久久| 久草久青福利| 久久婷婷五月丁香蜜桃网| xxx综合在线| 成人在线观看国产| 久久婷婷成人综合色怡春院| 9一精品视频观看| 五月婷婷色播| 亚洲操逼网| 五月天激情网站| 激情欧美婷五月| 成人做爰黄A片免费看直播室男男| 激情五月综合免费| 97成人在线视频| www.婷婷五月天.com| 婷婷五月天AV在线| 操人91| 五月色导航| 色亭亭九月| 99色热视频在线| 六月丁香啪啪啪| 色婷婷99| 久久久久久人妻久久久久久久久久人妻久久久 | 99精品视频在线观看免费| 夜夜资源站| 亚洲第一第二网站| 伊人狠狠操| 一区二区乱视频码| 婷婷中文在线| 婷婷成人五月天一区| 中文字幕精品推荐免费在线观| 亭亭玉月丁香| 亚洲无码成人网| 性欧美大战久久久久久久83| 婷婷 色 丁香 夜| 另类图片色五月| 开心五月婷婷| 九九热在线视频| 天天干夜夜操A片| 五月做爱| 久久99热这里只频精品6学生| 另类丁香五月天区图| 亚洲四色五月| 成人做爰高潮A片免费视频| 五月六月激情| 五月激情丁香五月| 亚洲色五月婷婷| 狠狠插狠狠操| 五月综合视频| 丁香五月另类小说在线阅读| 激情婷婷九月| 色色色香蕉五月婷| 九九碰九九爱97超碰| 日撸夜撸日操| 国产激情综合五月久久| 亚洲正能量欧美| 五月天六月色| 婷婷99狠狠躁天天躁中| 丁香五月大香蕉在线99| 超碰AV在线| 欧美人人草| 五月色婷婷亚洲 | 男女99免费视频| 婷婷五月丁香久久| 天天舔天天插天天爱| 婷婷六月丁综合| 最近中文字幕大全免费版在线 | 无码 av电影| 五月花免费视频| 色噜噜狠狠一区二区三区| 激情五月婷婷欧美极品| 色五月婷婷久久| 综合五月丁香97| 人人妖人人97| 人人色人人弄人人操| 色婷婷五月在线| 国产精品色色| 播播网色播播| 色五月婷婷一二| 婷婷激情五月天小说| 99在线观看免费精品视频| 婷婷99视频精品| 99热九九在线| 五月综合激情图片| 国产av网| 婷婷综合玖玖五月| 99热香港| 67194线路二在线观看| 少妇性按摩无码中文A片| 色综合天天综合成人网| 国产成人网址| 亚洲色网络| 婷婷在线视频| 亚洲五月花| 九九热99热| 天天搡日日搡aaaaⅩ| 26uuu欧美| 激情综合一| 色色色热| 日本不卡中文字幕| 99热国产精品| 久久只有18视频| 久久婷婷婷| 久久的爱大香蕉| 亚洲AV永久无码影院黑人| 一级黄色操B| 99热999| 色婷婷色综合激情91| 六月丁香婷婷色狠狠久久| 综合色吧| 91九色国产| 狠狠干五月天婷婷网| 亚洲精品色色| 天天天天天操| 99成人免费热视频| 98永久精品| 久久五月婷| 久色网| 亚洲日韩一页精品发布| 99久久综合狠狠综合久久| 国产av网| 一级二级色大片| 激情性爱五月天| 99re这里只有精品9| 夜夜天天天天天干天天爽| 日逼免费视频| 99热这里只有精品5| 欧美五月婷婷| WWW.桔色成人.COM| 欧美碰碰碰| 九九99免费视频| 色色色在线免费视频| 婷婷五月天亚洲图片| 天天日本夜夜谢| 色综合色五月| 亚洲精品V天堂中文字幕| 香蕉色色网| 五月丁香久久综合| 99精品无码网站| 日韩黄色电影| 嫩草AV久久伊人妇女超级A| 26uuu成人网| 激情久久肏屄视频| 91大屁股| 日本三级日本三级99| 92久久精品一区二区| 9一精品视频观看| 五月丁香六月综合情在线观看| 天天综合天天玩夜夜玩天天玩夜夜玩| 91啪啪网| 国产视频色色色色色色色 | 在线成人网站| 人人爱人人添| 26uuu日韩| 国产亚洲色婷婷久久99精品9j| 影音先锋按摩| 天天色综合图片| 99久久这里只有精品| 色婷婷久久7777| 狠狠色婷婷在线| 综合图片色色| 玩熟女五十AV一二三区| 久久婷婷国产| 婷婷干五月综合在线播放| 99热婷婷| 日韩一级网站| 五月亭亭综合五码| 婷婷久久久| 日韩av在线免费观看| 玖玖九九99| 超碰碰碰碰| 91pornav在线| 五月婷婷网五月在线| 亚洲中文字幕av| 色婷婷久久综| 久色欧美| 射婷婷中文字幕| 天天五月丁香五月| 亚洲欧洲国产精品| 99少妇精品| 婷婷五月天亚洲综合网| 国产精品99久久久久久久女警| 色综合大香蕉| 婷婷五月激情中文字幕| 欧美五月婷婷综合| 99热日本| 久久精品99国产精品日本| 久色网| 亚韩在线视频| 丁香五月开心亚洲| 久久精彩视频| 婷婷99丁香| 久机视频这只有精品| 激婷网| 3p日韩网站视频| 天天日夜夜| 可以免费观看的av网址| 久久色情| 久热91| 久久久WWW| 8区视频在线| 成人版视频在线观看| 国产免费av在线| 色色色色网| 婷婷久久天堂网| 99热a片免| 人碰91| 成年人最刺激的综合网| 一本色道久久综合狠狠躁小说| 在线观看中文字幕| 久久久久婷| 超碰在线综合| 九月丁香亭亭| 九九99久久| 影音先锋色色色资源色资源色| 99精品热| 五月婷婷亚洲综合网| 在线看的免费网站| 激情婷婷丁香色五月| 99re资源在线视频导航| 99久久综合| 色婷婷狠狠久久YY| 婷色五月| 色五月激情五月丁香五月婷婷啪啪综合| a网站免费观看| 久久久婷丁香五月| 四色五月婷婷| 欧美影院| 九九色热| 人与禽A片啪啪| 丁香网五月天激情| 高清国产AV| 久久九九爽| 激情影院内射| 亚洲AV成人精品网站在线播放| 午夜丁香婷婷| 91人妻PORNY九色大屁股| 色情五月婷婷| 激情五婷网| 亚洲综合草草| 极品人妻VIDEOSSS人妻| 五月婷婷综合精品| 国产av影片| 精品一区二区三区免费毛片爱 | 99热这里是精品| 99精品7| 五月停停色| 色色色五月婷婷| 五月天婷婷青青草| 丁香五月人妻| 亚洲精品久久久久久久久久吃药| 婷婷成人五月天成人文学小说| 任你擦免费视频| www.色婷婷.com| 久久九九热视频| 九九热这里只有精品5| 婷婷五月综合国产精品| 久久伦乱| 五月丁香六月婷婷免费视频| 亚洲 欧洲 国产 伦综合| 26uuu亚洲| 亚洲激情免费视频观看| 国产欧美日韩性爱| 操逼综合网| 五月丁香啪啪啪| 狠狠xx| 久热这里只有精品在线观看 | 狠狠色综合无线观看| 久久xx| 婷婷丁香在线播放| 99热r| 中文字幕黄色电影网址| 日日日日日| 五月玖玖| 99久久激情视频| 免費亭亭成人| 五月丁香久久久久| av电影在线播放| 天天爽人人综合免费7799| 中文av网站| xfplayav在线| 丁香五月婷婷激情小说| 久久日韩婷婷五月| 五月综合激情啪啪啪啪啪| 丁香五月播播| 丁香六月婷婷久久综合| 一级二级香港秋霞欧美欧美秋霞| 免费成人va| 超碰在线免费9| 亚洲影院婷婷色| 高潮毛片又色又爽免费| 色偷偷五月天| 91黄址| 丁香六月婷婷综合缴| 久热这里只有精品99re,久热这里只有精品7| 97干网站| 五月香蕉婷婷| 激情超碰网| 九色综合网| 丰满女老板BD高清A片| 99热这里只有精品3| 五月综合激情网| 99re热视频这里只精品5| 婷婷综合成人五月天| 六月婷婷俺也去| 日本色色色| 六月婷婷av| 色婷另类| 久操干| 黄久久久| 国产AV不卡福利| 五月丁香六月婷婷的女人| 青青草99re| 九九综合九色欧美狠狠| 丁香五月欧美婷婷综合| 婷婷色情 | 99国产在线精品视频| 伊人综合网站| 日韩免费视频| 久久精品A片777777| 国产精品18久久久| 婷婷成人基地| 国产精品扒开腿做爽爽爽A片唱戏| AV电影在线播放| 另类在线| www.9操| 久久91久久精品久久| 伊人99久久| av五月丁香| 激情九色| 久久HD| 99re熱| 亚洲色五月天在线| 天天色天天爱天天爽| 四月婷婷丁香| 婷婷爱五月天| 国産精品| 99爱精品| 国产精产国品一二三在观看| www.97视频| 人妻Av在线| 99亚州综合精品成人网| 五月六月伦理| 日本激情91| 五月天久久婷婷| 欧美交换配乱吟粗大25P| 日韩精品一区二区三区,四区,五区视频| 日韩AV无码影片| www网站在线观看| 91精品国产日韩91久久久久久国模| 久久狠狠干| 欧美色色色色色色色色色色影视| 天天肏天天插| 成人性爱无码| 91se在线视频| 亚洲第一综合| WWW色色色COM| 九九久久99精品免费观看www| 女人露出p毛视频www网站| 午夜不卡成人一区二区| 人人草人人看| 天天干夜晚夜操| 激情5月婷婷| 久久加勒比| 色五月之第四色| 色综合久久88色综合天天| 玖玖99免费视频| 99在线精品免费视频| 91精品综合久久久久久五月天| 久久停停超碰| 五月婷婷欲色| 1024手机在线观看看片_日韩精品| 久99热| 秋霞三及片| 91精品婷婷国产综合久久| 五月开心播播网| 激情爱爱网站超大免费| 日本ww亚洲| 久久婷婷五月综合啪| 大学生高潮无套内谢视频| 六月丁香啪| 色色色视频免费无码 | 任你爽在线视频| 久久婷色| 久久色五月天激情小说| 26UUU精品一区二区| 综合激情九月婷婷,激情综合婷婷中文字| 大香蕉精品视频| 六月婷婷久久| 国产乱人偷精品人妻A片| 婷婷精品综合| 婷婷丁香综合成人| 亚洲综合另类| 91九色无码日韩| 人人操人人爱丁香五月| 99久久99九九99九九九| 狠狠爱婷婷丁香| 色综合综合色| 婷婷五月天色| 日韩性视频| 婷婷婷婷婷开心无码播放| 成人做爰高潮A片免费视频| 婷婷97碰碰| 久久99免费视频| 丁香五月色| 综合色99| 少妇人妻人伦A片| 国产AV成人精品| 婷婷五月欧美综合| 婷婷六月综合激情| 成人电影AV在线观看| 久久视频这里有精品99| 香蕉久操| 97涩涩丁香五月天| 五月天激情小说网| 深夜男女福利刺激影院一区完整| 五月婷婷在线视频观看| 五月天婷婷青青草| 99色播| 人妻中文在线| 欧美婷婷六月丁香综合色| 激情性爱五月| 婷婷五月天丁香社区| 久久人妻www| 超碰免费人人肏| 深爱激情久久| 四川BBB搡BBB搡多人乱亂| 99惹在线精品免费观看| 伊人久久婷婷| 五月天成人综合| 9久热免费视频99| 91视频免费后入强操| 色欲色香综合网| 婷婷久久欧美| 99久久性爱| 丁香婷婷五月人体| 婷婷情爱五月天6| 涩 五月 婷婷 狠狠| 五月激情婷婷丁香| 99热全是精品| 天天射影院| 一区二区免费看| 丁香五月另类色婷婷麻豆| 9久久久久| 日韩亚洲视频| 五月丁香亚洲校园欧美| 久热婷婷| 欧美黑人巨大猛烈cuckold| 久久AAAA片一区二区| 色五月婷婷成人视频| 极品人妻XXXXOOOO| 丁香五月亚洲综合| 九九99热精品| 婷婷激情图片| 丁香婷婷五月色成人网站| 婷婷亚洲综合| 五月丁香综合激情在线观看| 色婷婷成人做爰A片免费看网站| WwW天天干| av在线婷婷| 五月丁香婷婷综合视频| 玖玖午夜视频| 综合五月婷婷| 六月婷婷私欲| 99操网站| 99ri国产在线| 这里只有精品视频在线观看免费| 免费看欧美成人A片无码| 丁香五月婷婷骚视屏| 日韩成人电影Av| 激情性爱五月天| 色婷婷视频| 人人肏逼视频在线一区二区| 婷婷激情图片| 可以免费观看的av网址| 五月婷婷av在线| 99色色网| 亚洲色色在线| 亚洲av成人一区二区电影在线| 操人久久| 丁香六月亚洲| 蜜乳人妻一区二区三区| 大香蕉五月天| 天天射综合网天天插| 日本97久久久精品| 丁香六月婷婷久久综合| 五区毛片七区毛片| 日本久久视频| 国产一级视频a| 五月婷婷色| 这里只有精品,日韩视频| 精品视频网| 天天天天天天操| 五月婷婷六月丁香在线视频| 久久久五月五丁香| 成人无码髙潮喷水A片| 99这里只有精品视频| 怕怕av| 丁香激情五月少妇| 成人午夜无码视频| 五月激情六月丁香| 久久久久婷婷五月热综合| 日日操夜夜操中国无码| 伊人婷婷五月天| 亚洲五月花| 久久激情综合| 九九干视频| 色综合视频在线| 狠狠色综合网| 久久免片| 丁香六月婷婷高清| 色久九| 丁香五月 激情文学| 欧美操人| 97资源碰碰| www,99热| 五月丁香综合啪啪対白| 成人 在线 日韩| 麻豆忘忧草午夜| 丁香激情五月| 99热这里| 五月婷婷亚洲| 深爱开心激情网| 九月色婷婷| 亚洲久久日| 七七久久综合| 国产熟妇乱子伦hd| 色五月激情五月| 91干在线| 播五月丁香三月婷婷| 国精产品久久| 五月丁香网中文字幕| 色婷婷视频| 色色五月天网站| 97人妻碰碰碰碰碰久久久久久| 国产乱妇无乱码大黄AA片| 91久久久久久| 影音先锋四区| 色色无码| 26uuu国产| 激情深爱综合网| 国语精品探花| 婷婷五月天激情小说网站| 五月丁香日本在线视频观看| 99ri久久| 亚洲精品在线视频| 超碰国产在线观看| WWW、日本色丁香、co m| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 久99久视频精选| 婷婷九月久久| 久久久全国免费视频| 三年高清大片免费观看国语| 黄网在线播放| 天天日夜夜| 99热欧美| 99噜噜噜在线播放| 五月婷婷激情综合| 中国女人做爰A片| 久久久GOGO无码啪啪艺术| 99热官网| 国产肥白大熟妇BBBB视频| 狠狠综合| 国产精品久久久爽爽爽麻豆色哟哟 | 五月丁香久久呀| 激情综合婷婷| 五月丁香自拍| 4399亚洲视频| 91久久久久久久久久久| 久久伊人婷婷| 激情五月丁香婷婷夜夜操| 四月婷婷五月色综合| 99国产小视频2013| 婷婷国产综合| 久草五月天电影网| 色婷婷色五月综合| 综合五月丁香六月婷婷| 婷婷五月天伊人网| 伊人久久大香线蕉av一区| 在线视频另类| 欧美色五月| 国产一区二区av免费| 亚洲一二三网| 成人人操| 91avse| wwxx日本| 五月中旬婷婷丁香六| 激情婷婷啪啪| 日本啪啪网| 性爱久久| 五月天福利影院导航| 91VIP在线观看| 五月婷婷综合久久| 五月激情四射婷婷丁香| 午夜无码精品色综合久久| 很很干夜夜干| 亚洲精品国产成人AV在线| 色99在线| 七七久久婷婷| 五月婷精品| 亚洲九九九九| 婷婷五月天国产在线播放| 久久色情| 久热婷婷综合| 婷婷丁香五月色偷偷| 亚洲五月天第一综合干| 9这里只有精品| 婷婷情色五月天| 国产做A爰片毛片A片美国| 五月综合激情图片| 色婷婷XXXXX| 婷婷色5月激情网| 91热99| 欧美日韩成卜| www.henhenl| 天天综合.com| 日本爆乳片手机在线播放| 涩五月婷婷| 91在线观看www| 久久久色婷婷五月天| 色永久| 久久亚洲婷婷| 五月丁香婷婷婷激情爱爱| 开心五月天私房婷婷| 日本色色视频| 中文字幕永久在线| 77777亚洲午夜久久| 日本www五月婷婷| 六月久久婷婷| seav天堂| 狠狠色丁香| 人人爽天天爽| 色婷婷成人做爰A片免费看网站| 五月婷婷丁香网| 天天干天天日日| 91九色丨国产丨爆乳| 亚洲成AV人片在线观看| 欧美情月伍月天| 亚洲激情婷婷| 国产精品久久久久9999小说| 五月婷婷啪啪啪| 丁香成人视频| 极品人妻VIDEOSSS人妻| 色色爽爽天天| 婷婷五月天激情电影小说| 人妻熟人中文字幕一区二区| 91超级碰在线视频| 婷婷五月天另类网站| 丁香五月激情啪啪| 激情床戏| 色五月丁香婷婷| 色欲AVV| 婷婷大美在线| 亚洲综合五月| 91黄操| 丁XX 成人| 97干资源在线观看| 欧洲亚洲欧洲99久久| 婷婷五月天成人| 亚洲成人AV在线观看| 99色在线视频| 9999热精品| www.亚洲激情| 97丁香视频| 青青草婷婷综合五月| 五月丁香影视| 99久久66| 九九人人操| 婷婷操久久| 色五月激情五月开心五月| www.婷婷激情网.com| 热99re| 一区二区三区四日本| 密臀久久| 五月丁香婷婷欧美| 久久视频婷婷视频| 任你爽精品免费视频6| 玖玖五月丁香| 久久人妻精品| 秋霞AV美国| 一区二区免费看| 91九色中文字幕女在线观看| 五月婷婷色五月| 激情碰碰碰| 婷婷五月六| 国产肏屄大片| 97人人操| 久99久视频| 九九热这里只有精品6| 熟女激情网|