免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

數(shù)據(jù)中心供配電全鏈路解析:從市電到機(jī)柜的冗余、容量與調(diào)試

數(shù)據(jù)中心供配電全鏈路解析:從市電到機(jī)柜的冗余、容量與調(diào)試 上架前最后一個(gè)動(dòng)作永遠(yuǎn)是蹲在列頭柜前面看三相電流是否平衡。這個(gè)動(dòng)作看起來跟技術(shù)沒什么關(guān)系但做過幾年機(jī)房的人都知道供電這一環(huán)出問題前面所有的網(wǎng)絡(luò)架構(gòu)、存儲(chǔ)冗余、容器編排都白搭。數(shù)據(jù)中心的供配電系統(tǒng)說白了就是把市電從電網(wǎng)那頭一路安全、穩(wěn)定、可控地送到每一臺(tái)服務(wù)器的電源模塊里中間要經(jīng)過中壓引入、變壓、不間斷電源、末端配電、機(jī)柜PDU這幾道關(guān)。它決定了一個(gè)機(jī)房能承載多少算力、能扛住幾次市電波動(dòng)、能不能在柴發(fā)啟動(dòng)的那十幾秒里讓業(yè)務(wù)毫無感知。這篇文章主要面向三類人正在規(guī)劃?rùn)C(jī)房或者擴(kuò)容機(jī)柜的運(yùn)維和基礎(chǔ)設(shè)施工程師、需要評(píng)估供配電預(yù)算和冗余等級(jí)的技術(shù)負(fù)責(zé)人以及自己搭小型機(jī)房、想把電這塊搞明白的獨(dú)立開發(fā)者。我會(huì)把配電鏈路的每一段拆開講清楚把容量計(jì)算的過程一步步寫出來也會(huì)分享一些只有真正上過電、跳過閘、被電池報(bào)警吵醒過的人才知道的細(xì)節(jié)。1. 從10kV進(jìn)線到主板供電一條電要走完的六段路1.1 電力鏈路拆解每一段都可能是故障點(diǎn)很多人對(duì)供配電的理解停留在機(jī)房有兩路電、有UPS、有柴發(fā)這個(gè)層面。真正做設(shè)計(jì)的時(shí)候你得把整條鏈路畫出來從城市電網(wǎng)的10kV或者35kV進(jìn)線開始一段一段往下捋。我把這條鏈路分成六段中壓引入與計(jì)量、變壓器降壓、低壓主配電與自動(dòng)轉(zhuǎn)換、不間斷電源、末端配電、機(jī)柜級(jí)配電。每一段的故障模式、切換時(shí)間、維護(hù)窗口都不一樣混在一起談供電可靠性是沒有意義的。第一段是中壓引入。兩條10kV線路從上級(jí)變電站引過來理想情況是來自兩個(gè)不同的變電站或者至少是同一個(gè)變電站的兩段不同母線。這里有個(gè)特別容易被忽略的坑很多項(xiàng)目號(hào)稱雙路市電實(shí)際上兩路是從同一個(gè)變電站的同一段母線上分出來的兩條饋線。這種情況下上級(jí)變電站檢修或者母線故障兩路一起沒所謂的雙路供電在關(guān)鍵時(shí)刻形同虛設(shè)。我在參與過一次電力局計(jì)劃?rùn)z修時(shí)才真正體會(huì)到這一點(diǎn)圖紙上看著是兩條獨(dú)立路徑實(shí)際追溯上去在第三級(jí)就合流了。后來我們?cè)谠O(shè)計(jì)階段就要求把上級(jí)電源的拓?fù)鋱D畫出來一直追到區(qū)域變電站確認(rèn)兩路電源在物理上確實(shí)獨(dú)立。第二段是變壓器降壓把10kV降到400V。數(shù)據(jù)中心普遍用干式變壓器因?yàn)椴蝗?、維護(hù)簡(jiǎn)單、可以放在樓內(nèi)。變壓器的容量、阻抗、接線組別都會(huì)影響后面的短路電流和保護(hù)配合。這一段通常按N1配置也就是兩臺(tái)變壓器各承擔(dān)一半負(fù)載任何一臺(tái)故障另一臺(tái)能頂上全部負(fù)載。這里要注意的是變壓器的負(fù)載率不能拉滿長(zhǎng)期運(yùn)行在額定容量附近溫升和損耗都很難看壽命也會(huì)明顯縮短。第三段是低壓主配電和自動(dòng)轉(zhuǎn)換。市電進(jìn)來之后要經(jīng)過主進(jìn)線柜、母聯(lián)柜、饋線柜通過自動(dòng)轉(zhuǎn)換開關(guān)在兩路市電之間切換或者在市電和柴發(fā)之間切換。這一段是整套系統(tǒng)里動(dòng)作最頻繁的部分也是故障率最高的部分之一。第四段是不間斷電源。這是整個(gè)鏈路的核心也是投資占比最大的部分。UPS負(fù)責(zé)在市電波動(dòng)、瞬斷、切換期間維持輸出同時(shí)在市電長(zhǎng)期中斷時(shí)靠蓄電池?fù)蔚讲癜l(fā)帶載。第五段是末端配電包括列頭柜、母線槽這些把電分到每一排機(jī)柜的設(shè)備。第六段是機(jī)柜級(jí)配電也就是機(jī)柜里的PDU和服務(wù)器電源模塊。后面幾節(jié)我會(huì)逐段展開先把整體架構(gòu)和分級(jí)邏輯說清楚。1.2 可用性分級(jí)與配電架構(gòu)的對(duì)應(yīng)關(guān)系行業(yè)里有一套被廣泛引用的四級(jí)可用性分級(jí)從基礎(chǔ)級(jí)到容錯(cuò)級(jí)核心區(qū)別就在于有沒有冗余、冗余是否可同時(shí)維護(hù)、故障是否自動(dòng)隔離。這套分級(jí)不是拿來貼標(biāo)簽的它直接決定了你的配電架構(gòu)長(zhǎng)什么樣、花多少錢?;A(chǔ)級(jí)只有一條配電路徑?jīng)]有任何冗余計(jì)劃維護(hù)必須停機(jī)非計(jì)劃故障必然導(dǎo)致業(yè)務(wù)中斷。這種配置現(xiàn)在只出現(xiàn)在測(cè)試環(huán)境或者對(duì)連續(xù)性完全沒有要求的場(chǎng)景。第二級(jí)增加了冗余部件比如N1的UPS模塊、N1的變壓器但配電路徑仍然只有一條仍然存在單點(diǎn)故障維護(hù)時(shí)還是要停部分負(fù)載。第三級(jí)可以同時(shí)維護(hù)也就是常說的雙路供電兩條獨(dú)立的配電路徑可以輪流檢修而不影響負(fù)載但仍然可能有短暫的手動(dòng)切換。第四級(jí)是容錯(cuò)級(jí)任何一條路徑上的任何設(shè)備故障負(fù)載都不受影響也不需要人工干預(yù)架構(gòu)上對(duì)應(yīng)的是2N或者2(N1)。我給客戶做方案時(shí)第一句話通常是問業(yè)務(wù)能接受多長(zhǎng)的中斷時(shí)間。財(cái)務(wù)結(jié)算系統(tǒng)、實(shí)時(shí)交易、核心數(shù)據(jù)庫(kù)這類業(yè)務(wù)停機(jī)一分鐘的損失可能比整套2N配電的增量投資還高那沒什么好猶豫的直接按容錯(cuò)級(jí)設(shè)計(jì)。而離線訓(xùn)練、批量渲染、日志歸檔這類任務(wù)中斷幾十分鐘甚至幾個(gè)小時(shí)都能接受硬上2N就是浪費(fèi)預(yù)算。這個(gè)判斷比任何技術(shù)細(xì)節(jié)都重要因?yàn)榧軜?gòu)一定后面所有設(shè)備選型、空間規(guī)劃、運(yùn)維流程都跟著定死了改起來代價(jià)極大。2. 冗余架構(gòu)選型2N、N1、DR、RR該怎么定2.1 四種模型的真實(shí)差別選冗余模型的時(shí)候圖紙上的差別很清楚實(shí)際運(yùn)行和維護(hù)上的差別才是關(guān)鍵。我逐個(gè)說。N1是最常見的起步配置N是滿足負(fù)載所需的設(shè)備數(shù)量加一是指多配一套作為備用。比如負(fù)載需要三臺(tái)500kVA的UPS那就配四臺(tái)任意一臺(tái)故障剩下三臺(tái)仍然能滿足負(fù)載。它的優(yōu)點(diǎn)是投資相對(duì)可控、設(shè)備利用率高缺點(diǎn)是系統(tǒng)的總?cè)萘恐杏幸徊糠珠L(zhǎng)期閑置而且如果負(fù)載增長(zhǎng)超出預(yù)期那個(gè)1的余量很快就被吃掉了需要提前規(guī)劃擴(kuò)容。另外要注意N1能扛住一臺(tái)設(shè)備故障但扛不住一臺(tái)設(shè)備故障的同時(shí)另一臺(tái)在進(jìn)行計(jì)劃維護(hù)這對(duì)運(yùn)維排期是個(gè)約束。2N是指完全獨(dú)立的兩套系統(tǒng)每套都能獨(dú)立承擔(dān)全部負(fù)載。兩個(gè)UPS系統(tǒng)、兩條母排、兩路配電、機(jī)柜里兩個(gè)PDU一路來自A系統(tǒng)一路來自B系統(tǒng)。任何一套完全停運(yùn)另一套都能頂住。這是容錯(cuò)級(jí)的標(biāo)準(zhǔn)做法也是成本最高的做法設(shè)備投資基本翻倍而且兩套系統(tǒng)的負(fù)載率都只有50%左右效率上是有損失的?,F(xiàn)在的做法通常是配合模塊化UPS讓兩套系統(tǒng)的模塊數(shù)量按實(shí)際負(fù)載動(dòng)態(tài)配置減少閑置。DR是分布式冗余在一些互聯(lián)網(wǎng)廠商的大型園區(qū)里用得比較多。它把負(fù)載分成多個(gè)獨(dú)立的模塊每個(gè)模塊內(nèi)部有自己的配電模塊之間通過母聯(lián)互相支援。相比2NDR的設(shè)備總量少一些理論上成本低一些但系統(tǒng)邏輯更復(fù)雜切換策略需要仔細(xì)設(shè)計(jì)一旦策略寫錯(cuò)支援關(guān)系可能反而變成故障傳播路徑。RR是走線冗余用兩套獨(dú)立的走線路徑和配電設(shè)備但上游的電源設(shè)備是共用的。它可以防止單條線路或單個(gè)配電柜故障但防不住上游UPS故障屬于一種成本折中。有些項(xiàng)目預(yù)算不夠上2N又想解決末端單點(diǎn)就會(huì)選RR。冗余模型冗余范圍能否同時(shí)維護(hù)主要風(fēng)險(xiǎn)成本占比參考N1設(shè)備級(jí)受限需排期維護(hù)與故障疊加100%2N全路徑可以投資高、負(fù)載率低170%到200%DR模塊級(jí)可以邏輯復(fù)雜、策略依賴130%到150%RR走線級(jí)部分可以上游單點(diǎn)仍在110%到130%表格里的成本占比只是個(gè)粗略參考實(shí)際差異跟項(xiàng)目規(guī)模、設(shè)備品牌、機(jī)房條件關(guān)系很大不能直接拿去當(dāng)預(yù)算依據(jù)。我列出來是想說明一件事冗余不是免費(fèi)的也不是越多越好得跟業(yè)務(wù)價(jià)值對(duì)齊。2.2 一筆算清冗余的投入產(chǎn)出我經(jīng)常被問到底值不值得上2N我的回答是先算三筆賬。第一筆是停機(jī)成本。把過去一年因?yàn)殡娏υ驅(qū)е碌耐C(jī)次數(shù)和每次的損失估出來包括直接的業(yè)務(wù)損失、客戶賠償、恢復(fù)人力成本。如果一年損失遠(yuǎn)超2N的增量投資那答案很清晰。第二筆是增量投資的具體構(gòu)成。從N1升到2N增加的不僅僅是UPS還有變壓器容量、低壓柜、母排、線纜、末端配電、機(jī)房空間甚至柴發(fā)的容量也要跟著放大。很多人只算了UPS的差價(jià)結(jié)果預(yù)算超了一大截。我建議在方案階段就讓電氣、暖通、土建一起出量把增量成本完整列出來。第三筆是運(yùn)行成本的差異。2N架構(gòu)下每套系統(tǒng)負(fù)載率低UPS在低負(fù)載率下的效率通常低于最佳工作區(qū)間長(zhǎng)期電費(fèi)差異不能忽略。以一套2000kVA的系統(tǒng)為例效率差兩個(gè)百分點(diǎn)一年下來的電費(fèi)差額是實(shí)打?qū)嵉?。另外電池的維護(hù)更換也是按組走的2N意味著兩倍的電池組。還有個(gè)現(xiàn)實(shí)問題機(jī)房面積。2N架構(gòu)占用的配電間面積、電池間面積都更大在一些改造項(xiàng)目里空間比錢還難解決。我遇到過一個(gè)項(xiàng)目方案做得漂漂亮亮最后卡在電池間放不下那么多組電池只能退回N1加RR的組合。所以架構(gòu)選型一定要在方案早期就把空間約束摸清楚別等到施工圖階段才發(fā)現(xiàn)放不下。3. 關(guān)鍵設(shè)備的選型邏輯與實(shí)操細(xì)節(jié)3.1 雙路市電、變壓器與ATS中壓引入這塊除了前面說的要追溯電源獨(dú)立性還有幾個(gè)實(shí)操細(xì)節(jié)值得說。進(jìn)線柜的計(jì)量方式、保護(hù)配置、與供電部門的產(chǎn)權(quán)分界點(diǎn)都要在前期談清楚不然驗(yàn)收的時(shí)候會(huì)扯皮。中壓柜的體積和操作通道要求也影響配電間布局手車柜和固定柜的維護(hù)空間差別不小做平面布置的時(shí)候要留夠。變壓器選型干式變壓器是主流關(guān)注三個(gè)參數(shù)額定容量、短路阻抗、溫控方式。短路阻抗一般在6%左右阻抗小則短路電流大對(duì)開關(guān)和母排的動(dòng)熱穩(wěn)定要求高阻抗大則電壓調(diào)整率大末端壓降可能超標(biāo)。溫控要帶超溫報(bào)警和跳閘而且要確認(rèn)跳閘信號(hào)是送到監(jiān)控還是直接跳閘這個(gè)設(shè)置直接影響故障時(shí)的行為不同項(xiàng)目的要求不一樣。自動(dòng)轉(zhuǎn)換開關(guān)是這段最需要小心的設(shè)備。它分兩個(gè)大類一類是專用轉(zhuǎn)換開關(guān)觸頭專門為切換設(shè)計(jì)切換快、可靠性高另一類是用兩臺(tái)斷路器加機(jī)械聯(lián)鎖實(shí)現(xiàn)成本低但切換速度慢觸頭也不是為頻繁切換設(shè)計(jì)的。數(shù)據(jù)中心的主進(jìn)線切換應(yīng)該用前者而且要選帶旁路維護(hù)功能的型號(hào)這樣轉(zhuǎn)換開關(guān)本身檢修時(shí)不用停負(fù)載。關(guān)于切換時(shí)間我想強(qiáng)調(diào)一個(gè)容易被誤解的點(diǎn)自動(dòng)轉(zhuǎn)換開關(guān)的切換時(shí)間通常在幾百毫秒到兩秒之間這個(gè)時(shí)間對(duì)IT設(shè)備來說是致命的。它不是UPS不能用來保障IT負(fù)載。它的作用是在市電和柴發(fā)之間切換或者在兩路市電之間做長(zhǎng)時(shí)間切換切換期間負(fù)載由UPS和電池支撐。我見過有人把自動(dòng)轉(zhuǎn)換開關(guān)當(dāng)成快速切換電源來保障服務(wù)器結(jié)果切換瞬間服務(wù)器全重啟這個(gè)理解偏差必須糾正。注意雙路市電切換、市電與柴發(fā)切換都屬于秒級(jí)動(dòng)作IT負(fù)載必須依賴UPS過渡任何指望轉(zhuǎn)換開關(guān)本身保住服務(wù)器的方案都是錯(cuò)的。3.2 UPS與HVDC的選型分歧UPS這塊的爭(zhēng)論一直沒停過。工頻機(jī)和高頻機(jī)的差別本質(zhì)上是變壓器在不在機(jī)器內(nèi)部。工頻機(jī)內(nèi)置輸出變壓器抗沖擊能力強(qiáng)、對(duì)負(fù)載的適應(yīng)性好缺點(diǎn)是體積大、重量大、效率略低。高頻機(jī)省掉了工頻變壓器體積小、效率高、輸入功率因數(shù)好但對(duì)負(fù)載的適應(yīng)性和抗沖擊能力相對(duì)弱一些選型時(shí)要確認(rèn)負(fù)載類型。模塊化UPS這幾年基本成了主流選擇。它的好處很直觀按需配置功率模塊初期投資低模塊故障時(shí)其余模塊繼續(xù)工作更換模塊不需要停機(jī)擴(kuò)容時(shí)加模塊就行。但它也有代價(jià)機(jī)架本身的容量是固定的模塊數(shù)量有上限而且模塊多了之后監(jiān)控和均流管理更復(fù)雜。我個(gè)人的經(jīng)驗(yàn)是如果負(fù)載增長(zhǎng)曲線明確、機(jī)房空間緊張模塊化值得優(yōu)先考慮如果負(fù)載已經(jīng)穩(wěn)定、單機(jī)容量需求大傳統(tǒng)大容量UPS可能更省心。效率指標(biāo)要分開看。雙變換模式下的效率通常在94%到96%之間ECO模式可以到98%以上但ECO模式下市電直接供電切換過程中仍然有毫秒級(jí)的擾動(dòng)對(duì)極其敏感的設(shè)備不一定合適。我的做法是核心業(yè)務(wù)維持雙變換非核心或者有冗余的負(fù)載可以開ECO但一定要實(shí)測(cè)切換波形確認(rèn)設(shè)備能扛住。HVDC高壓直流是另一個(gè)方向240V或336V直流輸出直接給服務(wù)器供電。它的優(yōu)勢(shì)是效率高、結(jié)構(gòu)簡(jiǎn)單、電池可以直接掛在直流母線上省掉逆變環(huán)節(jié)、可靠性理論上更好。但它的落地受限于服務(wù)器電源必須配直流輸入的電源模塊生態(tài)上不如交流UPS成熟。國(guó)內(nèi)一些大型互聯(lián)網(wǎng)機(jī)房用得多普通企業(yè)機(jī)房如果要上得先確認(rèn)服務(wù)器廠商能不能供直流電源否則方案直接卡死。我的判斷是新建大型自用機(jī)房、服務(wù)器采購(gòu)可控的場(chǎng)景可以認(rèn)真評(píng)估HVDC改造項(xiàng)目、設(shè)備品牌雜亂的場(chǎng)景老實(shí)用交流UPS。3.3 蓄電池與柴油發(fā)電機(jī)電池是UPS系統(tǒng)里壽命最短、最容易被忽視的部分。鉛酸電池便宜、技術(shù)成熟但占地大、重量大、對(duì)溫度敏感壽命通常三到五年。鋰電池占地小、重量輕、循環(huán)壽命長(zhǎng)、支持大電流放電但成本高而且需要配套的電池管理系統(tǒng)和消防措施。選哪種要看機(jī)房條件如果電池間面積緊張、樓板承重有限鋰電池的優(yōu)勢(shì)就體現(xiàn)出來了。電池容量計(jì)算不能只看后備多少分鐘這個(gè)數(shù)字。電池的實(shí)際輸出能力跟放電倍率強(qiáng)相關(guān)放電越快可用容量越少。所以計(jì)算的時(shí)候要用電池廠家提供的恒功率放電表而不是簡(jiǎn)單用安時(shí)數(shù)乘電壓。這一點(diǎn)后面第四節(jié)的實(shí)操部分我會(huì)寫具體的計(jì)算方法。電池的溫度管理也很關(guān)鍵。鉛酸電池的額定容量是在25度環(huán)境下標(biāo)定的環(huán)境溫度每升高10度壽命大約減半。很多機(jī)房把電池放在沒有獨(dú)立空調(diào)的角落里夏天溫度輕松超過35度電池兩三年就不行了。我建議電池間單獨(dú)做溫控如果預(yù)算不允許至少要有強(qiáng)排風(fēng)和溫度監(jiān)控把溫度控制在30度以內(nèi)。柴油發(fā)電機(jī)是最后一道防線。容量選型通常按UPS的總?cè)萘砍艘?.2到1.5的系數(shù)因?yàn)閁PS在帶載啟動(dòng)時(shí)有一定的沖擊而且柴發(fā)在突加負(fù)載時(shí)的動(dòng)態(tài)特性會(huì)影響輸出電壓和頻率。柴發(fā)的加載策略一般是分步加載先帶一部分負(fù)載穩(wěn)定后再逐步增加避免一次加載過大導(dǎo)致頻率跌落甚至停機(jī)。油箱容量通常按滿載運(yùn)行8到12小時(shí)配置有條件的話配儲(chǔ)油罐保證長(zhǎng)時(shí)間斷電時(shí)的續(xù)航。柴發(fā)的日常維護(hù)比UPS更重要因?yàn)樗情L(zhǎng)期閑置的設(shè)備。定期空載試機(jī)、帶載測(cè)試、油路檢查、蓄電池檢查一樣都不能少。我見過不止一次市電真斷了、柴發(fā)啟動(dòng)失敗的情況原因都是長(zhǎng)期沒做帶載測(cè)試燃油系統(tǒng)有空氣或者啟動(dòng)電池虧電。這類問題在測(cè)試中暴露出來是好事在真故障時(shí)暴露就是事故。3.4 末端配電列頭柜、母線槽與智能PDU末端配電是把電送到機(jī)柜的最后一段也是最容易亂的一段。傳統(tǒng)做法是列頭柜加線纜每排機(jī)柜配一個(gè)列頭柜從列頭柜拉電纜到每個(gè)機(jī)柜的PDU。這種方式靈活、成本可控缺點(diǎn)是線纜多、改動(dòng)麻煩、占空間。母線槽是另一種做法沿著機(jī)柜排上方或者下方鋪設(shè)機(jī)柜通過插接箱取電擴(kuò)容和調(diào)整位置特別方便缺點(diǎn)是初期投資高、載流量有限、插接點(diǎn)需要定期檢查。智能PDU這幾年普及得很快它最大的價(jià)值不是遠(yuǎn)程開關(guān)插座而是計(jì)量。機(jī)柜級(jí)、插座級(jí)的電流、功率、電量數(shù)據(jù)能讓你清楚知道每個(gè)機(jī)柜實(shí)際用了多少電、三相是否平衡、峰值出現(xiàn)在什么時(shí)候。這些數(shù)據(jù)對(duì)容量規(guī)劃極其重要。我做過一個(gè)項(xiàng)目前期按平均5kW每機(jī)柜規(guī)劃上了智能PDU之后發(fā)現(xiàn)有的機(jī)柜實(shí)際跑到7kW以上有的只有2kW負(fù)載分布嚴(yán)重不均。如果不做機(jī)柜級(jí)計(jì)量這些問題根本看不見等到某個(gè)支路過載跳閘才發(fā)現(xiàn)就晚了。機(jī)柜的雙路供電要特別注意來源。A路和B路必須來自兩個(gè)不同的UPS系統(tǒng)或者至少兩個(gè)不同的配電支路絕對(duì)不能從同一個(gè)列頭柜的兩路出線來接那樣等于沒有冗余。接線的時(shí)候要有明確標(biāo)識(shí)我建議用不同顏色的線纜和標(biāo)簽區(qū)分A、B路運(yùn)維換線的時(shí)候不容易搞錯(cuò)。還有一種情況是設(shè)備只有一個(gè)電源接口這種設(shè)備要么配靜態(tài)轉(zhuǎn)換開關(guān)要么就只能接在一路電源上接受這路電源故障時(shí)設(shè)備掉線的風(fēng)險(xiǎn)這個(gè)取舍要在設(shè)計(jì)階段就跟業(yè)務(wù)方確認(rèn)清楚。4. 一次完整的容量推演從負(fù)載表算到線徑4.1 負(fù)載統(tǒng)計(jì)與需求系數(shù)容量計(jì)算的第一步是把負(fù)載統(tǒng)計(jì)清楚。IT負(fù)載是最核心的部分包括服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)設(shè)備。獲取這個(gè)數(shù)據(jù)有幾種方式新機(jī)房可以按規(guī)劃的設(shè)備清單估算改造機(jī)房最好用智能PDU實(shí)測(cè)數(shù)據(jù)什么都沒有的時(shí)候只能按機(jī)柜數(shù)量和預(yù)估功率密度來算。舉個(gè)具體的例子。假設(shè)一個(gè)機(jī)房規(guī)劃200個(gè)機(jī)柜規(guī)劃功率密度平均5kW每機(jī)柜那IT負(fù)載的理論最大值是1000kW。但實(shí)際運(yùn)行中不可能每個(gè)機(jī)柜都跑滿所以要乘以一個(gè)同時(shí)系數(shù)。這個(gè)系數(shù)跟業(yè)務(wù)類型有關(guān)互聯(lián)網(wǎng)業(yè)務(wù)波動(dòng)大同時(shí)系數(shù)可能取0.8到0.9傳統(tǒng)企業(yè)業(yè)務(wù)比較穩(wěn)定可以取0.9到0.95。這里我取0.9得到實(shí)際IT負(fù)載900kW。除了IT負(fù)載還要加輔助負(fù)載。照明、監(jiān)控、門禁這些占比很小可以忽略或者按經(jīng)驗(yàn)值加個(gè)幾kW。真正大頭是制冷系統(tǒng)也就是空調(diào)和冷機(jī)。如果做整體配電設(shè)計(jì)制冷負(fù)載要單獨(dú)算通常按PUE反推。假設(shè)設(shè)計(jì)PUE是1.3那制冷及其他非IT負(fù)載大約是IT負(fù)載的30%也就是270kW。這里有個(gè)設(shè)計(jì)習(xí)慣的差異有的方案把IT負(fù)載和制冷負(fù)載分開配電UPS只保障IT負(fù)載制冷由市電直接供電有的方案把制冷也納入保障范圍。前者成本低但市電中斷時(shí)制冷會(huì)停機(jī)房溫度會(huì)在幾分鐘內(nèi)快速上升通??坎癜l(fā)啟動(dòng)后恢復(fù)制冷來銜接中間有個(gè)溫度上升的窗口。后者成本高但連續(xù)性更好。這個(gè)選擇取決于業(yè)務(wù)對(duì)溫度的敏感程度和柴發(fā)的啟動(dòng)可靠性。我一般建議核心機(jī)房把制冷的關(guān)鍵部分納入柴發(fā)保障但不一定要走UPS。4.2 UPS容量與電池后備時(shí)間計(jì)算拿到IT負(fù)載900kW之后開始算UPS容量。計(jì)算要考慮三個(gè)因素功率因數(shù)、負(fù)載率目標(biāo)、冗余方式?,F(xiàn)代服務(wù)器的電源模塊基本都帶功率因數(shù)校正功率因數(shù)可以按0.95到0.99來取保守一點(diǎn)取0.95。那么視在功率是900除以0.95約947kVA。UPS的最佳負(fù)載率通常在40%到60%之間太低效率差、投資浪費(fèi)太高沒有余量、風(fēng)險(xiǎn)大。取50%作為設(shè)計(jì)負(fù)載率那么需要的UPS容量是947除以0.5約1894kVA向上取整選2000kVA。如果做2N那就是兩套2000kVA的系統(tǒng)每套都能獨(dú)立帶全部負(fù)載。如果做N1可以選三臺(tái)800kVA加一臺(tái)備用總?cè)萘?200kVA實(shí)際負(fù)載率約30%這個(gè)余量偏大了可以調(diào)整成兩臺(tái)1000kVA加一臺(tái)備用或者三臺(tái)模塊化機(jī)架按需配模塊。我用一段簡(jiǎn)短的Python把上面的邏輯固化下來方便反復(fù)試算不同參數(shù)def ups_sizing(it_load_kw, pf0.95, target_ratio0.5, model2N, unit_kva500): it_load_kw: IT負(fù)載有功功率 kW pf: 功率因數(shù) target_ratio: 目標(biāo)負(fù)載率 model: 冗余模型 2N / N1 unit_kva: 單機(jī)容量 kVA s_required it_load_kw / pf / target_ratio # 向上取整到單機(jī)容量的整數(shù)倍 import math units math.ceil(s_required / unit_kva) if model 2N: # 兩套獨(dú)立系統(tǒng)每套都能帶全部負(fù)載 per_system units total units * 2 else: # N1負(fù)載分配在N臺(tái)另加1臺(tái)備用 n max(1, units - 1) per_system n 1 total n 1 actual_ratio (it_load_kw / pf) / (per_system * unit_kva) return { 所需視在功率_kVA: round(s_required, 1), 每套配置_臺(tái): per_system, 總臺(tái)數(shù)_臺(tái): total, 實(shí)際負(fù)載率: round(actual_ratio, 3) } print(ups_sizing(900, 0.95, 0.5, 2N, 500))跑出來的結(jié)果是每套四臺(tái)500kVA兩套共八臺(tái)每套實(shí)際負(fù)載率約47%。這個(gè)配置的余量比較合理負(fù)載增長(zhǎng)到1000kW也還能扛住。電池后備時(shí)間的計(jì)算要更細(xì)致。市電中斷到柴發(fā)穩(wěn)定帶載一般需要10到30秒考慮柴發(fā)啟動(dòng)失敗需要重試的情況電池后備時(shí)間通常按10到15分鐘設(shè)計(jì)。計(jì)算過程是先確定UPS在目標(biāo)后備時(shí)間下的輸出功率再除以逆變效率和電池放電系數(shù)得到電池需要提供的直流功率最后按電池的恒功率放電曲線選型。以上面的負(fù)載為例單套系統(tǒng)承擔(dān)900kW負(fù)載按后備10分鐘計(jì)算def battery_sizing(load_kw, backup_min, inv_eff0.94, dc_bus_v480): 簡(jiǎn)化估算實(shí)際選型必須查電池廠家的恒功率放電表 load_kw: 單套系統(tǒng)承擔(dān)的負(fù)載 kW backup_min: 后備時(shí)間 分鐘 inv_eff: 逆變效率 dc_bus_v: 直流母線電壓 hours backup_min / 60 # 電池實(shí)際需要輸出的能量考慮放電系數(shù) 0.55大電流放電時(shí)的修正 discharge_factor 0.55 energy_kwh load_kw * hours / inv_eff / discharge_factor # 換算成安時(shí) ah energy_kwh * 1000 / dc_bus_v return { 電池需要能量_kWh: round(energy_kwh, 1), 母線電壓_V: dc_bus_v, 估算安時(shí)_Ah: round(ah, 1) } print(battery_sizing(900, 10))算出來大約需要590Ah。按常見的400Ah電池配置就是兩組400Ah實(shí)際可用容量有一定余量。要強(qiáng)調(diào)的是這個(gè)計(jì)算是簡(jiǎn)化估算真實(shí)的電池選型必須用廠家的恒功率放電表按單體的放電終止電壓和放電時(shí)間查表再乘以溫度修正系數(shù)和老化系數(shù)。鉛酸電池的壽命末期容量會(huì)衰減到額定值的80%左右設(shè)計(jì)時(shí)最好按80%來選給老化留余量。4.3 線纜、母排與保護(hù)配合線纜選型要過三關(guān)載流量、電壓降、短路熱穩(wěn)定。載流量是最基本的。銅芯電纜在空氣中敷設(shè)環(huán)境溫度35度的情況下參考載流量大致如下截面 mm2參考載流量 A單芯、空氣中常見用途25約110小容量列頭柜進(jìn)線35約135支路配電50約165中等容量列頭柜70約205列頭柜進(jìn)線95約245列頭柜進(jìn)線120約285主配電饋線185約375主配電饋線240約445大容量饋線多用于多拼這些數(shù)字只是量級(jí)參考實(shí)際必須查廠家樣本和敷設(shè)方式修正系數(shù)。多根并聯(lián)時(shí)要乘一個(gè)降容系數(shù)一般取0.85到0.9。穿管、橋架內(nèi)敷設(shè)也會(huì)降容這些修正不做算出來的載流量是虛高的。電壓降是第二個(gè)約束。從變壓器到末端機(jī)柜總壓降一般控制在5%以內(nèi)末端支路自己控制在3%以內(nèi)。電壓降跟電流、線路長(zhǎng)度、功率因數(shù)都有關(guān)系長(zhǎng)距離饋線尤其要注意。我做設(shè)計(jì)時(shí)習(xí)慣在計(jì)算表里把每一段的壓降單獨(dú)列出來累加看總量超了就加大截面或者縮短路徑。短路熱穩(wěn)定是第三關(guān)。發(fā)生短路時(shí)電纜要在保護(hù)動(dòng)作的時(shí)間內(nèi)承受住短路電流的熱效應(yīng)。這個(gè)校驗(yàn)需要知道短路電流的大小和保護(hù)的動(dòng)作時(shí)間截面不夠的話短路瞬間電纜絕緣就會(huì)受損。這一步很多人會(huì)跳過覺得載流量夠就行實(shí)際上在短路容量大的系統(tǒng)里熱穩(wěn)定經(jīng)常成為控制截面選型的因素。母排的選擇同理除了載流量還要校驗(yàn)動(dòng)穩(wěn)定也就是短路時(shí)的電動(dòng)力能不能讓母排變形。保護(hù)配合是個(gè)細(xì)活。上下級(jí)斷路器的整定要形成時(shí)間差和電流差保證故障時(shí)最近的保護(hù)先動(dòng)作不要越級(jí)跳到上級(jí)。UPS輸入輸出側(cè)的斷路器整定還要考慮UPS的啟動(dòng)沖擊和旁路切換整定得太靈敏會(huì)誤跳。這塊我建議做一份完整的保護(hù)配合表把每個(gè)斷路器的額定電流、長(zhǎng)延時(shí)、短延時(shí)、瞬動(dòng)整定值都列出來調(diào)試的時(shí)候逐臺(tái)核對(duì)。4.4 機(jī)柜選型與配電能力匹配機(jī)柜的選擇跟配電能力是綁在一起的不能分開看。機(jī)柜的功率密度直接決定PDU的規(guī)格、支路的容量、甚至是否需要更換架構(gòu)。普通業(yè)務(wù)機(jī)柜功率在3到5kW配兩個(gè)單相16A的PDU或者一個(gè)三相16A的PDU就夠了。到了5到8kW建議用三相32A的PDU三相配電天然比單相更容易平衡。8到15kW的機(jī)柜PDU要上到三相32A甚至更高同時(shí)要配垂直安裝的0U PDU因?yàn)樗桨惭b的1U PDU在這種功率下散熱和線纜管理都很難受。超過15kW基本就要考慮液冷配套或者用母線槽直接對(duì)機(jī)柜供電把PDU簡(jiǎn)化為取電單元。機(jī)柜本身的規(guī)格也要跟功率匹配。高功率機(jī)柜需要更好的前后門開孔率一般要78%以上不然冷風(fēng)進(jìn)不去、熱風(fēng)出不來。深度方面普通機(jī)柜800到1000毫米夠用但裝GPU服務(wù)器的話深度普遍要1100毫米以上有些機(jī)型甚至需要1200毫米。承重也要注意滿配的GPU機(jī)柜重量可能超過1000公斤靜態(tài)承重要留足余量地板或者支架的承重能力要單獨(dú)校核。還有一個(gè)容易忽略的點(diǎn)服務(wù)器上電瞬間的沖擊電流。服務(wù)器的電源模塊在上電瞬間會(huì)有較大的浪涌電流多臺(tái)設(shè)備同時(shí)上電時(shí)這個(gè)浪涌可能疊加到額定電流的好幾倍導(dǎo)致支路斷路器誤跳。解決方法有兩種一是采用分步上電讓設(shè)備錯(cuò)開啟動(dòng)二是選擇帶延時(shí)脫扣特性的斷路器能扛住短暫的沖擊。我實(shí)際調(diào)試時(shí)更傾向于分步上電配合帶計(jì)量的PDU上電過程中盯著電流曲線看哪一路沖高了就停下來分批發(fā)。5. 上電調(diào)試現(xiàn)場(chǎng)并機(jī)、切換與帶載測(cè)試5.1 上電前的檢查清單上電是整個(gè)工程里最緊張的時(shí)刻一旦有短路或者接線錯(cuò)誤可能就是設(shè)備損壞甚至安全事故。我整理的檢查清單大致包括這幾項(xiàng)。接線核對(duì)是第一項(xiàng)也是最重要的。所有一二次接線要跟圖紙逐條核對(duì)尤其是相序、極性、互感器變比這些。相序錯(cuò)了三相設(shè)備會(huì)反轉(zhuǎn)或者異常發(fā)熱互感器變比錯(cuò)了計(jì)量和保護(hù)的數(shù)值全是錯(cuò)的。核對(duì)接線的時(shí)候要兩個(gè)人交叉檢查一個(gè)人看圖紙一個(gè)人看實(shí)物比一個(gè)人自己看靠譜得多。絕緣測(cè)試是第二項(xiàng)。主回路、控制回路分別測(cè)絕緣電阻記錄數(shù)值。絕緣不合格絕對(duì)不能上電必須查明原因。測(cè)試完之后要記得放電尤其是長(zhǎng)電纜和電容器。開關(guān)狀態(tài)確認(rèn)是第三項(xiàng)。所有斷路器、隔離開關(guān)的分合狀態(tài)要在上電前確認(rèn)一遍避免帶負(fù)載合閘或者帶電掛地線。接地開關(guān)要全部拉開接地線要全部拆除這個(gè)順序和狀態(tài)最好做成表格一項(xiàng)項(xiàng)打勾。保護(hù)定值核對(duì)是第四項(xiàng)。前面說的保護(hù)配合表這時(shí)候要逐臺(tái)核對(duì)斷路器的整定值是否跟設(shè)計(jì)一致。很多設(shè)備的出廠定值跟設(shè)計(jì)值不一樣不核對(duì)就上電等于保護(hù)形同虛設(shè)。電池組檢查是第五項(xiàng)。電池的連接條力矩、極性、開路電壓、內(nèi)阻都要測(cè)一遍。電池是串聯(lián)的一根連接條松動(dòng)就可能在大電流放電時(shí)打火甚至燒毀。力矩要用扭力扳手按廠家要求擰緊不能憑手感。所有檢查完成之后先空載上電觀察電壓、相序、指示燈、監(jiān)控?cái)?shù)據(jù)一切正常再逐級(jí)帶載。帶載要從小到大邊帶邊測(cè)溫度、電流、電壓發(fā)現(xiàn)異常立刻停下來。5.2 并機(jī)與切換測(cè)試怎么做扎實(shí)并機(jī)調(diào)試是UPS系統(tǒng)里技術(shù)含量最高的環(huán)節(jié)。多臺(tái)UPS并機(jī)運(yùn)行需要確保各臺(tái)的輸出電壓、相位、頻率嚴(yán)格同步負(fù)載均分。調(diào)試步驟一般是從單機(jī)開機(jī)、參數(shù)設(shè)置、同步校準(zhǔn)到并機(jī)運(yùn)行、均流測(cè)試、帶載測(cè)試。均流測(cè)試要重點(diǎn)關(guān)注不平衡度。理想情況下各臺(tái)UPS的輸出電流應(yīng)該基本相等實(shí)際允許有5%左右的偏差。偏差過大可能是同步參數(shù)、輸出阻抗或者檢測(cè)電路的問題需要廠家配合調(diào)整。我遇到過并機(jī)后一臺(tái)機(jī)器長(zhǎng)期偏載的情況原因是均流線接觸不良這種問題在輕載時(shí)不明顯滿載時(shí)才暴露所以帶載測(cè)試一定要做到接近額定負(fù)載。切換測(cè)試分幾種。市電切換測(cè)試是模擬一路市電失電看系統(tǒng)能否正常切換到另一路IT負(fù)載是否受影響。這個(gè)測(cè)試要配合負(fù)載端的監(jiān)測(cè)記錄切換瞬間的電壓波形。UPS切換測(cè)試是模擬UPS故障看能否切到旁路以及切回時(shí)是否平穩(wěn)。電池放電測(cè)試是斷開市電讓電池帶載運(yùn)行到設(shè)定時(shí)間觀察電壓下降曲線和報(bào)警情況。柴發(fā)帶載測(cè)試是啟動(dòng)柴發(fā)逐步加載到設(shè)計(jì)容量觀察頻率、電壓穩(wěn)定性和加載能力。我的經(jīng)驗(yàn)是每次測(cè)試都要有完整的記錄包括測(cè)試時(shí)間、測(cè)試項(xiàng)目、測(cè)試前的狀態(tài)、測(cè)試過程和結(jié)果、發(fā)現(xiàn)的問題和后續(xù)處理。這些記錄不只是為了交差更重要的是作為基線以后再次測(cè)試時(shí)能對(duì)比發(fā)現(xiàn)設(shè)備性能的變化趨勢(shì)。電池的放電曲線尤其重要前后對(duì)比能提前發(fā)現(xiàn)電池容量衰減。6. 常見故障排查與避坑實(shí)錄6.1 問題速查表我把這些年遇到和聽到的典型問題整理成表格方便快速對(duì)照排查。現(xiàn)象可能原因排查方向處理建議某相電流明顯高于其他相單相負(fù)載分配不均用鉗形表逐路測(cè)電流看負(fù)載分布重新分配單相負(fù)載把大功率單相設(shè)備挪到輕載相電池后備時(shí)間明顯縮短電池老化、環(huán)境溫度高、長(zhǎng)期浮充電壓偏差測(cè)單體電壓和內(nèi)阻查電池間溫度更換落后單體改善電池間溫度校準(zhǔn)充電電壓UPS頻繁轉(zhuǎn)旁路負(fù)載沖擊、逆變器過載、內(nèi)部故障查負(fù)載電流波形看是否有大電流沖擊分散上電時(shí)序檢查負(fù)載是否超過容量聯(lián)系廠家檢測(cè)柴發(fā)啟動(dòng)后頻率不穩(wěn)加載過快、燃油供油不足、調(diào)速器問題觀察加載過程檢查油路改為分步加載檢查燃油濾清器和油路密封支路斷路器誤跳浪涌電流、斷路器定值偏小、接線松動(dòng)查跳閘時(shí)的負(fù)載狀態(tài)和電流記錄調(diào)整上電時(shí)序核對(duì)斷路器曲線緊固接線機(jī)柜PDU報(bào)過載實(shí)際負(fù)載超出規(guī)劃、負(fù)載分布不均看PDU計(jì)量數(shù)據(jù)遷移部分設(shè)備調(diào)整機(jī)柜分配變壓器溫升異常負(fù)載率過高、散熱不良、諧波損耗測(cè)負(fù)載率和溫升檢查通風(fēng)降低負(fù)載率改善通風(fēng)評(píng)估諧波治理表格里每一條都是真實(shí)會(huì)遇到的問題。我特別想說的是電池后備時(shí)間縮短這一項(xiàng)它往往不是突然發(fā)生的而是緩慢衰減日常巡檢不做放電測(cè)試就發(fā)現(xiàn)不了。6.2 手冊(cè)里不會(huì)寫的幾條經(jīng)驗(yàn)第一條永遠(yuǎn)不要相信圖紙上是對(duì)的?,F(xiàn)場(chǎng)施工和圖紙有出入是常態(tài)接線錯(cuò)、標(biāo)簽錯(cuò)、設(shè)備型號(hào)不符什么情況都有。上電前一定要實(shí)地核對(duì)圖紙只是參考。第二條給電池間裝個(gè)溫度記錄儀成本很低作用很大。電池衰減跟溫度的關(guān)系太密切了有了長(zhǎng)期溫度數(shù)據(jù)你就能解釋為什么某組電池壽命特別短也能量化改善措施的效果。第三條智能PDU的數(shù)據(jù)要定期看不要裝了不用。很多次容量告警都是通過PDU的趨勢(shì)數(shù)據(jù)提前發(fā)現(xiàn)的比如某個(gè)機(jī)柜的功率在過去三個(gè)月持續(xù)上升那就要提前規(guī)劃遷移或者擴(kuò)容而不是等跳閘。第四條柴發(fā)的定期帶載測(cè)試必須真帶載不能只空載試機(jī)。空載運(yùn)行只能驗(yàn)證啟動(dòng)系統(tǒng)驗(yàn)證不了帶載能力和油路在高負(fù)荷下的表現(xiàn)。我建議每季度做一次不低于50%額定容量的帶載測(cè)試有條件的話每年做一次滿載測(cè)試。第五條所有關(guān)鍵操作都要有兩人在場(chǎng)一個(gè)人操作一個(gè)人監(jiān)護(hù)。配電操作涉及高壓和帶電作業(yè)風(fēng)險(xiǎn)不低單人操作的容錯(cuò)空間太小。第六條維護(hù)記錄要寫清楚為什么不只是做了什么。比如更換了某個(gè)斷路器要記錄是因?yàn)槭裁船F(xiàn)象、經(jīng)過什么排查、判斷是什么原因。這些信息在下次遇到類似問題時(shí)價(jià)值極高。7. 高密機(jī)柜、液冷與負(fù)載調(diào)度帶來的新變化7.1 液冷機(jī)柜對(duì)配電提出的新要求這兩年高密算力的需求把機(jī)柜功率密度推得很快風(fēng)冷機(jī)柜做到15kW以上就已經(jīng)很吃力再往上基本都要上液冷。冷板式液冷目前是落地最多的方案機(jī)柜功率可以做到30到80kW浸沒式更高單柜上百千瓦也不稀奇。液冷對(duì)配電的影響是連鎖的。首先是機(jī)柜側(cè)功率密度上去了傳統(tǒng)的列頭柜加電纜的方案在很多場(chǎng)景下不夠用了母線槽直供或者一體化配電單元成為更常見的選擇。其次是冷卻分配單元的供電它相當(dāng)于液冷系統(tǒng)的心臟一旦失電冷卻液循環(huán)停止芯片溫度會(huì)在很短時(shí)間內(nèi)飆升。所以冷卻分配單元必須納入U(xiǎn)PS保障范圍而且自身要有冗余通常是N1配置。還有幾個(gè)細(xì)節(jié)容易被漏掉。液冷系統(tǒng)的漏液檢測(cè)要跟配電聯(lián)動(dòng)檢測(cè)到漏液應(yīng)該立即告警并在必要時(shí)切斷對(duì)應(yīng)機(jī)柜的供電防止液體接觸帶電部件。二次側(cè)的管路材質(zhì)、水質(zhì)管理、快接頭的可靠性都會(huì)影響長(zhǎng)期運(yùn)行的穩(wěn)定性。配電和液冷這兩套系統(tǒng)在設(shè)計(jì)階段就要一起考慮不能先做完配電再補(bǔ)液冷那樣接口和空間都會(huì)很別扭。我參加過幾次液冷相關(guān)的技術(shù)交流一個(gè)共同的感受是液冷不是簡(jiǎn)單的把風(fēng)冷換成水冷它改變了機(jī)房的功率分布、熱管理邏輯、運(yùn)維流程配電作為配套設(shè)施必須同步演進(jìn)。比如功率密度提高后單位面積的配電容量需求成倍增長(zhǎng)低壓柜的饋線數(shù)量、母排容量、電纜通道都要重新算。7.2 可調(diào)度與不可調(diào)度任務(wù)如何影響配電分區(qū)云計(jì)算和容器化普及之后負(fù)載開始有了可調(diào)度和不可調(diào)度的區(qū)分。不可調(diào)度任務(wù)一般指那些不能隨意中斷、不能隨意遷移的業(yè)務(wù)比如核心數(shù)據(jù)庫(kù)、交易系統(tǒng)、存儲(chǔ)集群的控制面??烧{(diào)度任務(wù)指那些可以中斷、可以遷移、可以排隊(duì)等待的業(yè)務(wù)比如離線訓(xùn)練、批量計(jì)算、視頻轉(zhuǎn)碼、日志處理。這個(gè)區(qū)分對(duì)配電設(shè)計(jì)有很實(shí)際的影響而且很多人沒意識(shí)到這一點(diǎn)。傳統(tǒng)的做法是所有負(fù)載一視同仁都走雙路UPS都按最高等級(jí)保障。但實(shí)際上可調(diào)度任務(wù)完全沒必要花這么多錢。它們可以在電力緊張的時(shí)候主動(dòng)讓出資源甚至在市電切換時(shí)接受短暫中斷任務(wù)重新排隊(duì)就好。落到配電架構(gòu)上可以這樣分區(qū)不可調(diào)度負(fù)載走標(biāo)準(zhǔn)的雙路UPSA、B兩路來自獨(dú)立系統(tǒng)保證任何一路故障都不影響業(yè)務(wù)??烧{(diào)度負(fù)載走一條保障等級(jí)略低的支路可以是單路UPS加市電或者干脆市電加自動(dòng)轉(zhuǎn)換開關(guān)配合機(jī)柜級(jí)計(jì)量和監(jiān)控。當(dāng)市電波動(dòng)或者柴發(fā)帶載時(shí)監(jiān)控系統(tǒng)感知到電力緊張通知調(diào)度系統(tǒng)把可調(diào)度任務(wù)逐步遷移或者暫停釋放出電力給不可調(diào)度負(fù)載。這個(gè)思路的價(jià)值在于它把配電容量和IT調(diào)度打通了讓電力資源可以被動(dòng)態(tài)管理而不是永遠(yuǎn)按峰值配置。實(shí)現(xiàn)上需要幾個(gè)條件機(jī)柜級(jí)的功率計(jì)量要準(zhǔn)調(diào)度系統(tǒng)要能接收電力告警并做出響應(yīng)業(yè)務(wù)側(cè)要能接受任務(wù)中斷和重新排隊(duì)。技術(shù)上不復(fù)雜難的是業(yè)務(wù)側(cè)的配合和流程上的約定。我個(gè)人的判斷是這種電力感知的調(diào)度會(huì)越來越普遍尤其是在電力成本高、容量受限的園區(qū)。配電設(shè)計(jì)如果一開始就把可調(diào)度和不可調(diào)度負(fù)載分開走線、分開計(jì)量后續(xù)做這類優(yōu)化會(huì)容易得多臨時(shí)改造的代價(jià)則很大。7.3 個(gè)人和小型數(shù)據(jù)中心怎么搭一套靠譜配電最后說說個(gè)人和小型機(jī)房的配電。這類場(chǎng)景預(yù)算有限、空間有限但基本的安全和可靠性要求不能省。供電方式一般是單相220V如果設(shè)備多、功率大可以申請(qǐng)三相進(jìn)線。總進(jìn)線的容量要根據(jù)所有設(shè)備的總功率算留出30%以上的余量。服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)設(shè)備加起來算IT負(fù)載空調(diào)、除濕這些單獨(dú)算空調(diào)建議走獨(dú)立回路不要跟IT設(shè)備混在一起。UPS的選擇個(gè)人場(chǎng)景一般1到3kVA就夠了注意要看輸出是純正弦波還是模擬正弦波帶主動(dòng)式PFC電源的服務(wù)器必須用純正弦波輸出的UPS模擬正弦波的可能會(huì)引起電源異響甚至損壞。后備時(shí)間按15到30分鐘配置主要目的是撐過短時(shí)波動(dòng)和給正常關(guān)機(jī)留時(shí)間。線徑和回路要算清楚。常見的參考是16A回路用2.5平方毫米銅線25A回路用4平方毫米32A回路用6平方毫米。插座用工業(yè)級(jí)的普通家用插座長(zhǎng)期帶大電流容易發(fā)熱老化。接地一定要做機(jī)柜、設(shè)備外殼、防靜電地板都要可靠接地接地電阻盡量做到最低。機(jī)柜選擇上12U到22U的小機(jī)柜比較常見注意深度要夠很多服務(wù)器深度超過700毫米淺機(jī)柜裝不進(jìn)去或者后面線纜擠成一團(tuán)。散熱要規(guī)劃好小機(jī)房的常見錯(cuò)誤是把機(jī)柜塞在封閉的儲(chǔ)物間里熱量排不出去設(shè)備溫度輕松超標(biāo)。至少要有進(jìn)風(fēng)口和排風(fēng)口有條件的話裝個(gè)溫控風(fēng)扇或者小型空調(diào)。監(jiān)控方面一個(gè)帶計(jì)量的PDU加一個(gè)溫濕度傳感器就能覆蓋大部分的日常監(jiān)控需求。電流異常、溫度過高能及時(shí)告警比事后發(fā)現(xiàn)問題強(qiáng)得多。另外記得給服務(wù)器配置來電自啟動(dòng)市電恢復(fù)后設(shè)備能自動(dòng)開機(jī)不用人工一臺(tái)臺(tái)去按電源鍵。這些東西看起來瑣碎但真正出問題的時(shí)候往往就是這些細(xì)節(jié)沒做好。我在自己那臺(tái)小機(jī)柜上踩過的坑包括UPS輸出接了帶開關(guān)的插排導(dǎo)致意外斷電、機(jī)柜后面線纜太亂影響散熱、接地線接在了水管上這是絕對(duì)錯(cuò)誤的做法。這些經(jīng)驗(yàn)寫出來希望后來的人能少走點(diǎn)彎路。設(shè)備選型這件事我這些年最大的體會(huì)是不要追求單一指標(biāo)的極致要看整個(gè)鏈路的匹配。一臺(tái)效率特別高的UPS配一條截面不足的電纜整體可靠性還是上不去一套完整的2N架構(gòu)配一個(gè)負(fù)載分配嚴(yán)重不均的末端一樣會(huì)在某個(gè)支路上跳閘。供配電是一套系統(tǒng)工程從進(jìn)線到芯片每一環(huán)都要經(jīng)得起推敲任何一環(huán)的短板都會(huì)成為整條鏈路的瓶頸。實(shí)際做項(xiàng)目的時(shí)候我習(xí)慣在圖紙定稿前把整條鏈路從頭到尾走一遍想象電流是怎么流的、故障時(shí)會(huì)發(fā)生什么、維護(hù)時(shí)怎么隔離走完這一遍很多隱藏的問題自己就冒出來了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美色五月| 久99| 91美女被操| 日本片日本片祼观看网站在线看中文版网页在线看 | 天天摸夜夜爽天天做| 婷婷五月欧美| 人碰人人人玩91| 人妻久久久久久| 精品九九在线观看视频| 色五月91| 在线观看欧美| 97干婷婷| 4399在线观看免费毛片| 六月婷婷青青青视频| 99精品视频在线观看| 五月天开心激情综合网| 3www激情| 五月婷婷综合色啪首页| 婷五月丁香| 操久久精| 影音先锋91资源站| 激情伊人网| 双性美人被调教到喷水A片| 欧美色久| 中文字幕不卡+婷婷五月| 色 五月婷婷基地| 九九热视频精品2| 久久综合播放| ′久久99一| 97人碰人操| 亚洲操B| 久久怕怕视频| 成人网址在线观看| 亚卅毛片| 九九热免费| 99久在线精品99re8| 99久久a线观| 天天性视频| 综合99久久天天综合| 久久激情四射| 色色网91| 五月婷精品| 久久 中文 日本| www.ywav| 成人短视频在线免费观看| 日韩久久日| 免费无码毛片一区二区A片| 久久久97| 色999亚洲人成色| 99热这里只有精品22| 99热精品在线观看| 久久九九热视频| 五月婷婷激情久久| 午夜丁香婷婷| 色五月婷婷7777| 成人无码髙潮喷水A片| 99久久久久| 很很干天天干| 五月Huangsewang| 午夜无码熟熟妇丰满人妻| 日本人妻伦在线中文字幕| 色色婷婷五月天| av在线资源| 夜夜爽天天爽| 丁香五月婷婷影视先锋| 色情五月天丁香社区| 在线资源av-超碰中文在线-成人AV | 色婷婷四色| 久久香视频| av五月丁香| 亚洲欧美日韩另类| 婷婷丁香五月天综合AV| 亚洲激情网站| 五月成人网站| 丁香六月婷婷激情| 综合色色婷婷| 99久久免费精品| 成人丁香五月| 婷婷丁香五月亚洲17cao| 五月天婷婷久久| 九九AV| 欧美成人AAA片一区国产精品| 五月美女婷婷风骚| 精品人人操| 色综合爽| 五月婷婷婷丁香播| 大香蕉520| 婷婷五月花| 欲求不满的人妻| 99九九热视频| 丁香五月六月激情| 思思热99热| 国产99久久久国产精品免费看| 五月婷婷综合成人| 日本熟女三区| 97九色视频| 性做久久久久久久免费看| 久久99热网| 丁香五月婷婷综合91| 4399在线观看免费高清黄色视频| 五月开心婷婷| 97啪啪| yw.av| 九色视频91| 婷婷五月天成人动漫 | 亚洲性受XXXX五月丁香| 狠狠色综合精品视频在线| 久久婷婷91| 五月天开心色色网| 狠狠色丁婷婷日日,伊人激情综合网| 婷婷情色激情| 精品无码久久久久久久久| 成人AV综合在线| 免费视频舔| 女高怪谈在线观看| 在线免费视频caop| 2020久久婷婷五月| 99热在线播放| 永久思思热在线| 很很干天天干| 婷婷色资源| 日日操夜夜爽白洁| 99亚州综合精品成人网| 日韩另类| 激情六月丁香| 婷婷情色五月天| 26uuu另类亚洲欧美日本一| 婷婷五月天av| 99人妻碰碰碰久久久久禁片| www.色五月.com| 日韩三级视频一区二区| 噜噜色噜噜网| 成年视频免费观看| 天天做天天爽| 欧美久久网| 五月婷婷激情久久| 综合网网欲色| 99热这里只有精品9| 337久久| 丁香六月中文| 免费视频在线观看的网站| 亚洲天堂热| 99精品视频在线观看| 91av传媒高清在线视频网| 97人人干| 国产精自产拍久久久久久蜜 | 日日噜噜夜夜狠狠久久丁香六月| 欧美日韩五月婷婷| 狠狠色五月| 99热99思午夜精品| 婷婷娌伦网| 日本欧美啪啪| 九九色图| 色婷网| 99热碰碰热| 亚洲无码yw| 99热97| 五月婷婷狠狠久久| av久热| 九九五月天| 丁香五月激情婷婷| 欧美综合在线五月天色婷婷| 婷婷五月丁香激情图片| 日本三久久| 婷婷丁香色情| 偷偷与邻居做爰完整视频| www.天天干.com| 天天天天操| 最新激情五月天| www.夜夜操| www.狠狠操.co m| 久久99国产综合精品免费| 久久久五月激| 成人电影AV在线观看| 色婷婷激情| 91干| 久久加勤综合| 日本婷久久| 99精品久久久久久久婷婷| 久久婷婷色色| AⅤ色区| 激情综合丁香六| 欧美va在线| 婷婷综合九月| 成人无码髙潮喷水A片| 色狠狠色狠狠| 婷婷久久综合久| 婷婷五月天小说| 一级A片天天操夜夜操| 久久婷鲁| 99爱视频在线观看| 婷婷深爱五月| 男人综合网| 日韩精品99久久| 97热精品| 五月婷导航| 九九色播五月丁香| 久热精品免费视频4| www.com五月天| 五月天激情黄色小说在线观看| 成人做爰A片免费看视频| 中文字幕色色色| 伊人五月天97| 99热传媒| 婷婷五月激情五月激情| 丁香五月天社区| 婷婷久久久久久久| 日本97在线视频| 大陆极品少妇内射AAAAAA| 天天撸天天干天天插| 天天日夜夜欢| 丁香社92视频| 婷婷五月花| 五月综合在线| 丁香五月欧美色综合| 婷婷涩涩五月天| 黄色国久久| 日本三级中国三级99| 激情五月综亚网| 综合激情专区| 99热在线播放精品| 日韩AV中文在线观看| 激情丁香五月| 五月婷婷综合丁香视频| 性色99| 4399成人黄A片| 超碰97色| 91美女啪啪| 婷婷五月激情综合| 色五月在线播放| 国产成人99久久亚洲综合精品| 丁香婷婷六月激情文学 | 婷婷色中文字幕| 99热传媒| 99视频热99| 久久久久9| 九九热精品视频在线观看| 日本熟妇人妻在线| 激情影院免费视频婷婷五月天| 九九操操| 丁香花色色网| 婷婷激情小说网| 久9热视频| 亚洲欧洲一二| 丁香五月电影院在线观看| 97夫妻超碰| 91碰碰碰| 屁股翘好撅高迎合跪趴| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 18av天堂| 婷婷综合五月天激情| 婷婷久久综合久| 伊人玖玖精品| 超碰免费人人| 丁香五月婷婷综合视频| 这里只有精品99www| 久久网站免费亚洲| 99r久久这里只有精品| 婷婷中文字幕| 丁香五月第九色| 色色色99韩| 一区二区中文字幕| 五月综合亚洲婷婷| 深夜激情网| 99re这里只有精品在线观看| 狠狠色综合网站久久久久| 黄页大全十八禁| 午夜性爱影视一区77| 26uuu淫色| 五月天开心婷婷久久| 这里只有精品热| 天堂爱爱| 五月激情综合深爱| 99这里有精品视频| 五月天另类激情在线| 天天操综合网| 久cao香蕉影院| 五月婷婷性爱网| WWW久久99久久99久久| 狠狠久综合| 性色av大香综合| 在线另类视频| 五月综合激情综合久| 丁香五月天视频在线播放| 婷婷开心激情五月激情网| 五月丁香在线看| 天天插天天射| 色婷婷五月天| 性爱激情小说AV五月丁香花| 婷婷日在线观看| 狠狠色丁香婷婷综合久久97AV| 视色综合| 五月婷婷综合在线| 欧美日韩中国| 五月色丁香综合| 丁香婷婷伊人| 精品人妻一区二区三区四区不卡在| 这里只有精彩视频| 99热精品超碰| 色播五月婷婷综合| 开心五月婷婷| 99综合五月免费视频色婷婷| 日本久热| 伊人啪啪网| 五月色婷| 97超碰在线观看免费| 91在线日| 精品久久艹| 亚洲色五月| 天堂久久久久天堂网| 色久影院| 人妻久久久久久久久久久| 五月激情综合网| 97超碰,人人舔,人人操,人人摸| 91精品又长又大又粗又爽又猛| 五月丁香激情综合啪| 狠狠插日日干撸| 五月天啪啪| 国产精品成人网址| 亚洲第一色色色色| 婷婷五月综合在线| 丁香婷婷色情| 99精品福利视频| 色综合五月天| 9999久久久久| 五月婷网| 婷婷大乡焦噜噜| 婷婷五月色影视先锋| www.maotanji.com| 亚洲va综合va国产va中文| 丁香五月天电影| 成AV人片一区二区三区久久| 91婷婷在线| 九九热精品视频九九| 99爱视频在线| 就是色婷婷五月亚洲色| 丝袜人妻| 玖玖婷婷综合| 色婷婷激情| 日日夜夜亚洲一区| 五月天狠狠草| 婷婷色综合网日韩国产| 久久这里只有精品22| 九九热精品| 五月丁香婷婷成人版| 天天操,夜夜骑| 国产做A爰片毛片A片美国| 亚韩在线视频| 五月丁香精品| 色色五月婷| 超碰二区| 欧美精品99久久久| 99亚州综合精品成人网| 91操人视频| 天天操B| se99热久久一本| 激情五月狠狠| 超碰97色| 色综合五月| 久久99网| 97亚洲婷婷| 大香蕉人人网| 99福利导航| 色五月婷婷影院| 操骚货在线| 九月丁香欧美综合| 欧美99视频| 色五月婷婷AV| 婷综合| 超碰免费人妻| 色五月激情综合网| 五月丁香在线婷婷蜜桃| www网站在线观看| 欧美va在线| 亚洲另类AV| 中文av网| 成人五月天在线观看| 99这里| 日韩三级片一区二区| 色色色综合网| 79色色色色| 午夜av网| 夜夜操天天干| 99色热综合| 夜夜AVV| 夜夜操狠狠操| 99久久免费性爱视频`| 人妻中文在线| 色人妻五月| 97人妻碰碰碰久久| 一级黄色影片| 无码区婷婷五月花开| 97在线视频人妻九色| 久久六月综合| 五月婷婷av| 人人人操| 日韩ww| 六月丁香网| 激情网站五月| ai97re99一本| www.婷婷五月| 激情婷婷五月天日本系列 | 人妻无码精品一区| 色综合色色| 九九在线热九九在线热99热| 情色婷婷五月天| wwW天天干| 五月婷婷综合色啪首页| 天天色宗合| 五月婷婷色情| 天堂A∨在线| 91精品国产综合久久久不卡电影| 午夜婷婷久久 | 色五月婷婷天天干| 激情 婷婷| 久久激情综合| 天天做天天爽| www,五月天激情| 7777激情基地| WWW.久久久久久久久久久久久| 婷婷色网| 婷婷五月丁香91| xx综合网| 婷婷偷拍网| 伊人激情网| 五月天婷婷影院| 亚洲国产99| 情欲综合网| 六月丁香停| 成人五月丁香花| 在线成人网站| 99爱在线视频| 婷婷五月天激情丁香| 久久久久亚洲A∨成人乱码电影| 操逼综合网| 熟女少妇内射日韩亚洲| 婷婷色综合| 天天插天天射| 99热这里只有精品4| 亚州激情在线视频| 都市激情久久| 亚洲精品视频在线播放| 五月天丁香久久| 国内精品99| 五月天婷婷成人网| 色五月综合网| 九九色色| 九色婷婷| 久热9| 日日干天天射| 9 1超碰九色| 天天爱天天爽| 激情婷婷五月天| 婷婷五月激情视频| 五月色丁香视频精品| 欧美色小说婷婷| 六月色日韩| 色婷婷五月影视| 欧美色宗和激情| 日本女人久久| 91久久| 色婷婷五月影院| 色站9/| 婷婷天堂综合网| 婷婷中文字幕欧美| 婷婷五月丁香激情图片 | 麻豆雪千夏| 九九热精品| 99热综合网| www.婷婷五月| 91人人操人人爱| 1024操逼视频| 日本99热| 嫩草AV久久伊人妇女超级A| 亚洲精品亚洲人成人网| 国产真实乱了老女人视频| 天天综合色| 一本色道久久88综合日韩精品| 日日夜夜天天| 操逼视频网址| 中文AV在线观看| 色狠狠综合网| 蜜乳.comcom| 天天日人人爽| 五月丁香六月婷婷操操操| 青青草成人网| 综合婷婷| 97爱艹婷婷开心丁香激情综合| 天堂久久久久天堂网| 久热99久热| 九月激情综合| 激情五月婷婷网在线观看| sewuyuejiqingwang| 天天日天天干天天插天天射| 天天干天天干天天干| 激情五月丁香五月| 欧美天堂婷婷日韩| 天天搡日日搡aaaaⅩ| 亚洲色9| 中文字幕日韩无码制服诱或| 无码操B| 久久人操| 岛囯综合激情网| AV在线收看| 亚洲激情网| 久久久99精品| 91九色精品熟女内射| 国产又爽又猛又粗的视频A片| 99精品丰满| 丁香五月网址| 激情性五月天免费小说视频| 婷婷五月综合在线| 伊人青涩网| 九九精品热| 五月丁香久久丝袜啪啪| 淫视馆aV二区一区| 亚洲婷婷综合视频| 99热久久这里只有精品| 97色色色| 五月天婷婷婷| 激情综合5月| 激情伊人五月天| 天天爱天天操| www.97碰碰com| 9久热这里只有精品视频| 亚洲精品99| 色婷五月天| 亚洲婷婷丁香五月| 天天干天天操天天干天天操天天干天天操| 婷婷99视频精品| 91|疯狂丨高潮丨对白| 丁香婷婷五月综合影院| 天天插天天插天天插| 99性色| 色青五月天| 丁香六月婷婷高清| 五月天婷婷基地| 成人啪啪色婷婷久| 黄色AAAAA| 午夜少妇在线观看视频| 免费AAAAA网| 七七色色综合| 大香蕉人人网| 久久这里有精品视频| www.夜夜操| 丁香婷婷性爱| 色五月色五天色情网| 91精品视频男人的天堂| 五月丁香做爱视频| 麻豆AV一区二区三区| 成人五月天综合网| 淫视馆aV二区一区| 在线观看的av| 99热e| 天天综合网~91| 久久久久久久久久人妻| 久久免费高| 综合色五月天| 亚洲亚洲人成综合网络| 涩涩涩婷婷| 五月激情综合网| 99热只有精品综合| 五月丁香啪啪综合| 天天综合久久| 色婷五月天| 五月婷婷丁香啪啪| 亚洲操人| 情情五月天色| av网站免费在线| 五月天激情美女久久| 九九99九九精品免费| 五月丁香花伦理电影| 精品一二三区久久AAA片| 国产亚洲精品人人| 亚洲欧美在线观看| 亚州AV超碰人人操| 日本视频欧美观看免费| 九九色大香蕉| 99 热国产在| 色五月亚洲| 天天 青草 制服丝袜 在线 | 襙逼网| 69凹凸成人综合网| 久久五月天色| 亚洲婷婷丁香| 99热99色| 亚州性爱99| 97人人操人人操人人操人人| WWW.99视频| 婷婷操逼| 日韩成人精品中文字幕电影| 久久久久久人妻久久久久久久久久人妻久久久 | 97在线精品视频| 久久六月天| 婷婷舔| 日本WwW色偷偷丁香花久久久京东热| 婷婷五月激情在线| 综合狠狠干| 思思热这里只有精品| 五月丁香六月激情综合啪啪| 丁香五月婷婷高清| 国产激情久久| 久热a| 婷婷激情五月天小说| 色情五月婷婷| 一本综合丁香日日狠狠色| 久久伊人婷| 99热综合| 丁香激情综合| 婷婷第六色| 狠狠色丁香乆乆| 婷婷久月| 蜜乳A√| 欧美色色色色色色| 欧美成人精品三区综合A片| 综合五月激情| 日本va欧美va欧美va精品| 精品成人在线| 亚洲五月婷婷| 99热这里只有免费精品| 久久久人妻久久久| OUMEIRIHANCHENGREN| 婷婷五月天小说网| 婷婷五月丁香在线视频| 5月婷婷6月丁香aV| 亚洲色图45p| 极品人妻VIDEOSSS人妻| 91se在线视频| 五月丁香在线综合| 99热 免费| 国产成人AV在线播放| 成人片黄网站色大片免费毛片| 激情五月天小说网| 激情丁香五月激情婷婷| 婷婷五月成人| 亚洲无aV在线中文字幕 | 五月香六月婷| 99久久a线观| 色婷婷丁香九月| 日韩青青| 亚洲精品99| 综合色五月| 激情五月天伊人影院| 久er7久热| 婷婷午夜激情| 熟女91九色| 婷婷综合玖玖五月| 五月丁香婷婷成人网| 中文AV网站| 美国十月色婷婷在线观看| 激情 婷婷 丁香五月天| 99re热| 婷婷伊人久久| 亚洲色图45p| 亚洲黄色av网站| 激情五月天久久| 五月婷婷综合网| 99re思思热久久| 久久精品99久久久久久| 十一月婷婷激情四射| 九九久久视频| 一区二区三区四区无码| 激情影院免费视频婷婷五月天| 91超级碰碰碰| 丁香花色色网| 日韩ac不卡无码| www.黄色片-久久成人国产精品在线播放-999AV | 开心五激情网| 成人婷婷五月| 五月婷六月天| 五月激情综合深爱| 久久精品亚洲一级牲爱综合| 婷婷丁香综合成人| 欧美激情-区二区三区| 婷婷五月色丁香在线看| 五月色俺婷婷| 丁香五月天在线| 亚洲色情在线| 激情噜噜噜| 九九无码| 97精品欧美91久久久久久久| 色五月激情网| 五月丁香网站| 欧美性生交XXXXX无码小说| 欧美日韩欧美| 97操资源婷婷| 日韩精品一区二区刘| 亚洲AV无码成人精品电影| 午夜丁香综合婷婷| 色欲天天综合网| 丁香婷婷六月激情文学| 无码G高清天| 狠狠色综合网站| 丁香五月另类小说| 久久总和99| 九九视频在线| 日韩在线看AV| www.久久爱.c n| 影音先锋一区| 操笔无码| 五月天激情www| 婷婷丁香九月| 九九色色| 人妻操日日| 久久婷婷色| 狠狠干总合| 婷婷操婷婷干婷婷射| 美欧日韩国产成人在战| 五月天激情四射| 狠狠干.com| 久久精品综合色| 久久机热这里只有精品免费视频| 亚洲另类久久| 久99综合婷婷| 国产精品第一国产精品| 玖玖婷婷精品| 夜夜噜夜夜奇| 久久婷婷久久| 国产肥白大熟妇BBBB视频| 色吊丝av中文字幕| 丁香六月婷婷综合激情欧美| 六月婷婷九月丁香亚洲综合| 九九碰九九爱97| 操碰色一区就去操| 91丨九色丨白浆秘| 婷婷丁香五月天在线| 丁香五月欧美激情| 大香伊人久色| 欧美99热| 狠狠操狠狠操AV| 久热伊人| 色婷婷丁香九月| 色综合久久天天综合网| 天天摸天天肏| 色婷婷人人| 538在线| 婷婷五月天综合AV| 激情五月天久久| 99视频内射三四| 直接看的AV| 专区无日本视频高清8| 大伊香蕉玖玖爱| Jh7Uf088VHafNm| 色综合色综合网| 九九热99在线视频| 五月天婷婷色小说| 色色色色色色网| 九月久久婷婷| 色婷婷AV久久久久久久| 国产毛片欧美毛片久久久| 久久婷婷五月丁香网| 66精品成人免费网站在线观看| 96丁香六月婷婷蜜桃综合久久| 性爱激情小说AV五月丁香花| 五月婷丁香亚洲| 91色久| 婷婷99狠狠躁天天躁中| www.99热这里只有精品| 久久99大| 五月婷婷深爱六月| 乱精品一区字幕二区| 日本三级大片| 欧美97色| 香蕉狠狠爱视频| 天天日天天爽| 国产亚洲av片| 激情五月天电影| 91大屁股在线| www久热com| 爱爱网址9| 五月丁香六月婷婷不卡免费无码 | 337p大胆噜噜噜噜噜91Av| 激情丁香五月| 99色五月| 超碰九九热| 99在线免费视频| 成人网址在线观看| 任我鲁这里有精品视频| 97se视频在线| 久久性刺激| 91九九热| 开心五月婷婷在线| 91919191919久久成人视频| 五月天婷婷久色| 欧美丰满熟妇BBB久久久| 激情欧美婷五月| 四LLL少妇BBBB槡BBBB| 777丁香六月青青草婷婷综合久月| 激情五月天综合网| 丁香久久五月天视频在线观看 | 久久hd| 久9无码视频| 色九月婷婷综合| 婷婷亚洲影院| 综合在线网| 亚洲精品又粗又大又爽A片 | 1995年关宝慧版蜘蛛女| 久久综合55| 国产偷人妻精品一区| 欧美日韩国产伦精品日韩人妻一| 国产精品社区| 激情五月天啪啪视频| 性一交一乱一交A片久| 噜噜噜噜在线| 99在线播放| 成人一级片| 另类激情五月天。| 丁香香蕉射射射| 久久九九视频| 激情六月丁香| 中文字幕按摩做爰| www,av好吊操| 色婷天天| 国产1区2区3区在线观| 99色色| 丁香五月婷综合网| 久久精品9| 99综合网| 开心激情五月天网| 日韩啪啪视频| 99热思思| 操啊操av| 丁香婷婷五月综合影院| 天天做天天爱天天高潮| 五月婷婷伊人在线| 天天色天天射天天日| 亚洲成av人影院| 天天色视频| 丁香亭亭久久| 婷婷丁香黄色| 99热免费| 九九無妻| 婷婷免费成人视频| 综合久久久婷| 风流少妇A片一区二区蜜桃| 国产精品人人妻人人爽| 国产激情综合五月| 丁香六月婷婷开心婷婷网| 99精品综合| 久久婷婷综合五月趴| 久99视频| 久久精品日| 激情综合婷婷| 婷婷激情六月视频| 狠狠擼综合| 99热国内精品| 午夜成人av在线| 久久久人妻| 亚洲激情五月天| 五月婷婷这里都是精品| 日本美女上人| 婷婷综合伊人| 亚洲熟妇AV乱码在线观看| 色欲午夜无码久久久久久张津瑜| 五月婷丁香久久久| 激情综合啪啪| 婷婷欧美激情| 天天爱天天天射AV| 日本综合色图| 女婷久久| 99爱精品| 婷婷激情五月色综合| 综合激情开心五月| 操久久网| 成人网站av免费网站推荐| 91九色PORNY肉丝在线| 久久香蕉网| 大香蕉九九| 美国十月色婷婷在线观看| 婷婷香五月| 夜夜做天天爽| 五月激情四射婷婷丁香| 久久六月天| 天堂综合久| 激情丁香五月天图片| 超碰九热| 五月婷婷六月激情| 欧美性色A片免费免费观看的| 亚洲日日操| 欧美婷婷日本| 99热免费精品| 五月丁香成年黄色| 欧洲亚洲精品| 五月婷婷色激情| 丁香婷在线| 996热re视频精品视频这里| 五月六月激情婷婷| 婷婷另类开心| 色爱综合视频| 色五月婷婷少妇人妻| 激情五月,色五月| 热99这里只是精品| 五月丁香婷婷爱激情综合网| 婷婷丁香五月综合| 丁香五月综合高清在线| 99综合色色色| 色99视| 天天操天天操综合| 九九在线免费观看| 婷婷五月色网| 亚洲精品激情| 99热综合| www.精品99| 97色色综合| 婷婷五月色| 国产做A爰片毛片A片美国| 亚洲视频一区| 九九精品丁香花| 婷婷丁香www视频日本韩国| 激情久久丁香| 婷婷色情网| 99热 这里只有精品 国产 日韩| 五月花婷婷在线精品视频| 99热热九九| 操丝袜视频影院导航| 亚洲va欧洲va国产va不卡| 婷婷亚洲综合| 九月婷婷| 九九九九精品精| www.婷婷五月天,com| 亚洲超级碰| 超碰人妻在线| 日日干夜夜撸夜夜骑| 激情小说 五月天| 免费亚洲婷婷五月| 丁香婷婷久久 | 只有精品在线观看| 色五月丁香激情视频| 久久九九蜜| 日本女人久久| 久久久五月天| 好叼操在线观看| 激情九月天天天天婷婷| 五月色婷婷在线观看| 嫩BBB槡BBBB搡BBBB视频| 综合久久99| 五月天久久婷婷| 9热超碰| www.jiujiujiu| 天天爽—爽| 婷婷丁香五月亚洲免费| 五月丁香激情四射| 97在线观视频免费观看| 99热插| 激情99。| 综合色色婷婷| 中文字幕乱码亚洲精品一区| 久热婷婷在线视频| 亚洲第一色网站| 久久美女五月天| 亚洲色啪| 亚洲人人操| 色婷婷丁香五月天在线视频| 这里只有精彩视频| 亚洲五月天激情| 狠狠se| 午夜爱爱爱成人| YJLZZJLZZ亚洲乱熟无码| 亚洲色无码A片一区二区麻豆| 婷婷激情四射网| 婷婷五月天激情综合深爱| 日本不卡中文字幕| 久婷婷久草| 五月天色婷婷激情综合| 人人草人人看| 亚洲深喉aV| 激情五月天视频| 五月色综合网| 草草女人亚洲| 99re热精品在线视频| 六月婷婷中文字幕| 五月Huangsewang| 99综合视频一体| 婷婷五月天天天| 中文字幕免费高清电视剧| 天天噜日日噜综合无码| 噜噜久| 国产精品久久久久久久久久免费| 日韩 中文 欧美| 99er精品视频| 国产人妻777人伦精品HD| 五月天大香蕉| 综合性爱网| 91jiuseshunv| 人人操人av| 最近中文字幕2019视频1| 色综合激情| 色婷婷丁香五月| 99精品久久久久久久久| www.日日夜夜| wwwss在线观看| 色五月婷婷中文字幕在线观看| 来吧亚洲综合网| 久色大香蕉| 丁香婷婷伊人| 婷色天堂| 丁香五月在线观看综合| 亚洲视频在线观看| 梁铮版《蜘蛛女侠》在线| 激情色色| 日韩黄黄| 久久婷婷亚洲| 99ri在线| 99热99在线| 97人人操在线| 嫩草视频在线观看| 99在线免费视频| 日韩在线9| 99热久草| 91狠狠色| 爱射综合| 五月天婷婷久久| 丁香五月精品视频| 久久九九综合| 91fuliwang| 中文在线视频久1| 超碰京东热av男人的天堂| 99热这里只有精品86| 激情骚五月| 婷婷五月天综合在线| 在线看黄色| 亚洲综合另类| 91精品久久久久久久| 99热91| 五月丁香六月婷婷,婷| 激情深爱五月天| 天天模,夜夜模夜夜爽| 精品人妻一区二区三区在| 日本va欧美va欧美| 婷婷色基地在线看 | 六月婷婷私欲| av婷婷丁香| 五月婷婷开心网| 99九九精品视频| 色激情五月天| 国产精品色色色色| 日本欧美999久久久三级片| 婷婷五月天激情电影小说| 67194中文字幕| 99在线精品观看99| 婷婷五月天激情综合婷婷五月天激情综合| 国产真人做爰视频免费| 性天天中文网| 日韩av在线免费观看| 99re8这里只有精品99re8热视频| 熟女重口味αV| av操B网站| 九热免费视频| 99热热九九| 免费日本aⅴ中文字幕| 五月婷婷六月丁香玖玖玫瑰91| 久久激情网| 五月天久久婷| 婷婷狠狠操| 亚洲avjiujiur91| 色天使色综合| 丁香综合网| 五月丁婷婷| 嫩草视频观看| 久久女婷| 五月天婷婷无码| 开心五月六月婷婷| 激情五月天.色网| 婷婷五月天成人网| 欧美婷婷五月天综合| 免费黄色AV| 成人.在线日韩| WWW.99视频| 国产美女最新VA在线免费观看| 五月婷婷婷| 大地资源色婷婷视频在线| 狠狠综合网| 色。 日日日| 国产av基地| 西西4r午夜剧场| 99欧美| 79精品视频| 99精品视频在线免费观看| 婷婷五月丁香色播| 国产亚洲成AV人片在线观黄桃| 热久久这里只有精品| 欧美va国产va| 成人av在线网址| 丁香五月婷婷国产av| 五月婷婷色| 99精品热| 99久久综合精品五月天| AV九九| 色色色色色综合| 超PEN精品在线| AV大香蕉| 夜夜爽天天爽| 26uuu亚洲欧美| 天天色情站| 99A级片| 91碰操| 人与禽A片啪啪| 国产成人网| 99免费在线视频| 懂色AⅤ| 五月天开心色情网| 色情综合网| 色色色色色五月丁香| 色天使色综合| 国产又爽又猛又粗的视频A片 | 性爱五月婷婷| 99久操视频| 丁香婷婷综合激情五月色| 日韩成人网址| 99操无码视频观看| 开心五月婷婷婷美女| 26UUU在线观看| 夜夜骑操AV| 成片免费播放| 激情综合九月| www.综合久久.com| 91操在线| 玖玖综合色区在线观看| 9久热精品在线视频| 色优久久| 大香蕉五月天婷婷| 日本色五月| 婷婷五月丁香五月| 色狠狠综合网| 色综合久久99色| 久久丝袜婷婷| 99久在线精品99re5热视频| 五月丁香另类图片| 婷婷五月无码| 五月亭亭六月天| 久久婷婷综合五月趴| 久久五月综合| 婷婷开心久久| 婷婷五月亚洲一本在线丁香| 婷婷五月天激情丁香| 丁香五月激情无码视频| 午夜电影网VA内射| 有哪些A片网站| 天天爱夜夜爽| 丁香六月情| 丁香五月天亚洲视频| 91日视频| 婷婷久久网| 五月婷婷丁香五月| www.夜夜| 人与禽A片啪啪| 五月天社区婷婷| 操草草草| 探花搜索结果 - 黄上黄| 婷婷五月色图| 日本三级黄色大片| 伊人久久激情图区五月| 国产在线6| 天天舔天天| 噜噜色com| 久9热视频| 综合激情视频| 97碰碰碰免费公开在线视频| 亚洲免费综合一区| 久久天堂色| 97人人做| 丁香五月丐人妻| 狠狠干 狠狠操| 五月丁香综合在线| 天天操B| 97久久视频| 99riAV成人在线视频| AV在线收看| 婷婷五月色| 最新五月天婷婷影| 啄木鸟丝袜美女福利视频| 丁香五月先锋| 99久re热视频精品98| 欧美天堂婷婷日韩| 久久婷婷夜| 99热这里只有精品268| 91人妻视频| 男女免费视频999| 天天日天天操心| 蜜乳AV成人| 色情五月综合婷婷| 激情都市五月天| 天天色粽合合合合合合合| A久久| 色婷婷亚洲综合天堂| 久久婷婷网| 丁香5月综合啪啪| 五月丁香综合| 疯狂做受XXXX高潮A片| 欧美月久久| 欧美激情五月天婷婷| 久久一热| 五月婷婷色播| 久久五月天丁香| 九九国产精视频| 天堂草在线看www| 26uuu| 在线sebiav精品视频| 99视频内射三四| 最新丁香六月婷婷| 国产亚洲在线| 亚洲综合另类| 丁香婷婷五月六月天| 久久久8| 九九热内射| 五月色丁香综合| 久久色亭亭五月天| 草草夜夜操| 日韩成人综合网| 五月婷婷综合在线视频小说| 日韩 中文 欧美| wwccc久久久| 丁香狠狠色婷婷| av免费在线看不卡无毒| 婷婷精品视频| 五月在线| 超碰在线观看三级片| 99久久久久| 丁香五月成人av| 国产欧美性成人精品午夜| 51XX午夜影福利| 丁香涩涩爱| 少妇AB又爽又紧无码网站| 九九九热精品| 99热这里只有精品4| 538在线精品| 99热在线爱| 九月综合| 中文字幕久久婷九女同| www.夜夜夜| 五月丁香六月在线| 久久综合色五月| 欧美日韩aaaa| 国产亚洲精品久久久久苍井松 | 99久久9| 亚洲爱婷婷| 丁香五月无码| 一二线视频 另类| anquye伊人| 欧洲亚洲精品| 丁香六月婷婷开心| www久久艹| 大香蕉 伊人夜| 五月花在线观看视频| 99久久喉9| 色婷婷丁香五月天激情综合网| 99精品在线| 五月天无码| 伊人啪啪网| 91啪啪视频| 情色五月天网站| 日韩 中文 欧美| 国产色网站| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 五月色丁香婷婷综合| 五月天激情子轮| www.第四色99| 天天舔天天摸天天透| 极品精品一区二区三区在线| 九九久久99| 婷色影院| 色婷婷五月天不卡| 五月天堂六月丁香亚州中文字幕久久| 这里只有精品免费视频在线观看| 91麻豆国产三级精品福利在线观看| 婷婷成人小说综合|