免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

從Dockerfile到Compose與私有倉庫:容器交付鏈路避坑指南

從Dockerfile到Compose與私有倉庫:容器交付鏈路避坑指南 Dockerfile 自定義鏡像、Docker Compose 編排、Docker 鏡像倉庫這三件事幾乎是每個后端或運維同學繞不開的一組基礎能力。單看每一個都不難難的是把它們串成一條順滑的交付鏈路代碼改了鏡像能穩(wěn)定重建本地跑通換臺機器也能一鍵起來鏡像推到倉庫別人拉下來不會因為標簽亂飛而拉錯版本。我見過太多項目卡在中間某一環(huán)——Dockerfile 寫得像流水賬、Compose 文件復制粘貼改了三個月沒人敢動、私有倉庫起了一個卻因為證書問題全組改用別的方式傳鏡像。這篇就把這三塊按我實際踩過的順序拆開講從分層緩存的底層邏輯到 Compose 的健康檢查寫法再到私有倉庫的 TLS 配置和存儲回收每個環(huán)節(jié)都給出能直接抄的參數(shù)和命令也會說明我為什么這么選。剛接觸容器的新手可以照著做一遍已經(jīng)在用但總覺得別扭的老手大概率能在避坑那幾節(jié)找到共鳴。1. 先把三個東西的邊界理清楚很多人上手就把這三樣東西混在一起學結(jié)果腦子里是一鍋粥。我用一句話概括它們的分工Dockerfile 負責造Compose 負責組倉庫負責存和分發(fā)。造出來的東西要能被組起來組起來的東西要能被別人拿到這三步是一條線上的三個節(jié)點任何一環(huán)偷懶后面都會加倍還回來。1.1 一條鏡像從代碼到運行的完整鏈路我把一次完整的交付拆成六步你對照自己的項目看看斷在哪一步。第一步開發(fā)者本地寫代碼改完提交第二步CI 或者本機執(zhí)行docker buildDockerfile 逐條指令生成一層層文件系統(tǒng)快照最終產(chǎn)出一個帶標簽的鏡像第三步docker push把鏡像分層推到倉庫注意只有本地不存在的層才會真正上傳這也是為什么第二次推送往往快得多第四步目標機器docker pull按 manifest 里的 digest 把各層拉下來組裝第五步Compose 讀取 yaml創(chuàng)建網(wǎng)絡、掛載卷、按依賴順序起容器第六步健康檢查通過流量切進來。這條鏈路上有三個時間點特別關鍵構建時的緩存命中率、拉取時的層復用率、啟動時的就緒判斷。緩存命中率高構建就從幾分鐘降到幾十秒層復用率高一次發(fā)布只傳改動的那幾十兆就緒判斷做對了滾動更新才不會出現(xiàn)新容器還沒連上數(shù)據(jù)庫老容器已經(jīng)被干掉的尷尬。后面所有優(yōu)化本質(zhì)上都是在摳這三個點。我見過一個典型的反面案例某團隊把COPY . .放在 Dockerfile 第二行緊接著才RUN npm install。結(jié)果每次改一行 README整個依賴安裝層全部失效構建時間穩(wěn)定在四分鐘以上。把這兩行的順序調(diào)過來配合.dockerignore構建時間直接掉到二十幾秒。改動量不到五行收益卻是幾十倍這就是理解鏈路順序的價值。1.2 為什么我勸你徹底放棄 docker commit新手最容易走的捷徑是起一個基礎容器進去apt install、改配置、裝依賴折騰滿意了docker commit一下鏡像就有了。第一次這么干會覺得特別爽但它埋的雷比省的時間多得多。最直接的問題是不可復現(xiàn)。三個月后你需要在這個鏡像上加一個包誰也不知道當初在容器里手敲過哪些命令是改了/etc/apt/sources.list還是臨時下過一個二進制。第二個問題是體積失控commit 會把容器運行期間產(chǎn)生的所有臨時文件、日志、緩存全部固化進去一個本該 200MB 的鏡像能做到 1.5GB。第三個問題是沒有分層每次 commit 都是一整層新的推一次倉庫傳幾百兆團隊網(wǎng)速直接被拖垮。Dockerfile 的價值不在于能構建鏡像而在于它是一份可審查、可版本控制、可被他人復現(xiàn)的構建說明書。誰改了什么、為什么加這個環(huán)境變量git blame一目了然。所以我的態(tài)度很明確除了臨時排查問題任何時候都不要用 commit 產(chǎn)出要交付的鏡像。真要臨時進容器調(diào)試用docker exec -it進去看完就退別把改動當成成果。1.3 Compose 的適用邊界什么時候該上什么時候別硬上Compose 解決的問題是一臺機器上多個容器的協(xié)作關系。典型場景是應用 數(shù)據(jù)庫 緩存 反向代理四五個服務本地開發(fā)、測試環(huán)境、小規(guī)模單機部署都用得上。它的好處是把docker run那一長串參數(shù)固化進文件端口、卷、環(huán)境變量、網(wǎng)絡別名全部聲明式表達新人克隆倉庫就能跑起來不用問你那個數(shù)據(jù)庫密碼是多少。但它有明確的邊界。第一只管單機。多節(jié)點調(diào)度、跨主機網(wǎng)絡、自動擴縮容這些不是它的職責硬要往上疊就得引入額外的編排系統(tǒng)。第二沒有內(nèi)置的滾動更新和回滾docker compose up -d是停舊起新中間有短暫中斷對可用性要求高的服務得接受這點。第三配置漂移難發(fā)現(xiàn)如果有人docker exec進去手改了配置重啟就沒了這既是缺點也是優(yōu)點。我的判斷標準是單機、服務數(shù)量在十個以內(nèi)、不需要跨節(jié)點容災Compose 完全夠用別為了顯得專業(yè)提前上重編排運維成本會反過來咬你。等真的出現(xiàn)多機需求了再遷移那時候你對服務間的依賴關系已經(jīng)摸得很清楚遷移反而快。1.4 鏡像倉庫不只是存鏡像的地方很多人對倉庫的理解停留在能 push 能 pull 就行于是起個最簡陋的服務放內(nèi)網(wǎng)。用著用著就出問題誰都能推 latest某天線上拉到的 latest 和昨天的不一樣磁盤漲到 100% 才發(fā)現(xiàn)沒人清理出了安全問題想查某個鏡像里到底裝了什么版本的基礎鏡像是哪天的無從下手。一個真正可用的倉庫至少要提供四件事訪問控制誰能推、誰能拉、按項目隔離、標簽規(guī)范配合 CI 強制約束不允許裸推 latest、存儲治理保留策略 垃圾回收、可追溯鏡像 digest、推送人、推送時間。前兩項靠流程和倉庫自身能力后兩項靠定時任務。這幾件事在單機 registry 上要自己搭在企業(yè)級方案里通常是現(xiàn)成的。選型的時候別只看能不能跑起來要看半年后誰來維護它。2. Dockerfile把鏡像當代碼寫寫 Dockerfile 的正確心態(tài)是寫代碼——它會被 review、會被 diff、會在半年后被修改。所以可讀性、層數(shù)控制、緩存友好度都得在寫的時候就考慮進去而不是等構建慢到受不了再回頭重構。2.1 分層緩存是理解一切優(yōu)化行為的鑰匙Docker 構建鏡像時每條指令生成一層每層帶一個基于父層 ID 指令內(nèi)容算出來的哈希。構建時逐層比對一旦某層的哈希在本地緩存里存在就直接復用不再執(zhí)行。注意這里的關鍵哈希只跟指令文本和父層有關跟指令執(zhí)行的結(jié)果無關。這意味著只要指令字符串變了哪怕只是多一個空格這層和它之后的所有層全部失效。由此推導出的三條鐵律變化頻率低的指令放前面變化頻率高的放后面把安裝依賴和拷貝源碼徹底分開能用一條RUN干完的事別拆成三條。第三條的原理是每條RUN都是一層層數(shù)多了鏡像的元數(shù)據(jù)開銷變大而且中間產(chǎn)物沒法在同一條指令內(nèi)清理。舉個最常見的 Node 項目寫法我會這樣排FROM node:20-alpine AS base WORKDIR /app # 只拷貝依賴清單源碼變化不影響這一層緩存 COPY package.json package-lock.json ./ RUN npm ci --omitdev npm cache clean --force # 源碼放在最后 COPY . . CMD [node, server.js]npm ci比npm install更適合構建場景它嚴格按 lock 文件安裝結(jié)果確定而且會先清空 node_modules避免上次殘留污染。--omitdev跳過開發(fā)依賴npm cache clean --force在同一層里清掉緩存兩者加起來通常能省一百多兆。對比一下 Java 項目邏輯完全一樣只是清單文件換成pom.xmlFROM maven:3.9-eclipse-temurin-17 AS builder WORKDIR /build COPY pom.xml . RUN mvn -B dependency:go-offline COPY src ./src RUN mvn -B clean package -DskipTestsdependency:go-offline這一句是精髓它把依賴提前拉到本地倉庫形成一個獨立緩存層。實測下來沒加這句時改一行 Java 代碼要重下全部依賴加了之后增量構建基本在十秒級。注意COPY . .之前一定要有.dockerignore否則node_modules、.git、target這些目錄會被打進構建上下文光是傳輸上下文就能耗掉幾十秒而且可能覆蓋掉容器內(nèi)剛裝好的依賴。2.2 指令選擇的細節(jié)賬COPY和ADD的區(qū)別被講爛了但真正要緊的部分是ADD會偷偷解壓本地 tar 包、會去拉遠程 URL這兩個貼心功能會讓構建行為變得不可預測。遠程 URL 的下載不進緩存校驗內(nèi)容變了也不會觸發(fā)重建。所以除非你確實需要解壓一個本地壓縮包否則一律用COPY。RUN的寫法有個流傳很久但其實是錯誤的做法把apt-get update和apt-get install分成兩條RUN。分開寫的話update 那層會被緩存很久等你半年后新增一個包時install 用的是半年前的索引輕則裝到舊版本重則 404 直接失敗。正確寫法是合并成一條并在末尾清理RUN apt-get update \ apt-get install -y --no-install-recommends curl tzdata \ rm -rf /var/lib/apt/lists/*--no-install-recommends能擋掉一大批推薦包rm -rf必須在同一條指令里執(zhí)行否則刪除動作在下一層上一層的大小照樣算進鏡像。ENV和ARG常被混用。ARG只在構建期有效構建完就消失適合傳版本號、鏡像源地址這類構建參數(shù)ENV會寫進鏡像的配置里容器運行時也能讀到適合傳時區(qū)、語言編碼、運行模式。這里有個安全提醒不要把密鑰、令牌通過ARG或ENV傳進去它們會留在鏡像歷史里docker history一條命令就能看見。CMD和ENTRYPOINT的 shell 形式與 exec 形式的差異是信號處理問題的根源。寫成CMD node server.jsshell 形式實際啟動的是/bin/sh -c node server.js你的應用是 sh 的子進程PID 1 是 sh。sh 不會轉(zhuǎn)發(fā) SIGTERMdocker stop發(fā)信號后應用收不到只能等十秒超時被 SIGKILL 強殺優(yōu)雅關閉邏輯全部失效。寫成CMD [node, server.js]exec 形式node 直接是 PID 1信號正常。EXPOSE只是文檔聲明不實際開放端口真正映射靠-p或 Compose 的ports。但它是很好的自描述信息建議寫上。HEALTHCHECK后面在 Compose 那節(jié)細說它在鏡像里定義一次所有用這個鏡像的地方都繼承。2.3 多階段構建一個 Java 服務的體積從 800MB 到 180MB多階段構建是 Dockerfile 里收益最大的一招。核心思想編譯環(huán)境臃腫但只在構建期需要運行環(huán)境要精簡。用多個FROM階段最后一個階段只COPY --from前一個階段的產(chǎn)物。以 Spring Boot 為例不用多階段時通常是把 jar 拷進一個帶 JDK 的鏡像動輒七八百兆。改成下面這樣FROM maven:3.9-eclipse-temurin-17 AS builder WORKDIR /build COPY pom.xml . RUN mvn -B dependency:go-offline COPY src ./src RUN mvn -B clean package -DskipTests FROM eclipse-temurin:17-jre-alpine WORKDIR /app RUN addgroup -S app adduser -S -G app app COPY --frombuilder /build/target/*.jar app.jar USER app EXPOSE 8080 ENTRYPOINT [java, -XX:MaxRAMPercentage75, -jar, app.jar]最終鏡像只有 JRE 加一個 jar實測一般在一百八到兩百二十兆之間取決于依賴多少。里面有幾點值得說MaxRAMPercentage75讓 JVM 按容器內(nèi)存限制的百分比估算堆大小比寫死-Xmx更適應不同規(guī)格的部署adduser創(chuàng)建非 root 用戶USER切過去后面第 2.5 節(jié)細講COPY --frombuilder只搬 jarMaven 的本地倉庫、源碼、編譯中間件一概不帶。前端項目同理構建階段用 node 打包出靜態(tài)文件運行階段換成反向代理鏡像只把dist目錄拷過去鏡像能從 1GB 降到 50MB 左右。這種編譯環(huán)境和運行環(huán)境徹底分離的思路適用面比想象中廣任何需要編譯產(chǎn)物的語言都能用。2.4 基礎鏡像選型對照表與 musl 的坑基礎鏡像選錯后面要么體積下不來要么跑起來就崩。我按常見選項列個對照基礎鏡像類型體積量級優(yōu)點需要注意的地方alpine5–10MB極小攻擊面小用 musl libc某些預編譯二進制跑不了裝包用 apk命令和 apt 不同debian-slim25–40MB兼容性好glibc 完整比 alpine 大一圈包管理器是 apt完整發(fā)行版70–120MB工具齊全調(diào)試方便體積大無用包多distroless類20–60MB無 shell、無包管理器安全性高沒法進容器排查日志全靠應用輸出scratch0絕對最小完全空只適合靜態(tài)編譯的二進制Alpine 的坑值得單獨說因為我踩過。它的 C 運行庫是 musl不是廣泛使用的 glibc。純 Go 靜態(tài)編譯的程序、Python 的解釋器都沒問題但某些依賴 glibc 特性的預編譯二進制比如一些原生擴展、某些數(shù)據(jù)庫客戶端放進去會報not found或者奇怪的符號錯誤排查起來非常費勁因為報錯信息完全不指向根因。我的經(jīng)驗是不確定就先上 debian-slim等確認沒問題再往 alpine 遷。為了省那二十兆搭進去半天排查時間不劃算。distroless適合安全要求高的生產(chǎn)環(huán)境但沒有 shell 意味著出問題時你沒法exec進去看進程、看文件只能靠完善的日志和監(jiān)控。團隊排查能力沒到那個水平之前別用。2.5 安全性收尾非 root、只讀、健康檢查鏡像默認以 root 運行容器內(nèi)進程這在單機開發(fā)環(huán)境問題不大但在多租戶或者對外服務的場景里是明顯風險點。加一個普通用戶的成本極低RUN useradd -u 1000 -m -s /bin/bash appuser \ chown -R appuser:appuser /app USER appuser注意chown要在USER之前完成順序反了會因為沒有權限而失敗。另外創(chuàng)建用戶這一步盡量和后續(xù)的chown合并在同一條指令里避免多一層。時區(qū)是另一個高頻問題。容器默認 UTC日志時間比東八區(qū)差八小時排查問題時對時間戳能對到懷疑人生。做法是裝tzdata并設置環(huán)境變量ENV TZAsia/Shanghai LANGC.UTF-8 RUN ln -snf /usr/share/zoneinfo/$TZ /etc/localtime echo $TZ /etc/timezoneLANG也別漏某些應用在非 UTF-8 環(huán)境下處理中文會出亂碼尤其是日志輸出和文件讀寫。HEALTHCHECK健康檢查在鏡像里定義一次即可HEALTHCHECK --interval30s --timeout3s --start-period40s --retries3 \ CMD curl -fsS http://localhost:8080/actuator/health || exit 1start-period很關鍵它告訴 Docker 在這段時間內(nèi)的失敗不算數(shù)給應用留足啟動時間。沒有這個參數(shù)啟動慢的 Java 服務會被反復判定為不健康。注意檢查命令用的工具必須在鏡像里存在alpine 下curl默認沒裝要么裝要么換成wget。2.6 .dockerignore 與構建上下文.dockerignore是被嚴重低估的文件。它的作用和.gitignore類似但影響的是發(fā)送給 Docker 守護進程的構建上下文。這個上下文在構建開始時會被整個打包傳輸一個帶node_modules的前端項目上下文輕松幾百兆每次構建光傳輸就要幾十秒。我常用的模板.git .gitignore node_modules target build dist *.log logs .env.local .idea .vscode README.md docker-compose*.yml兩個細節(jié)一是不要忽略package-lock.json或pom.xml那是構建必需的二是如果一個文件既在.dockerignore里又被COPY引用構建會直接失敗報file not found很多人排查半天以為是路徑寫錯了其實是忽略了。3. Docker Compose把一組容器當一臺機器用Compose 文件寫得好不好看一個標準就夠了新人克隆倉庫docker compose up -d一條命令所有服務起來并進入可用狀態(tài)不需要看任何文檔。達不到這個標準說明還有環(huán)境變量、依賴順序或者初始化數(shù)據(jù)沒聲明清楚。3.1 compose.yaml 的結(jié)構骨架新版 Compose 已經(jīng)不需要頂層version字段寫了反而會收到一條廢棄警告。基本骨架是這樣的services: api: build: context: . dockerfile: Dockerfile image: registry.internal.example.com/team/api:1.4.2 ports: - 8080:8080 environment: TZ: Asia/Shanghai SPRING_PROFILES_ACTIVE: docker env_file: - .env.docker volumes: - app-logs:/app/logs networks: - backend depends_on: db: condition: service_healthy restart: unless-stopped healthcheck: test: [CMD, curl, -fsS, http://localhost:8080/actuator/health] interval: 30s timeout: 3s retries: 3 start_period: 40s db: image: postgres:16-alpine environment: POSTGRES_PASSWORD: ${DB_PASSWORD} volumes: - db-data:/var/lib/postgresql/data networks: - backend healthcheck: test: [CMD-SHELL, pg_isready -U postgres] interval: 10s timeout: 5s retries: 5 volumes: app-logs: db-data: networks: backend: driver: bridge幾個點展開說。build和image同時存在時docker compose build會按 Dockerfile 構建并打上image指定的標簽docker compose pull則直接拉這個標簽。這個組合在開發(fā)和生產(chǎn)之間切換很方便本地改代碼就 build服務器上直接 pull。environment和env_file可以并存前者優(yōu)先級更高。密碼這類敏感信息放env_file里并把該文件加入.gitignore操作用${DB_PASSWORD}變量引用Compose 會自動從同目錄的.env里讀。restart: unless-stopped是我最常用的策略。always的問題是手動停了也會被拉起來調(diào)試時很煩on-failure遇到正常退出就不重啟有些場景不合適。unless-stopped兼顧兩者崩潰自動拉起手動停止后保持停止。3.2 depends_on 與 healthcheck 的正確組合這是 Compose 里被誤解最深的一處。很多人以為depends_on: [db]就代表等 db 啟動好了再起 api實際上它只保證容器啟動順序db 容器一創(chuàng)建api 容器立刻開始啟動此時數(shù)據(jù)庫進程可能還在初始化、端口根本沒監(jiān)聽。結(jié)果 api 連接失敗重試幾次后放棄日志里一堆連接拒絕。正確做法是配合健康檢查depends_on: db: condition: service_healthy配合 db 服務上的healthcheck定義Compose 會等到健康檢查通過才啟動依賴方。pg_isready這類專用探針比curl更準確因為它檢查的是數(shù)據(jù)庫真實可接受連接的狀態(tài)不只是端口開著。健康檢查的參數(shù)需要根據(jù)服務特性調(diào)。數(shù)據(jù)庫這種啟動快但初始化慢的interval: 10s、retries: 5大概夠Java 應用啟動慢start_period: 40s甚至更長。start_period內(nèi)的失敗不計數(shù)這是給慢啟動服務的保護期設短了會誤判。還有一個常見誤解健康檢查通過只代表進程能響應探針不代表業(yè)務邏輯完全就緒。比如應用可能探針通了但緩存還沒預熱完。這種場景下更靠譜的做法是在應用里實現(xiàn)真正的就緒檢查接口把關鍵依賴數(shù)據(jù)庫連接池、配置加載、緩存連接都納入判斷探針打這個接口。健康檢查的質(zhì)量直接決定編排的可靠性。3.3 網(wǎng)絡、卷與環(huán)境變量的三層隔離Compose 默認會創(chuàng)建一個以項目名命名的網(wǎng)絡所有服務自動加入服務之間可以直接用服務名當主機名互訪。這個默認行為很方便但也容易造成全都通的混亂。我的習慣是顯式定義網(wǎng)絡并分組networks: frontend: backend: internal: true把數(shù)據(jù)庫和緩存放backend應用同時加入兩個網(wǎng)絡反向代理只加入frontend。internal: true讓這個網(wǎng)絡無法訪問外網(wǎng)數(shù)據(jù)庫完全沒有對外出口安全性上一個臺階。卷分兩類命名卷和綁定掛載。命名卷由 Docker 管理存在/var/lib/docker/volumes/下適合數(shù)據(jù)庫數(shù)據(jù)、應用日志這類需要持久化但不方便直接編輯的內(nèi)容。綁定掛載直接把宿主機目錄映射進去適合開發(fā)時掛載源碼實現(xiàn)熱更新volumes: - ./src:/app/src - ./config:/app/config:ro:ro只讀掛載配置目錄防止容器內(nèi)誤改宿主機文件。這個細節(jié)在多人共用一臺開發(fā)機時尤其重要。環(huán)境變量我按三層管理鏡像內(nèi)置默認值ENV寫在不敏感的配置上、Compose 聲明的環(huán)境變量區(qū)分不同環(huán)境的差異項、運行時注入密碼密鑰通過外部文件或編排平臺注入絕不進倉庫。三層各司其職不會出現(xiàn)改個數(shù)據(jù)庫地址要重新構建鏡像這種事。3.4 多環(huán)境覆蓋override 文件與 profilesCompose 支持文件合并compose.yaml加上compose.override.yaml會自動疊加后者優(yōu)先級更高。這個機制天然適合做環(huán)境差異化基礎文件寫通用配置override 寫本機特定的端口、卷、調(diào)試參數(shù)。# compose.override.yaml本地開發(fā)用加入 .gitignore services: api: volumes: - ./src:/app/src environment: LOG_LEVEL: debug ports: - 8080:8080 - 5005:5005 # 遠程調(diào)試端口服務器上不放這個文件就是生產(chǎn)配置本地開發(fā)放進去自動獲得熱更新和調(diào)試端口。也可以顯式指定多個文件docker compose -f compose.yaml -f compose.prod.yaml up -d后者覆蓋前者。profiles解決的是可選服務的問題。比如監(jiān)控組件、數(shù)據(jù)庫管理工具這些平時不需要的服務services: adminer: image: adminer:latest profiles: [tools] ports: - 8081:8080不帶--profile tools啟動時這個服務完全不會被創(chuàng)建不會浪費資源。需要時docker compose --profile tools up -d臨時拉起來。比起注釋掉再取消注釋這種方式干凈太多也不會因為忘記改回來而出事。3.5 我常用的命令清單與排查路徑命令不在多在于用對時機。下面這幾個是我每天都會碰的命令用途使用時機docker compose config展開并校驗最終配置改完 yaml 先跑一遍變量沒解析、語法錯都能立刻發(fā)現(xiàn)docker compose up -d --build重建鏡像并后臺啟動改了代碼或 Dockerfile 后docker compose ps查看服務狀態(tài)和健康情況起完之后確認是否全部 healthydocker compose logs -f --tail100 api跟蹤某個服務日志排查啟動失敗docker compose exec api sh進入運行中的容器需要看文件、驗證網(wǎng)絡連通性docker compose down -v停止并刪除容器與卷需要徹底清空環(huán)境重來docker compose up -d --force-recreate強制重建容器配置改了但沒生效時docker compose config這個命令被嚴重低估。它把變量替換后的最終配置整個打印出來很多時候配置明明改了為什么不生效跑一下就能看到真相——可能是變量名拼錯、可能是 override 文件覆蓋了、可能是.env文件位置不對。排查起不來的服務我的固定順序是先docker compose ps看狀態(tài)是 Exit 還是 Restarting再docker compose logs --tail200 服務名看報錯然后docker compose config確認配置沒被覆蓋最后才考慮進容器。絕大多數(shù)問題在前兩步就能定位直接鉆容器里翻往往是浪費時間。4. 私有鏡像倉庫從單機 registry 到團隊級方案鏡像倉庫這塊很多團隊吃過起步太簡陋、后來遷移成本高的虧。我的建議是先想清楚使用規(guī)模和治理需求再決定投入多少。4.1 先想清楚倉庫要解決什么問題三類需求對應三種方案。個人或小團隊內(nèi)網(wǎng)共享幾十個鏡像兩三個人推拉一個單機 registry 就夠了十分鐘能跑起來維護成本幾乎為零。團隊級使用需要按項目隔離權限、需要知道誰推了什么、需要定期清理這時候得上帶管理界面的方案配置項多但也省心。有合規(guī)或?qū)徲嬕笮枰R像簽名、漏洞掃描、拉取審計日志那就得選企業(yè)級套件前期投入大但后面省事。選型時我最看重的是存儲后端是否可替換。早期的倉庫把數(shù)據(jù)存在本地磁盤用著用著磁盤滿了擴容就得停機遷移。支持對象存儲的倉庫擴容只是改個配置。這一點在起步時容易被忽略等數(shù)據(jù)漲到幾百 GB 才發(fā)現(xiàn)遷移就是一次大工程。4.2 十分鐘起一個可用的私有倉庫單機方案起步極快services: registry: image: registry:2 ports: - 5000:5000 environment: REGISTRY_STORAGE_DELETE_ENABLED: true volumes: - ./registry-data:/var/lib/registry - ./config.yml:/etc/docker/registry/config.yml:ro restart: unless-stoppedREGISTRY_STORAGE_DELETE_ENABLED這個環(huán)境變量一定要開否則后面想刪鏡像標簽會直接被拒絕。配置文件里可以追加保留策略和存儲后端storage: filesystem: rootdirectory: /var/lib/registry delete: enabled: true cache: blobdescriptor: inmemory http: addr: :5000起來之后先給鏡像打上帶倉庫地址的完整標簽再推docker tag myapp:1.0.0 192.168.10.20:5000/team/myapp:1.0.0 docker push 192.168.10.20:5000/team/myapp:1.0.0標簽的完整格式是倉庫地址/命名空間/鏡像名:版本。這里最容易出的錯是忘了加倉庫地址前綴直接docker push myapp:1.0.0會被推到默認的公共倉庫本地私有倉庫里什么都沒有。4.3 TLS 與 insecure-registries 的正確姿勢默認情況下Docker 客戶端要求倉庫必須走 HTTPS。你用 HTTP 起在 5000 端口push 時會看到http: server gave HTTP response to HTTPS client意思很直白客戶端發(fā)的是 HTTPS 請求服務端回的是 HTTP 明文。兩種解法。生產(chǎn)環(huán)境必須用證書把 CA 證書放到/etc/docker/certs.d/倉庫地址:端口/ca.crt客戶端就會信任。自簽證書的關鍵是 SAN 字段必須包含你實際訪問用的地址——很多人簽證書時只填了域名實際訪問用的是 IP照樣報x509: certificate is valid for ...。開發(fā)和測試環(huán)境可以臨時把倉庫標記為不安全倉庫在/etc/docker/daemon.json里加{ insecure-registries: [192.168.10.20:5000] }改完必須重啟 Docker 服務生效。這里有個坑insecure-registries只對 HTTP 倉庫有效如果你的倉庫確實是 HTTPS 但證書不被信任加這個配置也沒用得老老實實放 CA 證書。我見過有人在這上面繞了兩小時一直在反復重啟 Docker 服務。注意不要為了圖省事把內(nèi)網(wǎng)所有地址都塞進insecure-registries。一旦形成習慣某天真的需要走加密傳輸時排查范圍會大得離譜。4.4 命名、打標簽與保留策略標簽策略是我見過最混亂的一環(huán)。典型現(xiàn)場是倉庫里每個鏡像都有l(wèi)atest、test、v1、v1-new、v1-最終版、v1-真最終版沒人敢刪任何一個。半年后想回滾某個版本發(fā)現(xiàn)根本對不上哪次發(fā)布。我推行的規(guī)則只有三條。第一latest只在一個地方使用本地開發(fā)隨手構建時用CI 和發(fā)布流程嚴禁推latest。第二正式版本用語義化版本號1.4.2這種配合 git tag能精確對應到某次提交。第三額外打一個 git 短哈希標簽方便排查docker tag myapp:1.4.2 192.168.10.20:5000/team/myapp:1.4.2 docker tag myapp:1.4.2 192.168.10.20:5000/team/myapp:sha-a1b2c3d版本號給人看哈希給機器查。生產(chǎn)環(huán)境部署時用 digest 而不是標簽這是最穩(wěn)的方式docker pull 192.168.10.20:5000/team/myappsha256:xxxx因為標簽可以被移動同一個1.4.2今天推的和明天推的可能是兩個不同的鏡像digest 是內(nèi)容哈希永遠指向同一份內(nèi)容。這點在出故障回滾時特別關鍵——你確定拉回來的就是當初那個。4.5 存儲回收為什么刪了 tag 磁盤沒變小這個問題幾乎每個自建倉庫的人都會遇到。執(zhí)行了刪除標簽的命令curl也返回成功但du -sh一看磁盤占用紋絲不動。原因是 Registry 的刪除是兩段式的刪標簽只是刪掉了 manifest 的引用底層的 layer 文件blob還在因為可能被其他標簽共享。要真正回收得跑垃圾回收。Registry 自帶了一個命令在容器里執(zhí)行docker exec registry /bin/registry garbage-collect \ --delete-untagged /etc/docker/registry/config.yml在這之前必須先刪干凈所有指向無用 manifest 的標簽而且回收過程最好停寫或只讀因為并發(fā)推送可能導致新鏡像的層被誤判為無引用而清掉。我的做法是每天凌晨跑一次定時任務先停掉對外推送權限再執(zhí)行回收最后恢復。聽起來麻煩但比起某天磁盤滿了導致所有構建失敗這點麻煩值。保留策略建議按數(shù)量 時間雙維度控制每個倉庫保留最近 10 個版本同時刪除所有超過 90 天且非正式版本的標簽。只按數(shù)量控制低頻更新的倉庫會保留很久只按時間控制高頻更新的倉庫會積攢太多。5. 實戰(zhàn)問題速查與避坑記錄下面這些幾乎都是我或者身邊同事真實撞上過的按階段整理出問題時可以先掃一眼表格。5.1 構建階段高頻故障表現(xiàn)象根因處理方式COPY failed: file not found文件被.dockerignore排除或路徑超出構建上下文檢查.dockerignore確認context目錄包含該文件構建越來越慢改一行代碼就要幾分鐘COPY . .在依賴安裝之前緩存全失效調(diào)整指令順序依賴清單先拷源碼后拷鏡像體積遠超預期緩存文件、包管理器索引沒在同一層清理RUN合并清理命令用多階段構建not found或符號相關錯誤程序跑不起來Alpine 的 musl libc 與預編譯二進制不兼容換成debian-slim基礎鏡像時區(qū)不對日志差八小時容器默認 UTC沒設TZ裝tzdata設ENV TZ構建時報no space left on device本地鏡像和構建緩存占滿磁盤docker system prune -af配合--filter until72h磁盤那條多說一句docker system prune默認不清理正在被容器使用的鏡像加-a才會清掉所有未使用鏡像加-f免確認。執(zhí)行前確認沒有正在跑的重要容器用docker ps看一眼再動手。5.2 運行與編排階段高頻故障表現(xiàn)象根因處理方式應用啟動就連不上數(shù)據(jù)庫depends_on只保證啟動順序不等就緒加healthcheckcondition: service_healthydocker stop要等十秒才停CMD用了 shell 形式PID 1 是 sh信號沒轉(zhuǎn)發(fā)改成 exec 形式[node,server.js]非 root 用戶寫卷報permission denied宿主機目錄屬主與容器內(nèi) UID 不匹配構建時chown或啟動時用user: 1000:1000容器內(nèi)訪問localhost連不上另一個服務每個容器有獨立網(wǎng)絡棧用服務名當主機名服務需在同一網(wǎng)絡exec format error鏡像架構與宿主機不一致構建時指定--platform linux/amd64改了配置重啟不生效容器被復用新配置沒進容器docker compose up -d --force-recreateport is already allocated端口被占用ss -lntp查占用進程或換端口exec format error這個在 M 系列芯片的機器上構建、部署到 x86 服務器時特別常見報錯信息很短容易誤判成鏡像損壞。構建時加--platform linux/amd64或者用buildx同時產(chǎn)出多架構鏡像能一次性解決。5.3 倉庫階段的三個經(jīng)典報錯http: server gave HTTP response to HTTPS client——前面說過客戶端用 HTTPS 請求服務端是明文 HTTP。要么給倉庫配證書要么把地址加進insecure-registries并重啟服務。x509: certificate signed by unknown authority——客戶端不信任倉庫證書。把 CA 證書放到/etc/docker/certs.d/地址/ca.crt。注意目錄名要和訪問用的地址完全一致帶端口的話端口不能少192.168.10.20:5000和192.168.10.20是兩個不同的目錄。manifest unknown或not found——拉取時找不到對應的標簽。要么是標簽打錯了要么是推送失敗了但命令返回被忽略。用倉庫的 API 列一下現(xiàn)有標簽確認curl http://地址:5000/v2/命名空間/鏡像名/tags/list能直接看到實際存在哪些標簽比猜測快得多。5.4 幾條踩出來的經(jīng)驗關于調(diào)試信息鏡像里裝curl和netstat這類工具體積會增加十幾兆但排查網(wǎng)絡問題時能省下大量時間。如果實在不想裝進生產(chǎn)鏡像可以在構建時開一個帶工具的 debug 階段出問題時臨時構建那個階段進去看。關于構建速度如果依賴下載慢是網(wǎng)絡層面的問題加構建參數(shù)換源比優(yōu)化 Dockerfile 更有效。另外--cache-from配合 CI 緩存能顯著加速把上一次構建的鏡像拉下來當緩存源遠程構建時效果明顯。關于Compose 文件的可維護性超過五個服務之后盡量按職責拆成多個文件用-f組合。一個兩百行的 yaml 沒人愿意改改成三個七十行的人人敢動。另外把公共部分網(wǎng)絡、時區(qū)、日志配置用x-開頭的錨點抽出來復用能減少大量重復。關于倉庫的可用性私有倉庫掛掉的時候如果所有機器都依賴它拉鏡像整個發(fā)布流程就停了。至少保證每臺機器本地緩存了最近幾個可用版本docker image ls里能看到緊急時可以直接用本地鏡像啟動不必等倉庫恢復。關于版本管理的心態(tài)我見過太多人覺得鏡像倉庫反正內(nèi)網(wǎng)標簽隨便打沒關系等到要回滾某個兩周前的版本發(fā)現(xiàn)latest已經(jīng)更新了七次根本找不回來。標簽規(guī)范這件事在只有三個人的時候建立成本幾乎為零在三十個人的時候推行的阻力大得離譜。早做比什么都強。最后分享一個我自己一直在用的小習慣每寫完一個 Dockerfile先用docker build跑兩遍。第一遍看不到什么特別第二遍觀察哪些層顯示CACHED如果只有最后一兩層命中說明指令順序還有優(yōu)化空間把變化最頻繁的內(nèi)容再往后挪。這個動作花不到一分鐘但能讓你對每一層的邊界有肌肉記憶寫第三個 Dockerfile 的時候順序自然就對了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
九九综合伊人| 五月婷婷六月激情| 亚洲中文丁香| 五月天婷婷丁香人人操91| 99精品自拍视频| 玖玖热视频| 日在线V视频在线播放| 婷婷综合网| 免费精品66| 激情性爱五月天| AAA久久| 天天摸天天舔天天爽| 免费不卡狠操美女视频网| 极品人妻VIDEOSSS人妻| 五月丁香六月停停| 婷婷色中文| 噜噜视频| 色婷婷电影网| 天天干天天操天天上| 风流少妇A片一区二区蜜桃 | 亚洲第一影院高清无码网站| www.色9| 69精品人人人人| 天天艹| 99精品久久久久久久婷婷| 五月婷婷偷拍| 涩九九九九| 性爱网五月婷婷| 色丁香五月婷婷| 在线网黄| 99爱视频在线| 超碰99在线观看| 99天堂网| 成人视频网| 超碰AV在线| 日韩色五月| 日日夜夜天天综合| 少妇性按摩无码中文A片| 深爱婷婷基地| 天天做天天双| 五月WWW| 青青草搞屄视频网站| 青青操丝袜美腿| 国产av天天插天天操天天爽| 久久婷婷五月天| av九九| 99久久99九九99九九九| 九九精品亚洲| 婷婷六月丁| 激情小说五月天| 人人综合久| 婷婷五月丁香啪啪| 国产超碰在线| 丁香狠狠色婷婷久久无码视频| www.丁香五月| 国产真实乱了老女人视频| 99在线观看精品视频| 欧美大奶熟女噜噜噜噜| 丁香婷婷久久 | 大狠狠在线| AV天堂淫乩| 九九热这里只有精品首页| 久久五月天丁香| 五月婷性爱| 97超碰色| 日本久久人| 开心激情网五月天| 综合婷婷| 九九精品re免费视频| 操一区| 乱岳熟女50岁| 色丁香五月| 日本一级特黄大片AAAAA级| 日逼影音先锋男人资源站| 九九色逼| 老司机视频lsj爱就色| 九九激情网| 亚洲亚洲人成综合网络| 无码激情AAAAA片-区区| 亚洲日本三级片| 天天色综| 精品99网站| 99热久久这里只有精品2010| 日本五月天激情| 最新av在线观看| 99热伊人| 久久综合五月婷婷| 色综合久久天天综合网| 六月合五月婷| 五月天婷婷基地| 丁香五月婷婷av影院| 99无码| 九九爱精品网站| 丁香五月综合激情性爱 | 五月玖玖| 丁香婷婷色五月天| 男女啪啪做爰高潮无遮挡| 婷婷五月情| 丁香九月激情| 成人短视频免费观看| 在线播放成人| 激情5月婷婷狠狠干| 久久久思思热| 中文字幕激情综合| 婷婷性爱综合| 色五月天激情| 极品人妻VIDEOSSS人妻| 加勒比久热| 丁香六月婷婷久久综合| 五月网网站| 棕合影院色色| 色婷婷综合在线| 日本色噜| 99热激情| 深夜男女福利刺激影院一区完整| 狠狠操天天操综合| 亚洲va综合va国产va中文| 亚洲亚洲人成综合网络| 草久私拍| 天天天天做夜夜夜夜做| 精品成人在线观看| 九九色区| 天天干天天干天天干天天干天天干| 婷婷六月激情综合| 久久综合激情| 婷婷激情五月天网站| 激情五月天色爱| 亚洲中文字幕av| www.91AV.COM| 天天天综合网| 婷婷五月a| 激情五月视频| 五月激情婷婷开心五月| 激情99在线视频| 亚洲欧美成人在线| 激情婷婷亚洲五月| 午夜天堂一区人妻| 可以免费看的av网站| www.9797国产| 五月婷婷中文字幕| 五月激情婷婷在线| 五月天婷综合网站| 风流少妇A片一区二区蜜桃| xxxx五月天色色| 婷婷开心综合人妻小说网址| www.99在线| 另类图片色五月| 99精品在线观看视频| 色五月激情五月| 99热九九这里只有精品| 思思99久久| 五月天操逼网| 99爱精品| 五月丁香网中文字幕| 一起草无码| 91无码高清| 五月丁香六月婷婷色日| 免费V片在线| 亚洲综合激情五月| 99干日本| 俺去也五月| 色在线五月天免费| www色哟哟| 亚洲婷婷免费| AV色婷婷| aaa丁香五月天| 色狠狠综合| 日本九九九九| 无码 av电影| 伊人丁香花综合影院| 久久总和99| 超碰免费人人| 99热爆在线| 草综合14| 777久久综合视频| 香蕉网婷婷| 亚洲激情婷婷| 99爱在线| 天堂久久性| 亚洲成人免费电影| 日韩99精品| 婷婷五月色图| 综合aV在线| 久久免片| 人妻内射麻豆视频| 影音先锋 一区| 六月激情婷婷综合| 狠狠干,狠狠操| 成人婷婷五月天| Caoub青青超碰| 丁香六月婷婷综合激情欧美| 综合一区二区三区| 五月天综合在线网| 婷婷五月天成人网| 五月天色丁香| 狠狠色狠狠鲁| 日韩九区| www.久久9| 狠狠干狠狠干| 九热...av| 五月婷婷丁香大陆免费| 中文字幕丰满乱孑伦无码专区| 婷婷激情五月天色| 99,色| 狠狠干最新地址| 超碰三级片| 欧美婷婷五月激情| 婷婷五月天美女| 91在线视频观看午夜福利| www,五月天激情| 综合网啪啪| 曰韩少妇内射免费播放| 天天日天天爱天天噪| 久久精品永久免费| 色综合色| 99在线视频资源| 日韩日比视频在线| 日韩人妻AV在线| 色5月婷婷色| 欧美婷婷五月天综合| 五月综合激情网| 天天日天天爽| 五月在线| 婷婷色导航| 婷婷伊人网| 狠狠色狠狠鲁| 婷婷色播六月无码| 久色视频首页| 婷婷五月天直播| 久久婷婷综合国产| 成人精品人妻| 久久婷婷国产| 熟女网站久久| 大香线蕉伊人| 亚洲一级色电影| 九九中文字幕九| 五月丁香婷婷国产精品综合| 日日噜噜久久婷婷五月天| www.日韩国产| 一区二区乱码视频| 日韩黄色电影| 五月天伊人综合| 岛国AV网| 无码中文一区二区三区| 97香蕉久久超级碰碰高清版 | 婷香五月| 99久热这里只有精品视频删减版| 五月五月婷婷| 性爱人人网| 五月婷婷之综合激情在线| 亚洲精品视频在线播放| 亚洲激情另类| 亚欧州精品视频| 九九热精品视频| 日本人人xxx| 情久久综合五月天| 91九色精品| 六月丁丁香| 色色日本| 激情五月天的婷婷| 成人在线网| 久久精品视频99| 久久总和99| 伊人久久大香线蕉av一区| 在线只有精品| 91伦| 丁香色色色| 色五月91| 操逼福利视频| 99免费在线视频| 五月天丁香成人社| 大香蕉久| 男女啪啪视频久 9| 91久久九久久九久久九久久九久久| αv中文字幕在线观| 色婷婷基地| 九九性视频| 岛国在线观看91| 99久99久| 久久9精品| 亚洲日本激情| 激情五月天无人视频在线| 精品九九在线观看| 久久丁香五月婷| 手机旧版看人妻1025| 五月停停丁香| 九九精品视频在线观看| 91色情播放| 99这里只有精品| 91久久久久久| 丁香花狠狠婷婷亚洲中文字幕| 男人的天堂999| 激情五月伊人婷婷| 狠狠操狠狠插| 日本视频不卡123区| 99久久这里只有精品| 超碰超碰在线| 淫视馆av三区| 久久五月婷婷电影| 久久久久久性爱视频| 日日操,天天操| 色色色无码| 99色色视频| 黄色片久久| 色五月大| 久8色色| 五月婷婷熟女| 色婷婷aV四虎| 天天摸,天天爽| 99热这里有精品| 五月天激情四射| 伦乱人妻| 色婷五月| 国外亚洲成AV人片在线观看| www.99热国产| 六月婷婷俺也去| 99re6久热只有精品6在线直播| www.日韩国产| 五月婷婷综合色啪首页| 超碰色综合| 色久免费| 免费看成人AA片无码视频吃奶| 国产成人精品一区二三区熟女在线| 少妇水多A片太爽了| 婷婷六月天国产综合| 九一牛视频探花| 婷婷91| 日日夜夜九九| 五月欧美色色五月| 免费看欧美成人A片无码| 五月婷婷丁香日韩在线| 91碰视频| AV成人在线播放| 91久女| 五月色欧洲| 五月色网| 久久久久妻| 夜色综合网| av一区免费看| 九九精品热| 超碰av在| 婷婷娱乐丁香综合网| 色综合色综合色综合色综合| 狠狠色色| 2050人人操免费工开爱| 婷婷六月色| 五月刺激丁香月综合| 久久婷视频| 99er精品视频| 9久久网| 天天综合影院| 久热久re| 国产婷婷综合| 久久婷婷色| 任你爽精品免费视频6| 亚洲国产精品VA在线看黑人| 激情四射网| 激情综合一| 97碰免费精采视频| 色五月婷婷基地| 色婷婷狠| 狠狠做深爱婷婷久久综合一区| 丁香五月-激情综合| 99热1| 天天操夜夜爽| www.99热这里精品| 99色网站| 婷婷丁香五月视频| 色播激情| 91综合国免费久入| 人人色婷婷五月天| 秋霞av吧| 久久青草国| 99热这里只有精品最新网址| 五月天激情小说网| 日本性激情色播| 婷婷五月色综合香五月| 狠狠搞综合色| 超爽内射| 丁香六月色婷婷| 无码地址| 婷婷五月天久| 操人91| 97丁香花五月天激情小说| 久久综合影院| 五月激情久久综合| 欧美啪啪五月天| www.jiujiujiu| 99热大全在线观看| 99热在线播放精品| www.99在线| 久久久er热| 五月丁香六月片| 五月天六月色| 激情综合五月激情| 成人AV网站在线| 99在线精品免费视频| 日本啪啪网| 色人久久| 91热网址| 高清无码中文字幕aVDV| 色欲AVV| 五月色综合| 天天射影| 思思久久精品| 99久热这里只有精品视频删减版| 97婷婷狠狠| 激情综合网五月天天| 五月激情视频| 婷婷另类开心| 中美日韩成人在线| 五月天操逼激情| 超碰色色综合| 激情小说五月欧美亚洲丁香| 六月丁香婷婷色狠狠久久| 亚洲另类视频| 九九免费在线视频| 九色PORNY9l原创自拍| 五月丁香色色网| 亚洲激情免费视频| 九九精品片一| 99九九久久| 97超级免费无码| www九九热| 婷婷五月天国产在线播放| 激情五月婷黄版| 欧美内射AAAAAAXXXXX| 五月婷综合网| 五月 丁香 欧美| 在线天堂9| AV网址大全在| 69热91天堂| 五月丁香六月色| 九九无码| 激情五月综合婷婷| www.久久av.com| 欧美丁香六月在线观看视频| 婷婷久久在线| Www.sesese丁香| 激情第四色| 91丨九色丨丰满人妖| 狠狠舔| 激情无码网| 噢美99| 夜精品无码A片一区二区蜜桃 | 久青操| 97五月天婷婷| 五月婷婷欲色| 欧美婷婷五月天综合| 99久久精品国产色欲| 91狠狠综合久久久久久| 高清无码入口| 日韩国产AV播放| 人人操AV| 国产人妻777人伦精品HD| 婷婷五月色综合| 婷婷热婷婷色| 欧美色小说婷婷| 五月天成人在线视频丁香| 综合色视频| 丁香五月激情五月| 综合网色综合| AV成人在线播放| 五月亭亭色| 九九色天堂| 色射7856五月天激情四射| 99热这里有精品| 99在线精品视频| 五月婷婷丁香六月| 国产毛片精品一区二区色欲黄A片| 婷婷五月天天爽| 夜夜骑天天操| 天天操夜夜肏| 免费看片在线观看| AV在线不卡网站| 99热免费精品| 91超级碰碰| av中文在线| 99国产在线| 精品久久人妻| 丰满少妇乱A片无码| 琪琪秋霞| 日本毛片内射| 在线成人网站| 好吊丝aV| 丁香五月婷婷日本| 9l视频自拍9l九色成人| 人妻久久久久久| 69久久99精品久久久久婷婷| 26UUU精品一区二区| 天堂草在线观| 欧美三日本三级少妇三99| 色婷婷五月天不卡| 色停停香蕉视频| 超碰久热| 狠狠综合区| 99久在线视频| 9999色色色色| 婷婷六月色情| 久热99| 婷婷深爱五月天在线| www.久久| 成人丁香婷婷| 99热99色| 日本黄色在线观看| 极品 少妇 内射| 丁香五月婷婷在线视频| 久久婷婷综合五月趴| 久久这里只有欧美| 超碰人人在线| se婷97| 九九久久99| 日韩乱玛久久| 热久久这里只有精品| 丁香六月啪| 九九精品少妇| 婷婷激情五月天激情在线| 久热这里只有精品6官网亚洲| 91Chinese在线| 人妻狠狠操| 女人天堂 AV| 日本99热| 色一情一乱一乱一区9| 婷婷精品综合| 六月丁香影院| 日本人妻伦在线中文字幕| 中国女人内射6XXXXX| 97亚洲视频在线| 色婷小说| 伊人成人宗合网| 激情婷婷久久| 大伊久久| 丁香午夜天| 39视频第二区| 99综合一区| 久9视频| 六月色播| 久久丁香五月| 夜色五月天| 色亚洲视频| 婷婷综合网| 激情伊人网| 五月婷婷天| 人妻日日日| 久久五月天婷婷视频| 色综合久久天天综合网 | 翔田千里aV中文字幕| 丁香五月天天高清在线| 婷婷无码视频| 六月婷色| 极品另类| 激情视频综合| 美国十月色婷婷在线观看| 久久婷婷五月| 9er热在线精品视频| 狠狠色丁香久久婷婷综合五月| 蜜臀av粉嫩av懂色av| 亚洲色色色| 婷婷五月天受日本法律保护| 色色AV色色色东莞| 中文字幕五月久久婷婷| 五月色亭丁香| 97五月天| 久久五月丁香六月婷| 色婷婷五月天偷拍| 国产免费av在线| 五月开心色| 日本九九热| 国产69久久久欧美黑人A片| 免费成片在线观看| 丁香六月婷婷久久综合| 91 影音先锋| 天天干夜夜欢| 久久精99| 五月天六月色| 婷婷操超碰| 婷婷伊人| 色色婷五月天| 亚洲中文字幕AV在线| 日本综合久久| www.99热| 天天色激情| 97艹| 九九Av| 欧美色色色色色色色色色色影视| AV在线免费播放| 亚洲超碰在线| 无码免费人妻A片AAA毛片西瓜| 婷婷五月丁香超碰| 91精品久久久久久| 国产裸舞福利资源在线视频| 丁香色五月天| www.思思99热| 青青草Avb在线| 伊人久久大香网| 凹凸7777操操操| 亚洲成人无码专区| 玖玖婷婷色五月| 综合玖玖性爱免费视频| 91超级碰在线视频| 欧美性丁香色色五月天干干| 九九99九九99偷拍视频免费看| 婷婷六月久久综合导航| 欧美日韩一区二区三区四区| 久久机只有这里精品| 激情综合五月婷婷| 天天爽夜爽| 五月丁香婷婷色| 亚洲宗合激情| 另类A片| 五月婷久久| 人碰91| 九色婷婷| 婷婷丁香六月天| 99视频这里只有免费精品| 久久婷五月| 五月婷婷婷自由综合| 91免费啪视频| 人人爽天天爽| 激情欧美五月丁香| 午夜色色色极品视频| 色五月 五月婷婷| 欧美色色色色色色色| 婷婷综合在线网| 五月丁香黄色视频| 婷婷色导航| 这里只有精品99视频| 五月天综合在线| 丁香五月天视频| 天天干天天日天天插| 香蕉久久国产AV一区二区| 色的色综合| 在线播放 精品| 玖玖色综合网| 丁香五月婷婷欧美性爱| 五月丁香六月情婷婷久久| www.色色色com| 色噜噜狠狠一区二区三区| 六月色婷婷欧美| 婷婷涩涩五月天| 抽插特写| 影音先锋91在线资源站| 99综合| 激情五月婷婷中文字幕| 九色地址91视频| 丁香五月婷婷天激情| 天天干夜夜想| 这里只有精品在线看| 色婷成人狠干| 五月丁香A片| 欧美成人AAA片一区国产精品| 综合九九| 婷婷五月天资源| 干婷婷五月天| 99er免费在线观看| 亚洲综合视频天天精品| 久久蜜臀婷婷| 蒲京久久无码视频| 一级内射毛片| 99视频在线9| 国产婷婷色综合AV蜜臀AV | 99精品在这里| 强伦轩人妻一区二区电影| 五月丁香六月色婷婷综合五月天| ZpRSw| 婷婷久久色五月婷婷久久久| 久久综合五月天| 久久sp免费视频| 久久99大| 9热久久在线| AⅤ在线播放网| 色婷婷狠狠禁久久| 五月婷护士| 99天天操夜夜操| 1级欧美日韩| 中文不卡av| 免费V片在线| 久久婷婷色综合老司机| 国产精品美女久久久久AV超清| 综合婷婷都市激情| 国产午夜精品一区二区| 97五月天婷婷| 四月丁香五月婷婷久久| 亚洲综合婷婷| 婷婷五月综合激情免费视频| 色五月激情五月丁香五月婷婷啪啪综合| 人人草公开操| 丁香花五月天| 婷婷金品综合视频| 色婷婷a v| 五月丁香六月在线| 97在线观视频免费观看| 色欲天天综合网| 成熟妇人A片免费看网站| 婷婷天堂综合| 777影视理论片大全在线观看| 久草大| 激情第四色| 青草视频在线播放| 五月婷婷开心丁香| 啪啪操超碰| 久久99精品视频| 日韩综合成人| 97九色视频| 草操AV在线| 五月天激情视频五月天| 成 久久| 婷婷五月婷婷| 日日撸夜夜操| 色婷婷色综合| 亚洲成人网无码| 日本性激情色播| 99在线热视频| 丰满少妇猛烈A片免费看观看 | 9l视频自拍九色9l黑人| 久久久久久久久久久-久五月天婷婷| www久| 大香蕉在线观看9| 超碰91在线| 丁香婷婷五月六月天| 天天久久综合| 日韩AV片| 97日本操| 开心六月婷| 十月丁香九月婷婷综合| 玖玖婷婷五月天| 婷婷五月天伊人| aV欲望人妻中文字幕| 久久婷婷五月激情综合| 五月丁香啪。| 丁香婷婷网| 51精品国自产在线| 99色精品| 涩涩婷婷五月| 色色性爱视频| 五月天婷婷社区久久综合| 91成人品| 婷婷五月丁香五月综合网| 久久色五月天| 婷婷99综合| 五月丁香五月丁香五月丁香五月丁香91| 99久久66| 久久婷婷综| 日本97在线观看| 婷婷五月天激情在线观看| 五月精品免费XXX| 日日日日日| 91porn一起草| 日本色狠狠| 天天干人人奸97| 天天爽天天日人人爱| 人人视频色| 人人摸人人干| 久久久中文| 九九干视频| 97ai婷婷| 免费观看欧美成人AA片爱我多深 | 久99视频在线观看| 99亚洲视频| 第四色色六月色综合| 97婷婷狠狠| 网站免费一站二站| 99ri视频在线观看| 五月香六月婷| 曰本久久女| 99热这里都是精品| 狠狠舔| 丁香五月激情综合| 久久99婷婷| 爆乳熟妇一区二区三区爆乳照片| 欧亚成人A片一区二区| 伊人9草在线观看| 日日日天天干| 国产操逼视频网站| 99热无码首页| 激情骚五月| 婷婷激情视频欧美视频自拍视频欧美剧| 国内精品99| 色五月综合网| 9精品国产在热久久| www,8050,午夜三级| 亚洲成人五月| 啪啪黄页网| 六月激情网| 五月久久网| 五月丁香六月成人| 九九黄色网| 亚洲五月天婷婷| Se.婷婷五月天| 图片区 小说区 区 亚洲五月| a九九热www| 色色色五月婷婷| 久久五月天大美女| http:色情日本com| 日本操逼九九九九58日本操逼| 色综合久久久久| 激情黄色五月天| 亚洲AV成人一区二区在线观看| 亚洲va日| 精品香蕉99久久久久网站| 久久 婷婷 五月天| 九色91国产| 婷婷五月影院| 这里只有九九精品| 男人天堂AV在线一区二区| 99热这里只有精品50| 丁香五月天堂| 婷婷五月天亚洲图片| 202丰满熟女妇大| 99爱精品视频| 亚洲综合另类| 热九九精品| 激情小说 五月天| 色爱99| 九九RE视频在线精品| 99热国产精品| 免费黄网不卡AV| 综合婷婷五月天| 日韩成人精品中文字幕| 淫视馆aV二区一区| 五月丁香婷婷激情| www.97干视频| www.五月天| 人人草人| 久久久久婷婷五月热综合| 很很干天天干| 999影院成人在线影院| 久久看九九90| 丁香六月婷婷综合| 综合五月激情| 7777激情基地| 婷婷9月天| 九九Av| 色婷婷五月中文字幕在线dvd| 精品九九久久| 天天拍天天操| www五月天com| 久久这里只精品| 日日狠夜夜狠| 六月丁香婷婷视频综合在线观看| 五月综合视频| 日日操夜夜爽| 先锋男人99资源| 9久久婷婷国产综合精品性色| 亚洲另类婷婷综合| 国产另类综合| 丁香五月天激情网址| 免费视频无码| 996er热| 思思 热 99| 久热这里这里有精品| 亚洲AV在线免费看| 99性色| 日本欧美成人片AAAA| 成人网站在线观看视频| 亚洲无码色| 激情五月丁香社区| 99re思思热久久| 激情五月综合免费| 亚洲色五月| 精品久久婷婷| 亚洲欧美日韩另类| 国产黄色在线观看| 香蕉婷婷| 五月天婷婷基地| 久草大| 99精品久久久久久久婷婷久久| 99在线免费视频播放| 久久久精品人妻录| 五月丁香好婷婷姑娘综合网| 丁香五月婷婷老师网站| 操碰99| 五月亭亭开心网| www.五月天社区| 操逼123网| 激情婷婷五月天伊人在线观看| ady狠狠入| 亚洲区在线| 无码 av电影| 无码人妻AV久久久一区二区三区| www夜夜操| 丁香五月婷综合网| www.六月丁香看AV| 五月婷婷色播视频| 婷婷久久综合久| 黄色五月婷婷| 久天综合| 亚洲最大在线| 99久久九九| 99热网站| 深爱五月婷婷开心中文字幕| 亚洲 成人 电影av在线观看| 99人人干| 色综合天天| 欧美成人AAA片一区国产精品| 免费观看日韩成人av| 91超碰人人操| 日本久久网| 99热这里只有精品在线| 五月激情婷婷国产精品久久久久久| 激情五月天在线观看色婷婷| 99久久.www| 九九综合图片网| 97久操视频| 国产免费一区二区三区三州老师F1F1.CC| 九九热91| 97人人看| 天天色情站| 丁香五月日本| 思思久久99热只有频精品66| Av性爱网站| 伊人五月人妻精品| 五月天影院| 天天舔天天摸| 精品人人操| 久久99网站| 色五月丁香com| 伊人激情网| 成人婷婷| 成人色色综合| 五月天另类图片| 另类图片五月天| 色婷视频| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 开心五月综合激情网| 天天视频亚洲| 67194中文字幕| 五月婷激情| 丁香五月天操B| 停停综合色色| 天天久久66xxx| 五月婷婷丁香五月婷婷| 色 五月俺去也| 婷婷激情图片| 丁香五月偷拍| 五月天大香焦| 伊九九三级区| www.色五月天.com| 狼人婷婷久久| 欧亚成人A片一区二区| 色婷婷影视| 五月天丁香啪啪啪啪| 丁香五月伊人| 丁香花色色网| 婷婷六月天激情影院| 婷婷色色五月天| 色操综合| 婷婷丁香射射| 欧美日韩AAAA| 婷婷五月天福利| 9色免费网| 丁香五月激情天AV无码| 综合亚洲五月天| 综合图片色色| 欧美槡BBBB槡BBB少妇| 久久综合九色综合97婷婷| 无码91中文字幕| 日本97在线视频| 亚洲性图一区二区| 婷婷色导航| www狠狠爱com| 婷婷狠狠久久| 91操网| 五月天综合色| 婷婷一本和五月丁香| 热99精品视频| 俺去也婷婷| 色99婷婷五月天| 久久这里只有精品网| 五月天激情啪啪| 99热国产| 久热一本| av狠狠操| 婷婷色五月91啪啪| 激情久久四色| 亚洲啪啪视频| 狠狠色噜噜色狠狠狠综合色 | 自拍偷窥99热| 婷婷综合五月天亚洲综合| 另类视在线| 婷婷综合天堂| 国产欧美日韩一区二区三区| 99热这里只有精品2| 超碰免费成人| 九9九9无码| 婷婷色五月综合| 97亚洲视频在线| 五月丁香怕怕综合| 99热伊人| 99这里有精品视频| 日韩另类在线观看| 99热 在线播放| 96五月丁香熟女| 亚洲亚洲人成综合网络| 欧美色色色色色色色色| 91人人操人人看| 五月婷婷 激情五月| 久久五月丁香| 久久婷婷国产| 4399人妻无码久久久| 夜夜嗨一区二区三区直播内容| 六月丁香狠狠爱| 99这里只有| 亚洲国产成人AV在线| 婷婷丁香69精华| 五月丁香| 婷婷丁香射射| www.五月天婷婷| 天天插天天狠| 开心五月婷婷激情| 色色色视频免费无码| 99热免费在线| 夜夜爱爱亚洲| 久色激情| www.久久爱.com| 亚洲无线视频| 五月天久久婷婷| 色婷婷视频在线| 久久综合婷婷| 久久婷综合| 九月婷婷综合八月丁香在线观看 | 久久婷婷五月天蜜桃| 婷婷激情五月综合丁香社| 婷婷五月天色色| 激情久久久| 欧美视频五区| 久久久婷| 久草热8精品视频在线观看| 琪琪色五月天| 99视频只有精品| 五月天六月天| 97碰碰免费.视频| 久久精品这里只有精品免费首页| 极品精品一区二区三区在线| 思思视频久久| 黄色片久久| 色婷婷五月在线| 影音先锋一区| 欧美成人精品A片免费一区99| 亚洲1区| 92久久精品一区二区| 日本a片网址| 久久性爱网| 五月天网站免费欧美| 七七久久婷婷| 91色综合网| 久久黄色网扯| 强奸幻女毛片| 天天摸天天肏| 婷婷丁香水多多视频| 日韩成人综合网| 五月激情综合深爱| xxxx久| 图片区 小说区 区 亚洲五月 | 影音先锋 一区| 99亚州综合精品成人网| 综合久久综合| 欧美三级A做爰在线观看| 七七九九色色| 热久久这里只有三级视频| 思思精品热在线| 色综合久久天天综合网| 亚洲中文字幕AV| 激情婷婷丁香色情五月天| 国产亚洲成AV人片在线观黄桃| 日日天天天| 热久久婷婷| 99热97| 这里精品| 亚洲色色色色色| 日韩欧美性爱| 夜夜躁爽日日| 天天插插天天| 狠狠夜夜五月丁香| 99超碰人人| 国产精品久久久久9999小说| 伊人超碰| 激情综合网五月丁香| 久久婷婷视频| 五月天涩涩| 综合激情五月综合激情五月激情1| 少妇性BBB搡BBB爽爽爽视頻| 国产精品色一哟哟| 亚洲精品视频在线| 大香蕉伊然在亚洲90| 五月丁香亭亭| 色五月丁香在线| 日狠狠| 激情婷婷六月天| 蜘蛛女免费观看完整版高清电影| 久久婷婷综合五月天| 久热AA| 免费日本aⅴ中文字幕| 99视频在线观看网址| 五月天综合久久| 丁香婷婷综合色五月激情国产基地| 久色| 精品无码99| 美女五月天婷婷| 另类激情五月| www.99久久久久99| 九月丁香久久网| 99热精品在线播放| 色色色国产| 人人视频人人干人人做| 成人短视频在线| 久久一品区| 婷婷五月丁香色色| 国产69久久久欧美黑人A片| 26UUU欧美| 1995年关宝慧版蜘蛛女| 99手机在线精品视频| 99色天堂| 另类天堂| 91碰| 99视频35精品视频在线观看| 国产婷婷五月中文字幕高清| 热婷婷在线视频| 99热国产在线| 超碰在线日夜| 国产婷婷色综合AV蜜臀AV | 人人操AV| 六月 丁香 视频| 色99视| site:wpjngj.com| 丁香婷最新动态| WWW.99热| 久久伊人大香蕉| 五夜婷婷| 大香蕉520| 国产激情久久| 伊人网欧美在线男人天堂五月丁香| 高清a片基地| 97超级碰| 色婷婷狠狠禁久久| 97久久精品视频| 五月丁香综合久久夜夜| 天天日天天插| 色一情一乱一伦一区二区三区| 五月丁香婷婷婷激情爱爱| 天天cha成人综合网| 亚洲AV成人片无码网站| 在线不卡的视频| 91AV视频| 1024成人在线观看| 91丨九色丨熟女丰满| 亚洲av另类在线观看| 99在线精品观看99| 国产肥白大熟妇BBBB视频| 日本欧美在线| 五月婷在线| 天堂伊人干| 亚洲色区17| 五月亭亭色| 色婷婷69| 婷婷五月黄色激情在线| 婷婷激情视频| 久久er视频6| 啪啪干伊人婷婷| 婷婷五月天激情综合网| 天天操天天操综合| 深爱五月最新网址| 综合五月天| 色婷婷电影网| 91在线操逼视频| 2022人人操人人看| 五月天婷婷久久| 5月丁香综合网| 99综合色| 91Chinese在线| 少妇AB又爽又紧无码网站| 欧美日韩999| 成人无码髙潮喷水A片| 色色五月婷婷| AV操一操| 亚洲中文字幕av| 激情五月婷婷在线区| 丁香狠狠| 国产偷人妻精品一区| 丁香午夜天| 狠狠干狠狠色| 色啦啦视频| 日韩精品999| 天天拍夜夜爽| www.9797国产| 色999亚洲人成色| 在线sebiav精品视频| 九九热在线视频观看免费10| 亚洲av无码影院| 五月丁香久人妻中文| 色综合色| www.狠狠色.com| 天堂综合久久| 99国产在线精品视频| 2025神马午夜福利| 超碰色色综合| 婷婷激情啪啪| 婷婷色五月天在线| 欧美婷婷综合| 蜜臀av无码久久久久久久久| a v色婷婷| 色色色婷婷五月天| httpwww色com日本| 九九AV| 激情五月天综合婷婷网| 精品久久9| www.wuyuetian啪啪| 成人一区在线观看| 成人超碰AV| 91狠狠色色丁香婷婷综合久久| 人妻无码精品一区| 人妻操日日| 另类国产综合| 日本色五月| 香蕉网久久| 亚洲激情精品| www.夜夜| 色五月综合激情| 婷婷综合网| 丁香花社区av| 台湾综合丁香五月蜜桃| 国语精品探花| 丁香六月婷婷久久综合| 北条麻妃伊人| 亚洲 精品 综合 精品| 热热久久99| 麻豆AV一区二区三区| 国产黄色av| 色婷婷狠狠色| 五月婷婷丁香六月| 色~性~乱~伦~噜| 丁香六月爱综合| 婷婷五月花| 亚洲欧美成人在线| 婷婷五月激情网| 九九热99精品| 日韩99色99| 伊人五月婷| 五月丁香六月婷婷色| 精品人妻伦一二三区久久| 天天插天天插| 日本久久99| 亚洲愉拍99热成人精品| 中文字幕 中文字幕明步| 99热99草97| 99热这里只有精品96| 丁香婷婷色色| 99色久| 性综合网| 国产AV不卡福利| 狠狠穞A片一區二區三區| 国产看真人毛片爱做A片| 成人午夜免费电影| 五月丁香综合网| 欧美成人日韩| 婷婷五月天激情网| 丁香六月婷婷色播| 成人免费高清在线播放| 大香蕉伊人丁香五月| 九九热这里只有精品23| 六月激情婷婷| www一起操在线观看| 婷婷丁香基地在线| 欧美久久九九| 激情99在线视频| 五月天怕怕|