【MCP 全棧教程】第 24 篇MCP Client 架構(gòu)——Host 應(yīng)用如何管理多個(gè) Server 連接本系列定位從協(xié)議原理到 Server 開發(fā)、Client 開發(fā)、再到各大平臺(tái)實(shí)戰(zhàn)集成系統(tǒng)化掌握 MCPModel Context Protocol全棧技術(shù)體系。本篇你將學(xué)到Host 應(yīng)用的核心職責(zé)與分層職責(zé)邊界Client 與 Server 的一對(duì)一連接模型連接池管理與健康檢查的實(shí)現(xiàn)思路Server 重連策略指數(shù)退避、5 次重試、60 秒上限工具命名空間隔離機(jī)制mcp_{server}_{tool}多 Server Host 的典型架構(gòu)組成學(xué)完本篇你將理解一個(gè) MCP Host 應(yīng)用如何在內(nèi)部同時(shí)管理多個(gè) Server 連接、做工具隔離與健康恢復(fù)為后續(xù)各篇的 Client 編碼實(shí)戰(zhàn)打下架構(gòu)基礎(chǔ)。一、回顧Host、Client、Server 三層模型在模塊一的第 02 篇中我們介紹了 MCP 的三層架構(gòu)。進(jìn)入模塊四后視角要從“Server 怎么寫”切換到“Host 怎么編排 Server”。先做一次精確定義角色定位數(shù)量關(guān)系關(guān)鍵職責(zé)Host宿主應(yīng)用面向最終用戶1 個(gè)用戶交互、安全策略、多 Client 生命周期管理Client連接器封裝單個(gè) Server 的會(huì)話N 個(gè)每個(gè) Server 一個(gè)協(xié)議握手、消息收發(fā)、能力緩存Server能力提供者暴露 Tools/Resources/PromptsN 個(gè)執(zhí)行工具、讀取資源、返回 PromptMCP 的一條鐵律是一個(gè) Client 只對(duì)應(yīng)一個(gè) Server。Host 想要同時(shí)使用 N 個(gè) Server就必須在內(nèi)部創(chuàng)建 N 個(gè) Client 實(shí)例。這種“一對(duì)一”約束不是性能限制而是安全與隔離的設(shè)計(jì)——每個(gè) Server 運(yùn)行在獨(dú)立的信任域工具調(diào)用、資源訪問互不干擾某個(gè) Server 崩潰也不影響其他連接。1.1 Host 的職責(zé)清單Host 是整個(gè)體系的“總調(diào)度”它對(duì)上負(fù)責(zé)用戶交互對(duì)下負(fù)責(zé)管理 Client 池職責(zé)域具體內(nèi)容用戶交互渲染對(duì)話界面、命令面板、工具授權(quán)彈窗、Elicitation 表單Client 生命周期按配置創(chuàng)建/銷毀 Client、維護(hù)連接狀態(tài)機(jī)能力聚合把多個(gè) Server 的 Tools/Resources/Prompts 匯總成統(tǒng)一視圖命名空間隔離給每個(gè) Server 的工具加前綴防止重名沖突安全控制用戶確認(rèn)工具執(zhí)行、過濾敏感參數(shù)、限制資源訪問范圍健康與恢復(fù)健康檢查、自動(dòng)重連、狀態(tài)恢復(fù)1.2 Client 的職責(zé)清單Client 是 Host 內(nèi)部的“連接器對(duì)象”職責(zé)相對(duì)單一Client 的內(nèi)部狀態(tài) ├── transport # STDIO 或 Streamable HTTP 傳輸層 ├── capabilities # 緩存的 Server 能力tools/resources/prompts ├── protocol_version # 協(xié)商出的協(xié)議版本 ├── subscriptions # 當(dāng)前訂閱的通知列表 ├── pending_requests# 未完成的請(qǐng)求用于取消、超時(shí) └── state # 連接狀態(tài)connecting / connected / reconnecting / disconnectedClient 不做用戶交互也不做 LLM 調(diào)用——它只負(fù)責(zé)“和某個(gè) Server 對(duì)話”。LLM 調(diào)用、工具路由這些邏輯屬于 Host 的上層編排第 29 篇詳細(xì)講解。二、一對(duì)一連接模型2.1 為什么要一對(duì)一考慮一個(gè)反例如果一個(gè) Client 同時(shí)管理兩個(gè) Server會(huì)發(fā)生什么問題描述能力污染兩個(gè) Server 的工具混在一起無法區(qū)分來源故障擴(kuò)散一個(gè) Server 崩潰連接對(duì)象失效另一個(gè)也受影響安全邊界模糊工具授權(quán)、資源訪問范圍難以按 Server 隔離協(xié)議狀態(tài)混亂兩個(gè) Server 的_meta、capabilities 各不相同MCP 的解決方案是1 Host : N Clients : N Servers每個(gè) Client 是一個(gè)干凈的隔離單元。Host 通過一個(gè)“連接注冊(cè)表”統(tǒng)一管理這些 ClientHost 進(jìn)程 ├── ClientRegistry │ ├── Client(filesystem) ──STDIO── filesystem-server │ ├── Client(github) ──HTTP─── github-server │ ├── Client(database) ──HTTP─── postgres-server │ └── Client(search) ──STDIO── search-server ├── ToolRouter (按命名空間路由 tools/call) ├── ResourceManager (聚合 resources/list) ├── PromptManager (聚合 prompts/list) └── LLMBackend (第 29 篇)2.2 ClientRegistry 的數(shù)據(jù)結(jié)構(gòu)一個(gè)連接注冊(cè)表本質(zhì)上是一個(gè)server_name - Client的映射外加狀態(tài)元數(shù)據(jù)。下面用 Python 偽代碼描述其核心字段fromdataclassesimportdataclass,fieldfromenumimportEnumfromtypingimportAnyclassConnState(Enum):CONNECTINGconnectingCONNECTEDconnectedRECONNECTINGreconnectingDISCONNECTEDdisconnectedFAILEDfailed# 重試耗盡dataclassclassClientEntry:name:str# Server 名稱如 filesystemclient:Any# 底層 Client 實(shí)例transport:str# stdio 或 streamable_httpstate:ConnStateConnState.DISCONNECTED capabilities:dictfield(default_factorydict)# 緩存的能力last_heartbeat:float0.0# 上次健康檢查時(shí)間retry_count:int0# 當(dāng)前重試次數(shù)config:dictfield(default_factorydict)# 原始連接配置用于重連對(duì)應(yīng)的 TypeScript 版本enumConnState{Connectingconnecting,Connectedconnected,Reconnectingreconnecting,Disconnecteddisconnected,Failedfailed,}interfaceClientEntry{name:string;client:Client;// modelcontextprotocol/sdk 的 Clienttransport:stdio|streamable_http;state:ConnState;capabilities:Recordstring,unknown;lastHeartbeat:number;retryCount:number;config:ServerConfig;// 保留原始配置用于重連}三、連接池管理與健康檢查當(dāng) Host 啟動(dòng)多個(gè) Server 時(shí)需要一套連接池邏輯來統(tǒng)一管理“誰連上了、誰斷了、誰需要重連”。3.1 啟動(dòng)流程Host 啟動(dòng)時(shí)讀取配置文件為每個(gè) Server 條目創(chuàng)建一個(gè) Client并發(fā)起連接。連接是異步的可以并行啟動(dòng)以縮短總啟動(dòng)時(shí)間importasynciofromtypingimportAnyclassHostConnectionPool:def__init__(self,server_configs:list[dict]):self.configsserver_configs self.registry:dict[str,ClientEntry]{}asyncdefstart_all(self)-None:# 并發(fā)連接所有 Server縮短啟動(dòng)時(shí)間tasks[self._connect_one(cfg)forcfginself.configs]awaitasyncio.gather(*tasks,return_exceptionsTrue)# 打印連接結(jié)果摘要forname,entryinself.registry.items():print(f[{name}] state{entry.state.value})asyncdef_connect_one(self,cfg:dict)-None:entryClientEntry(namecfg[name],clientNone,transportcfg[transport],configcfg,)self.registry[cfg[name]]entrytry:entry.stateConnState.CONNECTING# 實(shí)際連接邏輯見第 25 篇entry.clientawaitself._create_client(cfg)entry.capabilitiesawaitself._discover(entry.client)entry.stateConnState.CONNECTED entry.retry_count0exceptExceptionasexc:entry.stateConnState.FAILEDprint(f[{cfg[name]}] 連接失敗:{exc})3.2 健康檢查策略健康檢查的目的是盡早發(fā)現(xiàn)“假死”的連接TCP 還在但 Server 無響應(yīng)。兩種常見策略策略做法適用傳輸開銷心跳 ping定期發(fā)送一個(gè)輕量 JSON-RPC 請(qǐng)求如 ping超時(shí)則標(biāo)記異常Streamable HTTP中進(jìn)程探活檢查子進(jìn)程是否存活PID 是否存在STDIO低被動(dòng)檢測(cè)任何請(qǐng)求超時(shí)即標(biāo)記異常不主動(dòng)探測(cè)兩者0STDIO 傳輸下Server 是 Host 的子進(jìn)程child.poll()返回非 None 即說明進(jìn)程已退出無需額外 ping。HTTP 傳輸下由于連接可能經(jīng)過代理、負(fù)載均衡需要主動(dòng)心跳。一個(gè)折中方案是被動(dòng)檢測(cè)為主 低頻主動(dòng) ping 為輔asyncdefhealth_check_loop(self,interval:float30.0)-None:whileTrue:awaitasyncio.sleep(interval)forname,entryinlist(self.registry.items()):ifentry.state!ConnState.CONNECTED:continueifentry.transportstdio:# 檢查子進(jìn)程存活procentry.config.get(_process)ifprocandproc.poll()isnotNone:entry.stateConnState.DISCONNECTEDprint(f[{name}] 子進(jìn)程已退出觸發(fā)重連)asyncio.create_task(self._reconnect(entry))else:# HTTP 主動(dòng) pingtry:awaitasyncio.wait_for(entry.client.ping(),timeout5.0)entry.last_heartbeatasyncio.get_event_loop().time()exceptException:entry.stateConnState.DISCONNECTED asyncio.create_task(self._reconnect(entry))四、Server 重連策略指數(shù)退避網(wǎng)絡(luò)抖動(dòng)、Server 重啟、OOM 都會(huì)導(dǎo)致連接中斷。Host 必須能自動(dòng)重連而不是把異常拋給用戶。4.1 重連參數(shù)MCP 實(shí)踐中常用的重連參數(shù)本系列采用參數(shù)取值說明最大重試次數(shù)5超過后標(biāo)記為FAILED通知用戶初始退避1 秒第一次重試前等待退避倍率2.0每次失敗后翻倍最大退避60 秒退避時(shí)間的上限抖動(dòng)jitter±20%避免多個(gè) Client 同時(shí)重連驚群效應(yīng)4.2 指數(shù)退避算法核心公式帶抖動(dòng)base min(initial * (multiplier ^ retry_count), max_backoff) jitter base * random(-0.2, 0.2) delay base jitterPython 實(shí)現(xiàn)importasyncioimportrandomasyncdefreconnect_with_backoff(entry:ClientEntry,connect_fn,initial:float1.0,multiplier:float2.0,max_backoff:float60.0,max_retries:int5,)-bool:對(duì)斷開的連接執(zhí)行指數(shù)退避重連成功返回 True。forattemptinrange(max_retries):entry.stateConnState.RECONNECTING basemin(initial*(multiplier**attempt),max_backoff)jitterbase*random.uniform(-0.2,0.2)delaymax(0.1,basejitter)print(f[{entry.name}] 第{attempt1}/{max_retries}次重連f等待{delay:.1f}s)awaitasyncio.sleep(delay)try:entry.clientawaitconnect_fn(entry.config)entry.capabilitiesawaitentry.client.discover()entry.stateConnState.CONNECTED entry.retry_count0print(f[{entry.name}] 重連成功)returnTrueexceptExceptionasexc:print(f[{entry.name}] 重連失敗:{exc})entry.stateConnState.FAILEDprint(f[{entry.name}] 重試耗盡標(biāo)記為 FAILED)returnFalse對(duì)應(yīng)的退避時(shí)間表無抖動(dòng)時(shí)的基準(zhǔn)值重試次數(shù)等待時(shí)間累計(jì)等待第 1 次1s1s第 2 次2s3s第 3 次4s7s第 4 次8s15s第 5 次16s31s注意5 次重試后累計(jì)約 31 秒加上抖動(dòng)可能到 40 秒左右仍在可接受范圍內(nèi)。60 秒的上限主要針對(duì)長(zhǎng)退避場(chǎng)景避免極端情況下等待過久。4.3 重連后的狀態(tài)恢復(fù)重連成功不等于“狀態(tài)恢復(fù)”。新連接的 Server 可能已經(jīng)變更了工具列表升級(jí)、配置改動(dòng)。因此重連后必須重新執(zhí)行discover刷新 capabilities 緩存重新調(diào)用tools/list、resources/list、prompts/list重建本地視圖通過subscriptions/listen重新訂閱通知舊訂閱在新連接上無效觸發(fā) Host 上層的 UI 刷新。狀態(tài)恢復(fù)的邏輯在第 30 篇會(huì)詳細(xì)展開這里只強(qiáng)調(diào)一個(gè)原則重連 建立連接 重建狀態(tài)兩者缺一不可。五、工具命名空間隔離當(dāng)多個(gè) Server 同時(shí)提供工具時(shí)必然出現(xiàn)命名沖突——兩個(gè) Server 都可能有名為search的工具。Host 必須有一套命名空間隔離機(jī)制。5.1 命名規(guī)則mcp_{server}_{tool}本系列采用的命名約定是mcp_{server_name}_{tool_name}Server 名稱原始工具名隔離后工具名filesystemread_filemcp_filesystem_read_filegithubsearchmcp_github_searchdatabasequerymcp_database_querysearchsearchmcp_search_search這種三段式命名有兩個(gè)好處無歧義用戶和 LLM 都能從工具名直接判斷它來自哪個(gè) Server路由簡(jiǎn)單Host 從工具名解析出server_name就能定位到對(duì)應(yīng)的 Client。5.2 工具聚合與路由Host 維護(hù)一個(gè)“全局工具表”把所有 Client 的工具加前綴后合并fromtypingimportAnyclassToolRouter:def__init__(self,pool:HostConnectionPool):self.poolpool self.global_tools:dict[str,dict]{}# namespaced_name - tool_metaasyncdefrefresh_all(self)-None:從所有已連接 Client 重新拉取工具列表。self.global_tools.clear()forname,entryinself.pool.registry.items():ifentry.state!ConnState.CONNECTED:continuetoolsawaitentry.client.list_tools()fortoolintools:ns_namefmcp_{name}_{tool[name]}# 同時(shí)保存原始名和來源 Server便于路由self.global_tools[ns_name]{**tool,_server:name,_original_name:tool[name],}defresolve(self,namespaced_name:str)-tuple[str,str]|None:把帶前綴的工具名解析為 (server_name, original_tool_name)。metaself.global_tools.get(namespaced_name)ifnotmeta:returnNonereturnmeta[_server],meta[_original_name]TypeScript 版本interfaceToolMeta{name:string;description?:string;inputSchema:Recordstring,unknown;_server:string;_original_name:string;}classToolRouter{privateglobalToolsnewMapstring,ToolMeta();constructor(privatepool:HostConnectionPool){}asyncrefreshAll():Promisevoid{this.globalTools.clear();for(const[name,entry]ofthis.pool.registry){if(entry.state!ConnState.Connected)continue;consttoolsawaitentry.client.listTools();for(consttooloftools){constnsNamemcp_${name}_${tool.name};this.globalTools.set(nsName,{...tool,_server:name,_original_name:tool.name,});}}}resolve(nsName:string):{server:string;tool:string}|null{constmetathis.globalTools.get(nsName);if(!meta)returnnull;return{server:meta._server,tool:meta._original_name};}}5.3 對(duì) LLM 如何呈現(xiàn)向 LLM 描述工具時(shí)可以直接使用帶前綴的名稱也可以保留原始名但在描述中注明來源。推薦前者因?yàn)?LLM 調(diào)用工具時(shí)返回的 name 字段必須能被 Host 路由# 傳給 LLM 的工具列表摘要 mcp_filesystem_read_file : 讀取本地文件內(nèi)容 mcp_github_search : 搜索 GitHub 倉庫 mcp_database_query : 執(zhí)行 SQL 查詢 mcp_search_search : 全文搜索知識(shí)庫LLM 返回mcp_database_queryHost 解析出serverdatabase, toolquery路由到對(duì)應(yīng) Client 發(fā)起tools/call。第 29 篇會(huì)完整展示這個(gè)循環(huán)。六、典型多 Server Host 架構(gòu)圖把前面的組件組合起來一個(gè)生產(chǎn)級(jí) MCP Host 的內(nèi)部結(jié)構(gòu)如下ASCII 架構(gòu)圖┌─────────────────────────────────────────────────────────────┐ │ Host 應(yīng)用 │ │ │ │ ┌─────────────┐ ┌──────────────┐ ┌────────────────┐ │ │ │ UI 層 │ │ LLM Backend │ │ 安全策略層 │ │ │ │ (對(duì)話/表單) │ │ (tool calling)│ │ (授權(quán)/過濾) │ │ │ └──────┬──────┘ └──────┬───────┘ └───────┬────────┘ │ │ │ │ │ │ │ └────────────┬────┴───────────────────┘ │ │ ▼ │ │ ┌──────────────────────────────────────────────────────┐ │ │ │ 編排層 (Orchestrator) │ │ │ │ ToolRouter · ResourceManager · PromptManager │ │ │ └──────────────────────┬───────────────────────────────┘ │ │ ▼ │ │ ┌──────────────────────────────────────────────────────┐ │ │ │ ClientRegistry (連接池) │ │ │ │ ┌───────────┐ ┌───────────┐ ┌───────────┐ │ │ │ │ │ Client A │ │ Client B │ │ Client C │ │ │ │ │ │ (stdio) │ │ (http) │ │ (http) │ │ │ │ │ └─────┬─────┘ └─────┬─────┘ └─────┬─────┘ │ │ │ └────────┼─────────────┼─────────────┼────────────────┘ │ └───────────┼─────────────┼─────────────┼───────────────────┘ │ STDIO │ HTTPSSE │ HTTPSSE ▼ ▼ ▼ ┌────────┐ ┌────────┐ ┌────────┐ │Server A│ │Server B│ │Server C│ │(本地) │ │(遠(yuǎn)程) │ │(遠(yuǎn)程) │ └────────┘ └────────┘ └────────┘各層職責(zé)小結(jié)層核心組件關(guān)注點(diǎn)UI 層對(duì)話窗口、Elicitation 表單、授權(quán)彈窗用戶體驗(yàn)、交互流暢編排層ToolRouter、ResourceManager、PromptManager命名空間、路由、聚合連接層ClientRegistry、健康檢查、重連連接生命周期、容錯(cuò)傳輸層STDIO / Streamable HTTP字節(jié)流、消息幀理解這張圖后后續(xù)各篇就是在逐層填實(shí)現(xiàn)第 25 篇實(shí)現(xiàn)“連接層”的建立邏輯第 26-27 篇實(shí)現(xiàn)“編排層”的工具、資源、Prompt 聚合第 28 篇實(shí)現(xiàn)“UI 層”的 Elicitation 表單第 29 篇實(shí)現(xiàn)“LLM Backend”與編排層的聯(lián)動(dòng)第 30 篇實(shí)現(xiàn)“連接層”的通知訂閱與狀態(tài)恢復(fù)。本篇小結(jié)知識(shí)點(diǎn)核心內(nèi)容三層模型Host 管理多個(gè) Client每個(gè) Client 一對(duì)一連接一個(gè) ServerHost 職責(zé)用戶交互、Client 生命周期、能力聚合、命名空間隔離、安全控制、健康恢復(fù)Client 職責(zé)單 Server 會(huì)話管理緩存 capabilities不負(fù)責(zé) LLM 調(diào)用連接池server_name - ClientEntry映射含狀態(tài)機(jī)與重試計(jì)數(shù)健康檢查STDIO 用進(jìn)程探活HTTP 用 ping默認(rèn)被動(dòng)檢測(cè) 低頻主動(dòng) ping重連策略指數(shù)退避初始 1s、倍率 2、上限 60s、最多 5 次、帶 ±20% 抖動(dòng)命名空間mcp_{server}_{tool}三段式防沖突 便于路由架構(gòu)分層UI 層 / 編排層 / 連接層 / 傳輸層職責(zé)清晰下篇預(yù)告第 25 篇連接 Server——STDIO Client 與 HTTP Client 實(shí)現(xiàn)從架構(gòu)走向代碼——用 Python SDK 和 TypeScript SDK 真正建立到 Server 的連接講解上下文管理器、超時(shí)配置、環(huán)境變量傳遞和子進(jìn)程安全隔離。如果本篇內(nèi)容對(duì)你有幫助歡迎點(diǎn)贊收藏有任何疑問歡迎在評(píng)論區(qū)交流。