都 2026 年了還有人在糾結(jié)入門(mén)深度學(xué)習(xí)到底學(xué) TensorFlow 還是 PyTorch。網(wǎng)上關(guān)于這個(gè)話(huà)題的討論非常多但真正能從“環(huán)境搭建、代碼手感、調(diào)試體驗(yàn)、部署鏈路”講清楚的并不多。這篇文章不打算繞彎子直接把結(jié)論放在前面如果 2026 年你準(zhǔn)備從零入門(mén)深度學(xué)習(xí)優(yōu)先選 PyTorch除非你明確要接觸老項(xiàng)目維護(hù)、移動(dòng)端推理或者某些已經(jīng)在 TensorFlow 體系里沉淀好的工業(yè)流水線(xiàn)。下面會(huì)從框架定位、核心能力、安裝部署、代碼實(shí)戰(zhàn)、顯存與性能觀察、常見(jiàn)問(wèn)題排查這幾個(gè)角度展開(kāi)最后給出一套可以直接照著操作的 PyTorch 快速速通路徑。這篇文章適合三類(lèi)讀者剛接觸深度學(xué)習(xí)、還在糾結(jié)第一個(gè)框架的初學(xué)者已經(jīng)在用 TensorFlow 但想了解 PyTorch 用法差異的開(kāi)發(fā)者準(zhǔn)備做本地模型訓(xùn)練、接口集成或批量推理想對(duì)比兩者表現(xiàn)的技術(shù)人員。全程會(huì)給出可復(fù)制命令、示例代碼和判定標(biāo)準(zhǔn)你跟著做就能跑通一個(gè)最簡(jiǎn)單的圖像分類(lèi)任務(wù)并知道下一步該往哪個(gè)方向深入。1. 核心能力速覽兩個(gè)框架的定位差異先看一張速覽表。這里的對(duì)比基于公開(kāi)資料和兩個(gè)框架在各自文檔中公開(kāi)的能力定位具體版本和特性需要以你本機(jī)安裝后的能力為準(zhǔn)。對(duì)比項(xiàng)TensorFlowPyTorch開(kāi)發(fā)團(tuán)隊(duì)Google 主導(dǎo)Meta 主導(dǎo)社區(qū)共同維護(hù)主要接口Keras 為主的高層 API同時(shí)有底層 APItorch.nn、torchvision、torch.nn.functional默認(rèn)計(jì)算圖TensorFlow 2.x 默認(rèn)動(dòng)態(tài)圖但保留tf.function靜態(tài)圖加速路徑動(dòng)態(tài)計(jì)算圖為主torch.compile提供編譯加速調(diào)試體驗(yàn)動(dòng)態(tài)圖模式下接近原生 Python但符號(hào)化邊界需要額外學(xué)習(xí)斷點(diǎn)調(diào)試、打印張量都很直接貼近 PyTorch 張量運(yùn)算本身研究生態(tài)論文復(fù)現(xiàn)代碼有較大比例已遷移或新增采用 PyTorch學(xué)術(shù)論文、開(kāi)源模型、HuggingFace 生態(tài)默認(rèn)支持更好工業(yè)部署TF Serving、TFLite、TensorRT 歷史積累深移動(dòng)端生態(tài)成熟TorchScript、ONNX 導(dǎo)出、TorchServe 能力已補(bǔ)齊工程鏈路成熟度提升明顯移動(dòng)端與邊緣設(shè)備TFLite 在 Android/嵌入式場(chǎng)景優(yōu)勢(shì)明顯ExecuTorch 與 ONNX Runtime 也可覆蓋但工具鏈積累相對(duì)年輕自動(dòng)求導(dǎo)GradientTape學(xué)習(xí)曲線(xiàn)中等autograd機(jī)制清晰便于理解反向傳播分布式訓(xùn)練tf.distribute 體系完善torch.distributed 生態(tài)豐富DeepSpeed、FSDP 等方案響應(yīng)快社區(qū)活躍度存量用戶(hù)多但新內(nèi)容增長(zhǎng)趨緩新模型、新算法、教程增長(zhǎng)速度更快適合新手程度Keras 上手快但深入自定義層、損失函數(shù)時(shí)需要理解更多框架約定代碼風(fēng)格接近 PyTorch 手冊(cè)和論文偽代碼結(jié)構(gòu)和 Python 習(xí)慣一致適合邊讀邊寫(xiě)從實(shí)際選擇的角度看2026 年入門(mén)深度學(xué)習(xí)框架核心問(wèn)題已經(jīng)不是“誰(shuí)更厲害”而是“誰(shuí)更適合你現(xiàn)在的目標(biāo)”。如果你的目標(biāo)是盡快讀懂論文、復(fù)現(xiàn)模型、參與開(kāi)源項(xiàng)目PyTorch 基本是繞不開(kāi)的。如果你的目標(biāo)是 Android 端部署或者接手維護(hù)一套已經(jīng)用 TensorFlow 搭建好的系統(tǒng)那 TensorFlow 相關(guān)技能仍然有需求。2. 2026 年為什么入門(mén)優(yōu)先選 PyTorch關(guān)注度是一回事能不能真正跑通、調(diào)試、改模型是另一回事。從學(xué)習(xí)和實(shí)戰(zhàn)的角度PyTorch 有幾個(gè)非常明顯的好處。2.1 動(dòng)態(tài)計(jì)算圖讓代碼寫(xiě)起來(lái)更像普通 PythonPyTorch 默認(rèn)就是動(dòng)態(tài)計(jì)算圖意味著你可以在計(jì)算過(guò)程中實(shí)時(shí)輸出中間結(jié)果、打印張量形狀、打斷點(diǎn)不需要先把整個(gè)網(wǎng)絡(luò)結(jié)構(gòu)靜態(tài)定義好后再編譯。對(duì)于新手來(lái)說(shuō)這可以極大降低“不知道代碼內(nèi)部發(fā)生了什么”的挫敗感。# PyTorch 里打印中間結(jié)果非常直接 import torch import torch.nn as nn class SimpleNet(nn.Module): def __init__(self): super().__init__() self.fc nn.Linear(4, 2) def forward(self, x): print(input shape:, x.shape) x self.fc(x) print(after linear shape:, x.shape) return x model SimpleNet() input_tensor torch.randn(2, 4) output model(input_tensor)這種代碼風(fēng)格和平時(shí)寫(xiě) Python 函數(shù)沒(méi)有本質(zhì)區(qū)別初學(xué)者不需要額外學(xué)習(xí)“什么是占位符”“什么是會(huì)話(huà)”這類(lèi) TensorFlow 1.x 時(shí)期的概念。雖然 TensorFlow 2.x 使用 Keras 已經(jīng)很接近這種體驗(yàn)但進(jìn)入自定義訓(xùn)練循環(huán)、自定義梯度、混合精度這類(lèi)高級(jí)功能時(shí)PyTorch 的代碼路徑更透明。2.2 學(xué)術(shù)生態(tài)與開(kāi)源模型默認(rèn)對(duì)齊2024 年到 2025 年開(kāi)源社區(qū)發(fā)布的新模型絕大多數(shù)都是 PyTorch 權(quán)重格式。HuggingFace Transformers 也是 PyTorch 優(yōu)先然后再通過(guò)轉(zhuǎn)換工具對(duì)其他框架做適配。這意味著你做以下事情時(shí)選 PyTorch 路徑更順下載預(yù)訓(xùn)練模型做微調(diào)跑最新視覺(jué)、語(yǔ)言、多模態(tài)論文的官方代碼讀開(kāi)源項(xiàng)目源碼改造自己的訓(xùn)練流程。如果你完全不考慮論文復(fù)現(xiàn)和開(kāi)源模型只用 TensorFlow 的高層 Keras 接口也能實(shí)現(xiàn)同樣的結(jié)果。但是在 2026 年這個(gè)節(jié)點(diǎn)PyTorch 生態(tài)的新內(nèi)容密度明顯更高。2.3 部署鏈路已經(jīng)補(bǔ)齊過(guò)去很長(zhǎng)一段時(shí)間里TensorFlow 在生產(chǎn)部署方面的優(yōu)勢(shì)是公認(rèn)的。TF Serving 穩(wěn)定TFLite 覆蓋移動(dòng)端TensorRT 集成成熟。但現(xiàn)在 PyTorch 的部署鏈路也已經(jīng)能覆蓋絕大多數(shù)場(chǎng)景通過(guò)torch.onnx.export導(dǎo)出 ONNX 模型再交給 ONNX Runtime 或 TensorRT 部署TorchScript 可以導(dǎo)出靜態(tài)化模型適合需要固定計(jì)算圖的場(chǎng)景TorchServe 提供模型部署服務(wù)支持 RESTful API動(dòng)態(tài)批量、模型版本管理、推理日志這些能力都有對(duì)應(yīng)組件。所以除非你的部署環(huán)境特別依賴(lài) TFLite 的移動(dòng)端工具鏈否則 PyTorch 訓(xùn)練 ONNX/TensorRT 推理已經(jīng)是非常成熟的組合。2.4 TensorFlow 仍然存在的原因?qū)戇@篇文章不是勸你完全不看 TensorFlow。實(shí)際工作中仍然會(huì)碰到這些場(chǎng)景已有系統(tǒng)用 TensorFlow 搭建需要維護(hù)和擴(kuò)展移動(dòng)端 Android 部署場(chǎng)景中 TFLite 工具鏈依然完善某些特定垂直解決方案的底層模型原生使用 TensorFlow團(tuán)隊(duì)統(tǒng)一技術(shù)棧就是 TensorFlow加入后需要跟隨團(tuán)隊(duì)約定。所以更理性的建議是入門(mén)用 PyTorch 理解深度學(xué)習(xí)的核心邏輯同時(shí)花一兩天時(shí)間了解 TensorFlow/Keras 的接口長(zhǎng)什么樣。這樣面對(duì)不同項(xiàng)目時(shí)你能快速判斷該用哪個(gè)框架而不是被框架綁定。3. 適用場(chǎng)景與使用邊界3.1 適合選 PyTorch 的場(chǎng)景場(chǎng)景推薦程度說(shuō)明論文復(fù)現(xiàn)與人臉、語(yǔ)音、NLP 研究強(qiáng)烈推薦開(kāi)源模型和代碼主要以 PyTorch 為主快速原型驗(yàn)證強(qiáng)烈推薦動(dòng)態(tài)圖調(diào)試方便改網(wǎng)絡(luò)結(jié)構(gòu)成本低本地小規(guī)模訓(xùn)練與微調(diào)推薦單卡訓(xùn)練配置簡(jiǎn)單顯存控制靈活模型導(dǎo)出到 ONNX/TensorRT 做服務(wù)化推理推薦導(dǎo)出流程成熟社區(qū)資料多移動(dòng)端部署一般工具鏈可用但 TFLite 生態(tài)積累更久3.2 適合選 TensorFlow 的場(chǎng)景場(chǎng)景推薦程度說(shuō)明維護(hù)老項(xiàng)目視情況項(xiàng)目已經(jīng)用 TF 開(kāi)發(fā)框架遷移成本高Android 端輕量模型部署推薦TFLite 工具鏈與 Android Studio 集成完善企業(yè)內(nèi)部統(tǒng)一平臺(tái)視情況如果平臺(tái)組件都是 TF Serving采用 TF 更順追求高層 API 快速搭建一般Keras 確實(shí)簡(jiǎn)單但 PyTorch 的 Lightning 等庫(kù)也能做到3.3 使用邊界與合規(guī)提醒無(wú)論選擇哪個(gè)框架都需要注意以下幾點(diǎn)下載訓(xùn)練數(shù)據(jù)、預(yù)訓(xùn)練模型時(shí)確認(rèn)數(shù)據(jù)集的授權(quán)條款和模型的開(kāi)放協(xié)議涉及人臉圖像、聲音、個(gè)人隱私數(shù)據(jù)時(shí)必須獲得明確授權(quán)后再訓(xùn)練、測(cè)試或商用模型部署到公網(wǎng)服務(wù)時(shí)需要加訪問(wèn)控制、鑒權(quán)機(jī)制避免算力和數(shù)據(jù)被濫用大模型微調(diào)、圖像生成、語(yǔ)音合成等能力存在內(nèi)容濫用風(fēng)險(xiǎn)使用前要確認(rèn)用途符合法律法規(guī)和平臺(tái)要求。4. 本地開(kāi)發(fā)環(huán)境準(zhǔn)備4.1 硬件與系統(tǒng)檢查不同項(xiàng)目對(duì)硬件要求差異很大。如果你的目標(biāo)只是入門(mén)跑通 MNIST、CIFAR-10 這類(lèi)任務(wù)純 CPU 也可以完成只是訓(xùn)練較慢。如果準(zhǔn)備訓(xùn)練稍大的圖像模型或微調(diào)預(yù)訓(xùn)練模型建議準(zhǔn)備一塊獨(dú)立顯卡VRAM 至少 6GB理想情況下 8GB 以上。具體顯存需求由模型參數(shù)量、輸入分辨率、批次大小共同決定沒(méi)有統(tǒng)一標(biāo)準(zhǔn)。先確認(rèn)系統(tǒng)和顯卡驅(qū)動(dòng)狀態(tài)。Windows、Linux、macOS 都可以做 PyTorch 和 TensorFlow 開(kāi)發(fā)但 GPU 加速在 NVIDIA 顯卡 Linux/Windows 下支持最好。macOS 只能利用 Metal 或者純 CPU 方式訓(xùn)練使用場(chǎng)景受限。# Linux 下查看顯卡和驅(qū)動(dòng) nvidia-smi # 如果 nvidia-smi 不存在說(shuō)明驅(qū)動(dòng)未安裝或未正確配置 lspci | grep -i nvidia4.2 Python 環(huán)境管理無(wú)論安裝哪一個(gè)深度學(xué)習(xí)框架都建議先創(chuàng)建一個(gè)獨(dú)立的虛擬環(huán)境避免把系統(tǒng) Python 搞亂。推薦使用 Anaconda 或 Miniforge 管理環(huán)境。創(chuàng)建環(huán)境并指定 Python 版本# 創(chuàng)建 Python 3.10 環(huán)境名稱(chēng)設(shè)為 dl conda create -n dl python3.10 -y # 激活環(huán)境 conda activate dl # 檢查 Python 版本 python --version如果不想用 conda也可以用 Python 內(nèi)置的venvpython -m venv dl-env # Windows 激活 dl-env\Scripts\activate # Linux/macOS 激活 source dl-env/bin/activate4.3 顯卡驅(qū)動(dòng)與 CUDA 版本檢查PyTorch 和 TensorFlow 的 GPU 版本安裝關(guān)鍵是確認(rèn)三個(gè)東西NVIDIA 顯卡驅(qū)動(dòng)版本CUDA 環(huán)境變量是否生效cuDNN 是否匹配。如果是 2024 年以后的新顯卡驅(qū)動(dòng)版本通常已經(jīng)覆蓋新版 CUDA。穩(wěn)妥的做法是先執(zhí)行nvidia-smi查看右上角的 CUDA 版本支持情況再根據(jù)框架官方文檔選擇安裝對(duì)應(yīng) CUDA 加速的包。注意一點(diǎn)nvidia-smi顯示的 CUDA 版本代表驅(qū)動(dòng)支持的最高 CUDA 版本不等于當(dāng)前環(huán)境里已經(jīng)裝了對(duì)應(yīng) CUDA 開(kāi)發(fā)套件。PyTorch 的 pip/conda 安裝包通常自帶運(yùn)行時(shí)依賴(lài)不需要額外安裝完整 CUDA Toolkit。5. 框架安裝與部署5.1 安裝 PyTorchPyTorch 官方提供了安裝命令生成頁(yè)選擇操作系統(tǒng)、安裝工具和 CUDA 版本后會(huì)自動(dòng)給出命令。這里給出兩條常見(jiàn)命令實(shí)際版本號(hào)請(qǐng)以官方文檔為準(zhǔn)。# CPU 版本 pip install torch torchvision torchaudio # CUDA 版本示例安裝時(shí)會(huì)自動(dòng)拉取對(duì)應(yīng) CUDA 運(yùn)行時(shí) pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121國(guó)內(nèi)網(wǎng)絡(luò)環(huán)境下直接訪問(wèn)下載源可能較慢可以切換為國(guó)內(nèi)鏡像源pip install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple注意鏡像源一般只提供 CPU 或不區(qū)分 CUDA 的包。如果要裝 GPU 版建議優(yōu)先使用官方 index-url或者確認(rèn)鏡像是否同步了對(duì)應(yīng)的 CUDA 包。5.2 安裝 TensorFlowTensorFlow 同樣建議在虛擬環(huán)境中安裝。CPU 和 GPU 版本使用同一個(gè)包名安裝時(shí)根據(jù)系統(tǒng)自動(dòng)選擇。# CPU / GPU 版本通用安裝命令 pip install tensorflow如果只是快速了解 TensorFlow 的代碼結(jié)構(gòu)CPU 版本足夠。生產(chǎn)環(huán)境需要 GPU 加速時(shí)再根據(jù) TensorFlow 官方要求選擇對(duì)應(yīng) CUDA 版本。5.3 安裝驗(yàn)證安裝完成后先檢查框架能否正常導(dǎo)入再檢查 GPU 是否可用。# Python 環(huán)境里驗(yàn)證 PyTorch import torch print(PyTorch version:, torch.__version__) print(CUDA available:, torch.cuda.is_available()) if torch.cuda.is_available(): print(GPU name:, torch.cuda.get_device_name(0))# Python 環(huán)境里驗(yàn)證 TensorFlow import tensorflow as tf print(TensorFlow version:, tf.__version__) print(GPU available:, tf.config.list_physical_devices(GPU))如果CUDA available為False或GPU available列表為空說(shuō)明驅(qū)動(dòng)、CUDA 版本和安裝包之間不匹配需要回到第 4 節(jié)和第 5 節(jié)檢查。6. 快速實(shí)戰(zhàn)用同一個(gè)圖像分類(lèi)任務(wù)比較兩種框架下面用一個(gè)最簡(jiǎn)單的全連接網(wǎng)絡(luò)在 MNIST 灰度圖像數(shù)據(jù)上做分類(lèi)分別展示 PyTorch 和 TensorFlow/Keras 的代碼結(jié)構(gòu)。這個(gè)任務(wù)不追求精度重點(diǎn)是比較代碼手感。6.1 數(shù)據(jù)集準(zhǔn)備MNIST 是深度學(xué)習(xí)最常見(jiàn)的入門(mén)數(shù)據(jù)集。PyTorch 和 TensorFlow 都有直接下載數(shù)據(jù)集的模塊不需要手動(dòng)找文件。6.2 PyTorch 實(shí)現(xiàn)import torch import torch.nn as nn from torch.utils.data import DataLoader from torchvision import datasets, transforms # 數(shù)據(jù)預(yù)處理轉(zhuǎn)張量、標(biāo)準(zhǔn)化 transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ]) # 下載并加載訓(xùn)練集、測(cè)試集 train_data datasets.MNIST(root./data, trainTrue, downloadTrue, transformtransform) test_data datasets.MNIST(root./data, trainFalse, downloadTrue, transformtransform) train_loader DataLoader(train_data, batch_size64, shuffleTrue) test_loader DataLoader(test_data, batch_size64, shuffleFalse) # 定義一個(gè)簡(jiǎn)單全連接網(wǎng)絡(luò) class MLP(nn.Module): def __init__(self): super().__init__() self.net nn.Sequential( nn.Flatten(), nn.Linear(28 * 28, 128), nn.ReLU(), nn.Linear(128, 10) ) def forward(self, x): return self.net(x) model MLP() criterion nn.CrossEntropyLoss() optimizer torch.optim.Adam(model.parameters(), lr0.001) # 訓(xùn)練兩個(gè) epoch for epoch in range(2): for images, labels in train_loader: # 清空梯度 optimizer.zero_grad() # 前向傳播 outputs model(images) # 計(jì)算損失 loss criterion(outputs, labels) # 反向傳播 loss.backward() # 更新參數(shù) optimizer.step() print(fEpoch {epoch1}, Loss: {loss.item():.4f}) # 測(cè)試準(zhǔn)確率 correct 0 total 0 with torch.no_grad(): for images, labels in test_loader: outputs model(images) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() print(fTest Accuracy: {100 * correct / total:.2f}%)從這段代碼可以看到 PyTorch 的核心流程繼承nn.Module定義網(wǎng)絡(luò)結(jié)構(gòu)在forward里寫(xiě)前向傳播邏輯自定義訓(xùn)練循環(huán)手動(dòng)調(diào)用zero_grad、backward、step使用torch.no_grad()控制測(cè)試階段梯度計(jì)算。這種寫(xiě)法看起來(lái)比 Keras 啰嗦但訓(xùn)練流程完全透明非常適合理解深度學(xué)習(xí)到底在做什么。6.3 TensorFlow / Keras 實(shí)現(xiàn)import tensorflow as tf # 加載 MNIST (x_train, y_train), (x_test, y_test) tf.keras.datasets.mnist.load_data() # 數(shù)據(jù)預(yù)處理 x_train x_train.astype(float32) / 255.0 x_test x_test.astype(float32) / 255.0 # 構(gòu)建模型使用 Keras 序列式 API model tf.keras.Sequential([ tf.keras.layers.Flatten(input_shape(28, 28)), tf.keras.layers.Dense(128, activationrelu), tf.keras.layers.Dense(10, activationsoftmax) ]) # 編譯模型 model.compile( optimizeradam, losssparse_categorical_crossentropy, metrics[accuracy] ) # 訓(xùn)練 model.fit(x_train, y_train, epochs2, batch_size64, validation_data(x_test, y_test))Keras 的高層封裝非常簡(jiǎn)潔兩三行就能完成模型構(gòu)建和訓(xùn)練。這也是 TensorFlow 適合快速原型開(kāi)發(fā)的原因。但當(dāng)你想自定義訓(xùn)練循環(huán)、控制梯度、插入特殊邏輯時(shí)還是要學(xué)習(xí) TensorFlow 的自定義訓(xùn)練方式。6.4 兩種寫(xiě)法的差異點(diǎn)對(duì)比維度PyTorchTensorFlow / Keras模型定義nn.Module子類(lèi) forward方法Sequential或 Functional API訓(xùn)練流程手動(dòng)寫(xiě)循環(huán)邏輯透明model.fit()封裝程度高打印調(diào)試直接在forward里加print動(dòng)態(tài)圖模式也可以打印但在tf.function里受限自定義復(fù)雜度低到高都可以平滑過(guò)渡高層 API 很順手底層 API 學(xué)習(xí)曲線(xiàn)稍陡學(xué)習(xí)核心概念反向傳播、損失、優(yōu)化器都要親手接觸容易忽視內(nèi)部細(xì)節(jié)從入門(mén)教學(xué)內(nèi)容的角度看PyTorch 更“樸素”你不寫(xiě)訓(xùn)練循環(huán)模型就不會(huì)自己學(xué)。這種“麻煩”反而能幫助新手建立正確的深度學(xué)習(xí)直覺(jué)。等你理解了訓(xùn)練流程后再封裝自己的訓(xùn)練函數(shù)或使用 Lightning 這類(lèi)庫(kù)會(huì)比一開(kāi)始就只用model.fit()理解得更深。7. 資源占用與性能觀察7.1 顯存與內(nèi)存怎么看訓(xùn)練深度學(xué)習(xí)模型時(shí)常見(jiàn)的關(guān)鍵指標(biāo)是顯存占用、內(nèi)存占用、GPU 利用率、功耗和溫度。最簡(jiǎn)單的方式是另開(kāi)一個(gè)終端實(shí)時(shí)刷新nvidia-smi# 每 1 秒刷新一次顯存和 GPU 使用情況 watch -n 1 nvidia-smiWindows 上可以使用# PowerShell 下每秒刷新 nvidia-smi -l 1觀察顯存占用時(shí)要區(qū)分“模型參數(shù)占用的顯存”和“訓(xùn)練時(shí)中間激活值占用的顯存”。訓(xùn)練同一個(gè)模型時(shí)批量大小越大中間激活值占用的顯存越多。7.2 性能觀察要點(diǎn)在訓(xùn)練腳本里加入簡(jiǎn)單的時(shí)間統(tǒng)計(jì)可以直觀感受到 CPU 和 GPU 的差異import time start time.time() for epoch in range(1): for images, labels in train_loader: optimizer.zero_grad() outputs model(images) loss criterion(outputs, labels) loss.backward() optimizer.step() end time.time() print(fOne epoch time: {end - start:.2f}s)一般來(lái)說(shuō)同樣規(guī)模的模型GPU 訓(xùn)練會(huì)比 CPU 快幾十倍。如果你的機(jī)器只有 CPU不要急著訓(xùn)練大模型先把代碼邏輯跑通再用小批量、小分辨率驗(yàn)證流程最后換到 GPU 環(huán)境。7.3 如何降低顯存占用如果訓(xùn)練時(shí)出現(xiàn)OutOfMemoryError可以按順序嘗試減小batch_size這是最直接有效的辦法降低輸入圖片分辨率減少模型中間通道數(shù)或?qū)訑?shù)開(kāi)啟混合精度訓(xùn)練例如 PyTorch 的torch.cuda.amp使用梯度累積但這不是首選因?yàn)闀?huì)增加代碼復(fù)雜度。# PyTorch 混合精度訓(xùn)練簡(jiǎn)寫(xiě) from torch.cuda.amp import autocast, GradScaler scaler GradScaler() for images, labels in train_loader: optimizer.zero_grad() with autocast(): outputs model(images) loss criterion(outputs, labels) scaler.scale(loss).backward() scaler.step(optimizer) scaler.update()顯存占用沒(méi)有統(tǒng)一數(shù)字必須以你本機(jī)的任務(wù)規(guī)模、模型結(jié)構(gòu)和批次大小為準(zhǔn)。換卡、換批次、換模型結(jié)果都會(huì)不同。8. 常見(jiàn)問(wèn)題與排查方法問(wèn)題現(xiàn)象可能原因排查方式解決方案安裝依賴(lài)失敗網(wǎng)絡(luò)源不穩(wěn)定、Python 版本不匹配查看 pip 報(bào)錯(cuò)信息確認(rèn) Python 版本換國(guó)內(nèi)鏡像源創(chuàng)建獨(dú)立虛擬環(huán)境指定適配的 Python 版本torch.cuda.is_available()返回 False顯卡驅(qū)動(dòng)版本過(guò)低或安裝的 PyTorch 版本與 CUDA 不匹配運(yùn)行nvidia-smi確認(rèn)驅(qū)動(dòng) CUDA 版本升級(jí)驅(qū)動(dòng)或安裝與驅(qū)動(dòng)匹配的 CUDA 版 PyTorch訓(xùn)練時(shí)報(bào)顯存不足batch size 過(guò)大、輸入分辨率過(guò)高、模型參數(shù)過(guò)多查看nvidia-smi的顯存占用減小 batch size降低分辨率開(kāi)啟混合精度訓(xùn)練啟動(dòng)訓(xùn)練后 GPU 利用率很低數(shù)據(jù)加載成為瓶頸、CPU 處理數(shù)據(jù)太慢觀察 CPU 使用率和 GPU 利用率增加num_workers使用DataLoader(num_workers4)或優(yōu)化數(shù)據(jù)預(yù)處理流程TensorFlow 找不到 GPUCUDA/cuDNN 版本不匹配調(diào)用tf.config.list_physical_devices(GPU)查看輸出按 TensorFlow 官方安裝文檔匹配 CUDA 和 cuDNN 版本下載數(shù)據(jù)集卡住網(wǎng)絡(luò)原因或數(shù)據(jù)源地址不可訪問(wèn)觀察終端下載進(jìn)度檢查網(wǎng)絡(luò)連通性使用代理或手動(dòng)下載后放到本地?cái)?shù)據(jù)目錄訓(xùn)練結(jié)果準(zhǔn)確率很低學(xué)習(xí)率不合適、網(wǎng)絡(luò)結(jié)構(gòu)過(guò)簡(jiǎn)單、數(shù)據(jù)預(yù)處理錯(cuò)誤打印 loss 曲線(xiàn)檢查標(biāo)簽和輸入數(shù)據(jù)調(diào)低學(xué)習(xí)率增加模型容量核對(duì)數(shù)據(jù)預(yù)處理流程Jupyter 內(nèi)核崩潰內(nèi)存不足或版本沖突查看系統(tǒng)日志檢查 Jupyter 內(nèi)核版本減小模型規(guī)模重啟內(nèi)核清理內(nèi)存殘留進(jìn)程API 調(diào)用失敗服務(wù)未啟動(dòng)、端口被占用、請(qǐng)求參數(shù)錯(cuò)誤檢查服務(wù)狀態(tài)、端口監(jiān)聽(tīng)、接口文檔重啟服務(wù)更換端口按接口文檔調(diào)整請(qǐng)求格式8.1 端口沖突排查本地啟動(dòng) API 服務(wù)或 Jupyter Notebook 時(shí)端口被占用是常見(jiàn)問(wèn)題。# Linux / macOS 查看端口占用 lsof -i :7860 # Windows 查看端口占用 netstat -ano | findstr 7860查到占用進(jìn)程后可以結(jié)束對(duì)應(yīng)進(jìn)程也可以換一個(gè)端口啟動(dòng)服務(wù)。PyTorch 或 TensorFlow 本身不固定占用端口但項(xiàng)目里如果用了 WebUI 服務(wù)、模型推理服務(wù)就需要注意端口規(guī)劃。9. 最佳實(shí)踐與學(xué)習(xí)路線(xiàn)9.1 給入門(mén)的實(shí)踐順序先不要急著把框架所有功能都學(xué)完。建議按以下順序走一遍熟練張量操作創(chuàng)建張量、索引、切片、reshape、矩陣乘法理解自動(dòng)求導(dǎo)用torch.autograd手動(dòng)計(jì)算一個(gè)簡(jiǎn)單函數(shù)的梯度用 PyTorch 實(shí)現(xiàn)線(xiàn)性回歸理解loss、optimizer、backward的關(guān)系用 PyTorch 實(shí)現(xiàn) MNIST 分類(lèi)掌握 DataLoader 和nn.Module改用torchvision.models里的現(xiàn)成模型做 CIFAR-10 分類(lèi)學(xué)習(xí)如何保存和加載模型權(quán)重學(xué)習(xí)模型導(dǎo)出為 ONNX并調(diào)用 ONNX Runtime 做一次推理。這個(gè)路徑大約需要兩周到一個(gè)月具體時(shí)間取決于你每天投入的時(shí)長(zhǎng)。走完之后你會(huì)對(duì)深度學(xué)習(xí)訓(xùn)練的全流程有完整理解。9.2 工程化建議這里是我建議長(zhǎng)期形成的習(xí)慣每個(gè)項(xiàng)目單獨(dú)創(chuàng)建虛擬環(huán)境使用requirements.txt或conda env export固化依賴(lài)數(shù)據(jù)文件、模型文件、日志、輸出結(jié)果分目錄存放訓(xùn)練腳本里固定隨機(jī)種子保證結(jié)果可復(fù)現(xiàn)模型訓(xùn)練前先跑一個(gè)極小批次確認(rèn)代碼鏈路沒(méi)有問(wèn)題再全量訓(xùn)練批量推理任務(wù)要加上日志和失敗重試機(jī)制避免任務(wù)中間失敗后從頭再來(lái)部署 API 服務(wù)時(shí)限制服務(wù)監(jiān)聽(tīng)地址和訪問(wèn)權(quán)限不要在公網(wǎng)直接暴露涉及人臉、聲音、版權(quán)素材時(shí)必須確認(rèn)已獲得授權(quán)并記錄數(shù)據(jù)來(lái)源。9.3 接口與批量任務(wù)擴(kuò)展方向入門(mén)階段可以先不碰部署但實(shí)際工作中很可能需要把訓(xùn)練好的模型包裝成 HTTP 接口供上游系統(tǒng)調(diào)用。PyTorch 的部署思路通常是把模型導(dǎo)出為 ONNX再使用 ONNX Runtime 部署也可以直接用 FastAPI 封裝推理邏輯。# FastAPI PyTorch 推理接口示例需要按實(shí)際項(xiàng)目調(diào)整路徑和預(yù)處理邏輯 from fastapi import FastAPI import torch import torch.nn.functional as F app FastAPI() # 這里假設(shè)你已經(jīng)訓(xùn)練好了模型并保存為 model.pth model torch.nn.Linear(4, 2) model.load_state_dict(torch.load(model.pth, map_locationcpu)) model.eval() app.post(/predict) def predict(input_tensor: list): x torch.tensor(input_tensor, dtypetorch.float32) with torch.no_grad(): output model(x) return {output: output.tolist()}啟動(dòng)服務(wù)后可以用下面的 Python 代碼測(cè)試import requests url http://127.0.0.1:8000/predict payload { input_tensor: [[1.0, 2.0, 3.0, 4.0]] } response requests.post(url, jsonpayload, timeout30) print(response.json())批量推理時(shí)建議把輸入數(shù)據(jù)整理成目錄或列表逐條讀取、逐條推理、逐條寫(xiě)結(jié)果并記錄每一條的成功/失敗狀態(tài)方便斷點(diǎn)續(xù)跑。10. 總結(jié)與下一步2026 年這個(gè)節(jié)點(diǎn)入門(mén)深度學(xué)習(xí)框架的選擇已經(jīng)沒(méi)有太多懸念沒(méi)有特殊部署約束時(shí)PyTorch 是更穩(wěn)妥的起點(diǎn)。它的代碼風(fēng)格貼近 Python 直覺(jué)調(diào)試直接學(xué)術(shù)生態(tài)和開(kāi)源模型支持更好部署鏈路也足夠成熟。TensorFlow 依然有價(jià)值但更適合已經(jīng)有明確部署需求或存量項(xiàng)目維護(hù)需求的場(chǎng)景。這篇文章值得收藏備用不是因?yàn)榻Y(jié)論有多新而是文中給出了一套可以立即執(zhí)行的路徑先創(chuàng)建獨(dú)立 Python 環(huán)境安裝 PyTorch跑通 MNIST 分類(lèi)觀察顯存和性能再?lài)L試導(dǎo)出 ONNX 做服務(wù)化推理。建議你先把第一個(gè)圖像分類(lèi)任務(wù)完整跑一遍體會(huì)forward、loss、backward、step四個(gè)步驟之間的邏輯。最容易踩的坑有兩類(lèi)第一是環(huán)境問(wèn)題顯卡驅(qū)動(dòng)和 CUDA 版本不匹配會(huì)導(dǎo)致 GPU 不可用第二是過(guò)早追求大模型在顯存不夠的情況下強(qiáng)行訓(xùn)練導(dǎo)致花大量時(shí)間排查環(huán)境問(wèn)題。建議先用小模型、小數(shù)據(jù)集跑通流程再逐漸加大規(guī)模和復(fù)雜度。下一步可以按照自己的方向深入想做計(jì)算機(jī)視覺(jué)就多看 torchvision 和經(jīng)典卷積網(wǎng)絡(luò)結(jié)構(gòu)想做自然語(yǔ)言處理就從 Transformer 和 HuggingFace 生態(tài)入手想從事部署方向就重點(diǎn)學(xué) ONNX 導(dǎo)出和接口封裝?？蚣苤皇枪ぞ呃斫鈹?shù)據(jù)如何在模型里流動(dòng)、損失如何回傳、參數(shù)如何更新才是深度學(xué)習(xí)入門(mén)階段最值得花時(shí)間的事。