簡(jiǎn)介這是一套基于Python與神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)的手寫(xiě)數(shù)字識(shí)別系統(tǒng)選題經(jīng)典且完成度較高適合計(jì)算機(jī)相關(guān)專(zhuān)業(yè)學(xué)生用于畢業(yè)設(shè)計(jì)、課程設(shè)計(jì)或人工智能入門(mén)實(shí)踐。項(xiàng)目以MNIST手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集為訓(xùn)練樣本通過(guò)深度神經(jīng)網(wǎng)絡(luò)模型提取圖像特征并預(yù)測(cè)數(shù)字完整覆蓋數(shù)據(jù)預(yù)處理、模型構(gòu)建、訓(xùn)練評(píng)估與界面集成等環(huán)節(jié)同時(shí)附帶需求分析規(guī)格說(shuō)明書(shū)與登錄模塊測(cè)試用例便于參照規(guī)范撰寫(xiě)畢設(shè)文檔。資源共18個(gè)文件壓縮包約11.11MB主要包括rar格式的MNIST數(shù)據(jù)壓縮包含訓(xùn)練集與測(cè)試集、py格式的模型訓(xùn)練與演示代碼、docx格式的需求分析和測(cè)試文檔、txt與md格式的使用說(shuō)明以及sql格式的登錄注冊(cè)界面腳本結(jié)構(gòu)清晰代碼與文檔配套完整。目前已有96人學(xué)習(xí)或下載讀者可從中獲得一個(gè)可直接運(yùn)行的數(shù)字識(shí)別項(xiàng)目、一套規(guī)范的畢設(shè)文檔框架以及基于神經(jīng)網(wǎng)絡(luò)處理圖像分類(lèi)任務(wù)的完整實(shí)現(xiàn)思路適合快速搭建同類(lèi)課題并補(bǔ)充項(xiàng)目細(xì)節(jié)。1. 數(shù)字識(shí)別系統(tǒng)不是“識(shí)別”問(wèn)題而是“工程化”問(wèn)題把“基于Python的數(shù)字識(shí)別系統(tǒng)”這個(gè)標(biāo)題拆開(kāi)看真正決定畢設(shè)分?jǐn)?shù)高低的不是那幾行模型代碼而是數(shù)據(jù)有沒(méi)有處理好、訓(xùn)練和評(píng)估流程是不是完整、最終能不能給別人演示。數(shù)字識(shí)別系統(tǒng)本身是一個(gè)非常成熟的領(lǐng)域MNIST上隨便一個(gè)簡(jiǎn)單模型都能跑到97%以上所以高分的關(guān)鍵在于你有沒(méi)有把一個(gè)“識(shí)別算法”做成一個(gè)“系統(tǒng)”。這套系統(tǒng)通常包括數(shù)據(jù)采集、預(yù)處理、模型訓(xùn)練、評(píng)估分析、界面展示五部分適合計(jì)算機(jī)、電子信息、自動(dòng)化等方向的畢設(shè)選題。別急著上CNN先把流程跑通再用模型提精度這才是最穩(wěn)的路線。2. 從MNIST到自己的手寫(xiě)數(shù)字?jǐn)?shù)據(jù)準(zhǔn)備與標(biāo)注格式2.1 數(shù)據(jù)集選型為什么首選MNIST而不是自己拍照數(shù)字識(shí)別系統(tǒng)的數(shù)據(jù)來(lái)源有三種常見(jiàn)選擇MNIST公開(kāi)數(shù)據(jù)集、MNIST的擴(kuò)展版本比如USPS、SVHN、自己采集的手寫(xiě)數(shù)字圖片。對(duì)于畢設(shè)來(lái)說(shuō)我一般建議主用MNIST因?yàn)樗沁@個(gè)領(lǐng)域的事實(shí)標(biāo)準(zhǔn)60000張訓(xùn)練圖、10000張測(cè)試圖每張都是28x28像素的灰度圖標(biāo)簽就是0-9的數(shù)字格式干凈不需要花時(shí)間清洗。更重要的是答辯時(shí)評(píng)委一聽(tīng)你用的是MNIST立刻就知道你的任務(wù)定義是清晰的不會(huì)在數(shù)據(jù)來(lái)源上糾纏。但只用MNIST也有問(wèn)題評(píng)委可能會(huì)問(wèn)“你拿別人的數(shù)據(jù)集做的系統(tǒng)能算你自己的成果嗎”。所以高分的常見(jiàn)做法是“公開(kāi)數(shù)據(jù)集做訓(xùn)練和指標(biāo)評(píng)估自己采集的數(shù)據(jù)做系統(tǒng)演示”。你可以用攝像頭拍打印的數(shù)字、用鼠標(biāo)在畫(huà)布上手寫(xiě)數(shù)字、甚至用手機(jī)拍屏幕上的數(shù)字然后跑一遍完整的識(shí)別流程。這不只是為了展示而是能證明你的系統(tǒng)在實(shí)際輸入下確實(shí)能工作而不只是在MNIST這種理想數(shù)據(jù)上有效。2.2 用Python腳本把數(shù)據(jù)集轉(zhuǎn)成訓(xùn)練/驗(yàn)證/測(cè)試三份MNIST原始數(shù)據(jù)格式是IDX文件直接用深度學(xué)習(xí)框架下載倒是很簡(jiǎn)單但如果你想用scikit-learn或者自己寫(xiě)預(yù)處理建議先轉(zhuǎn)成普通格式比如每個(gè)數(shù)字一個(gè)文件夾、或者一個(gè)CSV清單。常見(jiàn)做法是先把數(shù)據(jù)拆成三份訓(xùn)練集、驗(yàn)證集、測(cè)試集。訓(xùn)練集用來(lái)學(xué)參數(shù)驗(yàn)證集用來(lái)調(diào)超參數(shù)測(cè)試集留到最后評(píng)估。很多初學(xué)者只拆兩份最后調(diào)參時(shí)拿測(cè)試集反復(fù)試導(dǎo)致測(cè)試集“被污染”指標(biāo)虛高答辯時(shí)一問(wèn)就翻車(chē)。import numpy as np from sklearn.datasets import fetch_openml from sklearn.model_selection import train_test_split # 第一次運(yùn)行會(huì)下載數(shù)據(jù)之后會(huì)自動(dòng)緩存到本地 mnist fetch_openml(mnist_784, version1, as_frameFalse, parserpandas) X, y mnist.data.astype(np.float32), mnist.target.astype(np.int32) # 先拆訓(xùn)練驗(yàn)證 / 測(cè)試比例 9:1 X_train_val, X_test, y_train_val, y_test train_test_split( X, y, test_size10000, random_state42, stratifyy) # 再?gòu)挠?xùn)練驗(yàn)證里拆訓(xùn)練 / 驗(yàn)證驗(yàn)證集取5000張 X_train, X_val, y_train, y_val train_test_split( X_train_val, y_train_val, test_size5000, random_state42, stratifyy_train_val) np.savez_compressed(mnist_split.npz, X_trainX_train, y_trainy_train, X_valX_val, y_valy_val, X_testX_test, y_testy_test) print(訓(xùn)練集:, X_train.shape, 驗(yàn)證集:, X_val.shape, 測(cè)試集:, X_test.shape)這里的test_size10000表示從MNIST原始6000010000的結(jié)構(gòu)中單獨(dú)留出10000張做最終測(cè)試stratifyy按數(shù)字類(lèi)別比例抽樣避免某類(lèi)數(shù)字在某個(gè)集合里過(guò)多或過(guò)少。驗(yàn)證集5000張是調(diào)參用的調(diào)參過(guò)程中可以反復(fù)看它的結(jié)果但測(cè)試集只在最終評(píng)估時(shí)碰一次。np.savez_compressed把切分結(jié)果打包成一個(gè)文件后面訓(xùn)練時(shí)直接加載不用每次都重新下載和切分。這個(gè)腳本里多加了一個(gè)random_state42保證復(fù)現(xiàn)。2.3 圖像預(yù)處理參數(shù)歸一化、二值化、尺寸統(tǒng)一如果你要做“自己的手寫(xiě)數(shù)字識(shí)別”就一定繞不過(guò)預(yù)處理這一步。MNIST數(shù)據(jù)已經(jīng)是很規(guī)整的28x28灰度圖但攝像頭拍出來(lái)的數(shù)字往往是彩色的、背景復(fù)雜的、位置歪斜的。常見(jiàn)的預(yù)處理流程是讀取圖像 - 轉(zhuǎn)灰度 - 二值化 - 去掉多余空白 - 縮放并居中到28x28 - 歸一化。import cv2 import numpy as np def preprocess_image(img_path, target_size28): 把一張任意尺寸的圖片轉(zhuǎn)成模型可用的28x28灰度圖 img cv2.imread(img_path) if img is None: raise ValueError(f無(wú)法讀取圖片: {img_path}) gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 常用參數(shù): THRESH_BINARY_INV OTSU自動(dòng)計(jì)算閾值 _, binary cv2.threshold(gray, 0, 255, cv2.THRESH_BINARY_INV cv2.THRESH_OTSU) # 找到數(shù)字區(qū)域并裁剪去掉多余的黑色邊框 coords cv2.findNonZero(binary) x, y, w, h cv2.boundingRect(coords) digit binary[y:yh, x:xw] # 保持寬高比縮放到20x20然后貼在28x28的黑色畫(huà)布中央 scale target_size * 0.8 / max(digit.shape) resized cv2.resize(digit, (int(digit.shape[1] * scale), int(digit.shape[0] * scale))) canvas np.zeros((target_size, target_size), dtypenp.uint8) x_offset (target_size - resized.shape[1]) // 2 y_offset (target_size - resized.shape[0]) // 2 canvas[y_offset:y_offset resized.shape[0], x_offset:x_offset resized.shape[1]] resized # 歸一化到0-1之間并轉(zhuǎn)成(1, 28, 28)的通道格式 normalized canvas.astype(np.float32) / 255.0 return normalized.reshape(1, target_size, target_size)這段代碼有四個(gè)參數(shù)要重點(diǎn)理解。第一個(gè)是cv2.THRESH_BINARY_INV cv2.THRESH_OTSU因?yàn)镸NIST是黑底白字如果用普通二值化白紙黑字的照片會(huì)被反掉模型看到的和訓(xùn)練數(shù)據(jù)正好相反識(shí)別率會(huì)急劇下降。第二個(gè)是findNonZero和boundingRect用來(lái)裁掉數(shù)字周?chē)目瞻鬃寯?shù)字盡量占滿畫(huà)面。第三個(gè)是0.8這個(gè)比例意思是縮放后數(shù)字占28x28畫(huà)布的80%留出10%左右的邊距。第四個(gè)是/255.0歸一化模型訓(xùn)練時(shí)特征范圍是0到1如果你不歸一化直接喂0到255的像素值神經(jīng)網(wǎng)絡(luò)前面幾層的梯度會(huì)非常大訓(xùn)練很難收斂。3. 用scikit-learn先跑通一個(gè)基線KNN與SVM的取舍3.1 為什么先做傳統(tǒng)方法而不是直接上CNN很多畢設(shè)一開(kāi)始就上PyTorch、TensorFlow搭CNN結(jié)果環(huán)境配置就折騰一周訓(xùn)練速度慢中途出錯(cuò)又很難查。我建議先用scikit-learn跑一個(gè)傳統(tǒng)機(jī)器學(xué)習(xí)基線最低目標(biāo)是讓整個(gè)流程通起來(lái)拿到一個(gè)90%以上的準(zhǔn)確率。傳統(tǒng)方法的好處是依賴(lài)少、訓(xùn)練快、原理透明答辯時(shí)你可以講清楚“特征是什么、分類(lèi)器怎么決策”而不是只說(shuō)“神經(jīng)網(wǎng)絡(luò)自己學(xué)的”。在數(shù)字識(shí)別這個(gè)問(wèn)題上KNN和SVM是兩個(gè)最常用的傳統(tǒng)分類(lèi)器。KNN的思路是找最近的K個(gè)訓(xùn)練樣本投票實(shí)現(xiàn)簡(jiǎn)單但預(yù)測(cè)時(shí)要計(jì)算輸入和所有訓(xùn)練樣本的距離所以單張預(yù)測(cè)慢。SVM是找一個(gè)最大間隔的分類(lèi)超平面預(yù)測(cè)時(shí)只用到支持向量速度快。對(duì)畢設(shè)來(lái)說(shuō)我建議兩個(gè)都做對(duì)比一下這本身就是論文里很好的實(shí)驗(yàn)章節(jié)素材。3.2 KNN最小可運(yùn)行代碼與參數(shù)說(shuō)明import numpy as np from sklearn.neighbors import KNeighborsClassifier from sklearn.metrics import classification_report # 加載之前切分好的數(shù)據(jù) data np.load(mnist_split.npz) X_train, y_train data[X_train], data[y_train] X_val, y_val data[X_val], data[y_val] # 把28x28的圖像展開(kāi)成一維784維向量KNN不需要保持二維結(jié)構(gòu) X_train_flat X_train.reshape(len(X_train), -1) X_val_flat X_val.reshape(len(X_val), -1) # n_neighbors3 是KNN核心參數(shù)一般先試3再對(duì)比1/5/7 knn KNeighborsClassifier(n_neighbors3, n_jobs-1) knn.fit(X_train_flat, y_train) y_pred knn.predict(X_val_flat) print(classification_report(y_val, y_pred, digits4))n_neighbors3表示取距離最近的3個(gè)樣本投票數(shù)字越小決策邊界越復(fù)雜容易過(guò)擬合數(shù)字越大邊界越平滑但可能把鄰近的類(lèi)別混淆。n_jobs-1讓sklearn用所有CPU核心并行計(jì)算訓(xùn)練集有55000張、每張784維不用并行的話KNN的暴力搜索會(huì)等很久。這里有個(gè)容易被忽略的點(diǎn)KNN對(duì)特征尺度非常敏感MNIST像素值已經(jīng)是0-255如果不歸一化某些像素的數(shù)值差異會(huì)主導(dǎo)距離計(jì)算。所以如果不用我上一章的預(yù)處理腳本至少要先做X_train / 255.0。3.3 SVM的RBF核參數(shù)怎么調(diào)SVM在MNIST上的表現(xiàn)比KNN好不少用RBF核通常能到97%以上但代價(jià)是調(diào)參。核心參數(shù)有兩個(gè)C和gamma。C是誤分類(lèi)懲罰系數(shù)越大越強(qiáng)調(diào)把訓(xùn)練樣本分對(duì)越小邊界越平滑。gamma是RBF核的寬度參數(shù)越大每個(gè)樣本的影響范圍越小決策邊界越曲折。from sklearn.svm import SVC from sklearn.decomposition import PCA # 先用PCA降到36維既保留主要信息又讓SVM訓(xùn)練時(shí)間從幾分鐘降到十幾秒 pca PCA(n_components36, random_state42) X_train_pca pca.fit_transform(X_train_flat) X_val_pca pca.transform(X_val_flat) # C5, gamma0.05 是在驗(yàn)證集上試出來(lái)的常見(jiàn)范圍值 svm SVC(C5, gamma0.05, kernelrbf) svm.fit(X_train_pca, y_train) y_pred_svm svm.predict(X_val_pca) print(classification_report(y_val, y_pred_svm, digits4))為什么先用PCA降到36維因?yàn)镾VM訓(xùn)練復(fù)雜度大約在O(n^2)到O(n^3)之間784維的原始像素直接訓(xùn)練會(huì)非常慢。PCA把維度降低到36維保存了絕大部分方差訓(xùn)練時(shí)間大幅下降準(zhǔn)確率損失很小。n_components這個(gè)值建議設(shè)成20到50之間你可以在驗(yàn)證集上跑幾組對(duì)比。gamma0.05是RBF核的經(jīng)驗(yàn)起點(diǎn)如果驗(yàn)證集準(zhǔn)確率上不去就按10倍步長(zhǎng)搜索0.01、0.05、0.1、0.5。C5同理可以試1、3、5、10。Sklearn的GridSearchCV可以自動(dòng)搜索但網(wǎng)格太大會(huì)很慢我建議手動(dòng)寫(xiě)兩層循環(huán)打印每組結(jié)果。4. 用PyTorch搭一個(gè)CNN數(shù)字識(shí)別模型網(wǎng)絡(luò)結(jié)構(gòu)與訓(xùn)練策略4.1 網(wǎng)絡(luò)結(jié)構(gòu)選型LeNet-5的變體傳統(tǒng)方法能幫你拿到95%左右但“高分畢設(shè)”一般會(huì)要求更好CNN是必須上的一步。CNN在MNIST上的常見(jiàn)結(jié)構(gòu)是LeNet-5的變體兩層卷積、兩層池化、一層全連接。為什么不用更深的ResNet因?yàn)镸NIST每張圖只有28x28太深的網(wǎng)絡(luò)參數(shù)量大、訓(xùn)練慢而且很容易過(guò)擬合到99.9%訓(xùn)練準(zhǔn)確率但驗(yàn)證集沒(méi)跟著漲。我的網(wǎng)絡(luò)設(shè)計(jì)如下全部用3x3卷積第一層32個(gè)通道第二層64個(gè)通道中間插一個(gè)2x2最大池化最后接一個(gè)帶Dropout的全連接層。import torch import torch.nn as nn class DigitCNN(nn.Module): def __init__(self, num_classes10, dropout0.25): super().__init__() self.features nn.Sequential( nn.Conv2d(1, 32, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), nn.Dropout(pdropout), ) # 經(jīng)過(guò)兩次padding1的3x3卷積 2x2池化特征圖從28x28變成14x14 self.classifier nn.Sequential( nn.Flatten(), nn.Linear(64 * 14 * 14, 128), nn.ReLU(inplaceTrue), nn.Dropout(pdropout), nn.Linear(128, num_classes), ) def forward(self, x): return self.classifier(self.features(x)) model DigitCNN(dropout0.25) print(model)這里的關(guān)鍵參數(shù)是卷積層的padding1作用是讓3x3卷積不改變特征圖尺寸否則28x28經(jīng)過(guò)一次卷積變成26x26再經(jīng)過(guò)一次變成24x24最后全連接層的輸入維度會(huì)算錯(cuò)。Dropout(p0.25)是防止過(guò)擬合的常用值如果驗(yàn)證集在訓(xùn)練后期開(kāi)始下降就把p提高到0.4。4.2 訓(xùn)練代碼數(shù)據(jù)加載、損失函數(shù)、優(yōu)化器import torch.optim as optim from torch.utils.data import DataLoader, TensorDataset # 把numpy數(shù)據(jù)轉(zhuǎn)成torch張量并組織成DataLoader def make_loader(X, y, batch_size128, shuffleTrue): X_t torch.from_numpy(X).float().unsqueeze(1) y_t torch.from_numpy(y).long() dataset TensorDataset(X_t, y_t) return DataLoader(dataset, batch_sizebatch_size, shuffleshuffle) train_loader make_loader(X_train, y_train, batch_size128, shuffleTrue) val_loader make_loader(X_val, y_val, batch_size256, shuffleFalse) device torch.device(cuda if torch.cuda.is_available() else cpu) model DigitCNN().to(device) criterion nn.CrossEntropyLoss() optimizer optim.Adam(model.parameters(), lr0.001) for epoch in range(10): model.train() for X_batch, y_batch in train_loader: X_batch, y_batch X_batch.to(device), y_batch.to(device) optimizer.zero_grad() outputs model(X_batch) loss criterion(outputs, y_batch) loss.backward() optimizer.step() # 每個(gè)epoch結(jié)束在驗(yàn)證集上評(píng)估一次 model.eval() correct, total 0, 0 with torch.no_grad(): for X_batch, y_batch in val_loader: X_batch, y_batch X_batch.to(device), y_batch.to(device) outputs model(X_batch) preds torch.argmax(outputs, dim1) correct (preds y_batch).sum().item() total y_batch.size(0) val_acc correct / total print(fEpoch {epoch1}/10, Val Acc: {val_acc:.4f})batch_size128是常用的起點(diǎn)如果顯存夠可以改256但要注意batch太大容易收斂到平坦的極小值太小則訓(xùn)練震蕩大。lr0.001是Adam最常用的默認(rèn)學(xué)習(xí)率我試過(guò)0.01會(huì)震蕩0.0001收斂太慢。CrossEntropyLoss內(nèi)部已經(jīng)包含Softmax不需要在網(wǎng)絡(luò)末尾額外加Softmax。訓(xùn)練時(shí)切記在optimizer.step()之前調(diào)用optimizer.zero_grad()否則梯度會(huì)累加在舊值上這一步是新手最容易漏掉的。4.3 訓(xùn)練過(guò)程中的關(guān)鍵參數(shù)epoch、學(xué)習(xí)率與設(shè)備選擇epoch設(shè)為多少合適我習(xí)慣設(shè)10到15并在每個(gè)epoch結(jié)束后記錄驗(yàn)證集準(zhǔn)確率。如果到第8個(gè)epoch驗(yàn)證集準(zhǔn)確率還在上升就繼續(xù)訓(xùn)練如果連續(xù)3個(gè)epoch不升反降那就早停用之前保存的最優(yōu)模型。環(huán)境上如果電腦沒(méi)有NVIDIA顯卡就用CPU版本PyTorchMNIST這種小圖訓(xùn)練一輪也就幾十秒完全能接受。安裝時(shí)用pip加鏡像源即可不需要在環(huán)境上花太多時(shí)間。Python版本建議3.9或3.10太高的版本個(gè)別依賴(lài)可能還沒(méi)有對(duì)應(yīng)包。還有一個(gè)容易被忽視的點(diǎn)model.eval()和model.train()的切換。PyTorch的Dropout層在訓(xùn)練時(shí)隨機(jī)失活在評(píng)估時(shí)要關(guān)閉隨機(jī)性。如果你在驗(yàn)證或測(cè)試時(shí)忘記切到eval()每次預(yù)測(cè)結(jié)果都會(huì)不同指標(biāo)忽高忽低看上去就像“玄學(xué)”。這就是我常說(shuō)的“黑匣子”問(wèn)題其實(shí)只是沒(méi)切模式。4.4 模型保存與評(píng)估準(zhǔn)確率、混淆矩陣、錯(cuò)誤樣本訓(xùn)練完成后不要只存一個(gè)準(zhǔn)確率就完事。答辯時(shí)最有說(shuō)服力的材料是混淆矩陣和幾張錯(cuò)誤案例圖。import matplotlib.pyplot as plt from sklearn.metrics import confusion_matrix, ConfusionMatrixDisplay torch.save(model.state_dict(), digit_cnn.pth) # 在測(cè)試集上做最終評(píng)估 def predict(model, X, batch_size256): model.eval() preds [] with torch.no_grad(): for i in range(0, len(X), batch_size): X_batch torch.from_numpy(X[i:ibatch_size]).float().unsqueeze(1).to(device) outputs model(X_batch) preds.extend(torch.argmax(outputs, dim1).cpu().numpy()) return np.array(preds) y_test_pred predict(model, X_test) cm confusion_matrix(y_test, y_test_pred) print(測(cè)試集準(zhǔn)確率:, (y_test_pred y_test).mean()) disp ConfusionMatrixDisplay(cm) disp.plot(cmapBlues) plt.savefig(confusion_matrix.png, dpi150)torch.save存的只是參數(shù)不是整個(gè)模型對(duì)象。加載時(shí)要用DigitCNN()創(chuàng)建同結(jié)構(gòu)網(wǎng)絡(luò)再調(diào)用load_state_dict。混淆矩陣比準(zhǔn)確率更有信息量比如從矩陣?yán)锬隳芸闯觥?”和“8”經(jīng)?；ハ嗾`判這說(shuō)明哪些數(shù)字在筆畫(huà)結(jié)構(gòu)上確實(shí)接近后續(xù)可以針對(duì)性地增加這類(lèi)樣本或做數(shù)據(jù)增強(qiáng)。錯(cuò)誤樣本圖同樣很重要找10張預(yù)測(cè)錯(cuò)的圖拼在一張畫(huà)布上旁邊標(biāo)注“真實(shí)值/預(yù)測(cè)值”答辯現(xiàn)場(chǎng)放出來(lái)比空口說(shuō)“準(zhǔn)確率99%”更有說(shuō)服力。5. 數(shù)字識(shí)別系統(tǒng)的避坑指南7個(gè)讓我翻過(guò)車(chē)的細(xì)節(jié)5.1 訓(xùn)練準(zhǔn)確率99%、驗(yàn)證準(zhǔn)確率85%數(shù)據(jù)切分或預(yù)處理不一致現(xiàn)象訓(xùn)練集準(zhǔn)確率一路漲到99%以上驗(yàn)證集卻卡在85%左右怎么都上不去。每輪驗(yàn)證的結(jié)果波動(dòng)還特別大。原因最常見(jiàn)的有三種。第一切分時(shí)沒(méi)做隨機(jī)抽樣直接把原始數(shù)據(jù)集前60000張當(dāng)訓(xùn)練集、后10000張當(dāng)測(cè)試集MNIST原始數(shù)據(jù)本身是按標(biāo)簽順序排列的這樣驗(yàn)證集里某些數(shù)字一個(gè)都見(jiàn)不到。第二驗(yàn)證時(shí)忘了做和訓(xùn)練一樣的預(yù)處理訓(xùn)練數(shù)據(jù)是零均值歸一化驗(yàn)證時(shí)卻用像素值0到255直接喂進(jìn)去。第三標(biāo)簽沒(méi)有對(duì)齊比如按索引加載圖像和標(biāo)簽時(shí)用了兩個(gè)不同的遍歷順序。解決切分時(shí)用train_test_split并指定stratifyy和random_state42。把預(yù)處理邏輯封裝成同一個(gè)函數(shù)訓(xùn)練集和驗(yàn)證集都走這同一個(gè)函數(shù)。加載數(shù)據(jù)后抽10張圖打印出shape和標(biāo)簽肉眼確認(rèn)對(duì)應(yīng)關(guān)系。這個(gè)檢查最多花兩分鐘能省掉一整天的排查。5.2 模型預(yù)測(cè)一張新圖片總是錯(cuò)白底黑字與黑底白字的反轉(zhuǎn)問(wèn)題現(xiàn)象MNIST測(cè)試集準(zhǔn)確率99%但拍一張白紙黑字的數(shù)字照片喂進(jìn)去預(yù)測(cè)結(jié)果完全不對(duì)而且錯(cuò)得很有規(guī)律比如把所有“3”都識(shí)別成“7”。原因MNIST是黑底白字你的照片是白底黑字。模型學(xué)到的特征是“亮的部分代表筆畫(huà)”輸入反色后筆畫(huà)變成暗色區(qū)域背景變成亮色區(qū)域特征分布完全反轉(zhuǎn)。而且有些預(yù)處理腳本里加了THRESH_BINARY_INV反二值化有些沒(méi)加兩邊不一致結(jié)果就會(huì)亂。解決統(tǒng)一預(yù)處理流程。判斷標(biāo)準(zhǔn)很簡(jiǎn)單預(yù)處理后的圖應(yīng)該和MNIST樣本一樣數(shù)字是白色、背景是黑色。如果你不確定把預(yù)處理結(jié)果保存成圖片看一眼。用cv2.threshold時(shí)白紙黑字就用THRESH_BINARY_INV黑底白字就用THRESH_BINARY。如果某些圖片背景不是純色先用OTSU自動(dòng)閾值再根據(jù)前景占比判斷是否需要反轉(zhuǎn)。5.3 攝像頭實(shí)時(shí)識(shí)別卡頓嚴(yán)重每幀都跑完整預(yù)處理和模型推理現(xiàn)象用OpenCV打開(kāi)攝像頭每幀畫(huà)面延遲2到3秒轉(zhuǎn)動(dòng)一下攝像頭畫(huà)面就卡死。原因攝像頭分辨率通常是640x480每幀都做全圖掃描、找輪廓、裁剪、縮放、跑模型四件事加起來(lái)耗時(shí)嚴(yán)重?；蛘呤窃谘h(huán)里反復(fù)加載模型文件、反復(fù)創(chuàng)建Session資源開(kāi)銷(xiāo)巨大。解決把模型初始化放到循環(huán)外全局只加載一次。預(yù)處理時(shí)先縮小感興趣區(qū)域比如用cv2.selectROI框出數(shù)字區(qū)域之后每一幀只處理這個(gè)ROI而不是全圖掃描。線程上可以拆成兩個(gè)一個(gè)線程負(fù)責(zé)讀攝像頭一個(gè)線程負(fù)責(zé)識(shí)別用隊(duì)列傳遞最新一幀避免畫(huà)面幀率和推理幀率互相拖累。5.4 用PyInstaller打包后“閃退”路徑和動(dòng)態(tài)庫(kù)缺失現(xiàn)象Python腳本運(yùn)行正常打包成exe后一啟動(dòng)就閃退或者點(diǎn)擊“識(shí)別”按鈕時(shí)直接報(bào)錯(cuò)?？刂婆_(tái)模式能看到報(bào)錯(cuò)信息窗口模式只有崩潰提示。原因第一代碼里的模型文件路徑用的是相對(duì)路徑或絕對(duì)路徑打包后程序運(yùn)行在臨時(shí)解包目錄找不到digit_cnn.pth。第二OpenCV和PyTorch的動(dòng)態(tài)庫(kù)沒(méi)有被PyInstaller自動(dòng)收集完整。第三--onefile模式啟動(dòng)時(shí)要先把所有文件解壓到臨時(shí)目錄殺毒軟件或系統(tǒng)策略可能攔截這次解壓。解決打包時(shí)用--add-data把模型文件和代碼資源一起打進(jìn)去運(yùn)行時(shí)用sys._MEIPASS拼接臨時(shí)資源路徑。用--hidden-import顯式聲明cv2和torch的子模塊。如果仍然閃退先用命令行方式運(yùn)行exe看報(bào)錯(cuò)內(nèi)容按報(bào)錯(cuò)逐個(gè)補(bǔ)依賴(lài)。我之前就吃過(guò)這個(gè)虧打包出來(lái)發(fā)給朋友測(cè)試人家的電腦上沒(méi)有Python環(huán)境閃退后根本看不出是缺DLL還是缺模型文件后來(lái)乖乖加了一個(gè)日志文件記錄異常信息才定位到問(wèn)題。5.5 在另一臺(tái)電腦上跑不起來(lái)Python版本和依賴(lài)版本不一致現(xiàn)象自己電腦上跑得好好的換臺(tái)電腦部署報(bào)ModuleNotFoundError或者ImportError: DLL load failed。原因目標(biāo)電腦沒(méi)有安裝依賴(lài)庫(kù)或者安裝的版本不對(duì)。PyTorch的CUDA版本、scikit-learn的numpy版本要求、OpenCV的Python版本對(duì)應(yīng)關(guān)系任何一個(gè)對(duì)不上都會(huì)報(bào)錯(cuò)。最坑的是DLL load failed通常不是缺P(pán)ython包而是缺Microsoft Visual C Redistributable運(yùn)行時(shí)。解決在項(xiàng)目根目錄放一個(gè)requirements.txt列出所有依賴(lài)及版本號(hào)用pip install -r requirements.txt一鍵安裝。深度學(xué)習(xí)模型可以不依賴(lài)GPUPyTorch裝CPU版就能跑MNIST推理。另外在README里寫(xiě)清楚Python版本范圍不要只寫(xiě)“需要Python 3”要精確到3.9.x或3.10.x。如果你是打包成exe分發(fā)那就不需要對(duì)方裝Python前提是PyInstaller把所有依賴(lài)都包好了。6. 讓畢設(shè)從“能用”變成“高分”GUI、實(shí)時(shí)識(shí)別與演示腳本6.1 做一個(gè)帶置信度的分類(lèi)結(jié)果展示從準(zhǔn)確率到可靠性的表達(dá)高分的識(shí)別系統(tǒng)不能只輸出一個(gè)數(shù)字至少要有“識(shí)別結(jié)果 置信度 預(yù)處理可視化”三樣?xùn)|西。用Tkinter做一個(gè)最簡(jiǎn)界面可以在沒(méi)有Web框架的情況下快速交付。import tkinter as tk from tkinter import filedialog from PIL import Image, ImageTk import numpy as np def predict_image(): path filedialog.askopenfilename(filetypes[(Image, *.png *.jpg *.jpeg)]) if not path: return x preprocess_image(path) # 調(diào)用第2章的函數(shù) x_t torch.from_numpy(x).float().unsqueeze(0).to(device) with torch.no_grad(): logits model(x_t) probs torch.softmax(logits, dim1).cpu().numpy()[0] top_idx int(np.argmax(probs)) top_conf float(probs[top_idx]) label_var.set(f識(shí)別結(jié)果: {top_idx}) conf_var.set(f置信度: {top_conf:.3f}) img_display.config(imageImageTk.PhotoImage(Image.open(path).resize((140, 140)))) root tk.Tk() root.title(數(shù)字識(shí)別系統(tǒng)) label_var tk.StringVar(value請(qǐng)選擇圖片) conf_var tk.StringVar(value) tk.Label(root, textvariablelabel_var, font(SimHei, 24)).pack() tk.Label(root, textvariableconf_var, font(SimHei, 16)).pack() img_display tk.Label(root) img_display.pack() tk.Button(root, text選擇圖片, commandpredict_image).pack(pady10) root.mainloop()置信度用softmax把所有類(lèi)別得分轉(zhuǎn)成概率分布最大概率就是置信度。只要置信度低于0.5就說(shuō)明模型處于“不確定”狀態(tài)這本身就是一個(gè)值得寫(xiě)進(jìn)論文的分析結(jié)論。不建議在GUI里直接把整個(gè)頁(yè)面做得非?；ㄉ诠δ芮逦葮邮街匾菔緯r(shí)你更想展示的是“點(diǎn)開(kāi)圖片、瞬間出結(jié)果”而不是動(dòng)畫(huà)效果。6.2 部署成可執(zhí)行文件PyInstaller的推薦參數(shù)與驗(yàn)證清單如果你最終要交一個(gè)可以雙擊運(yùn)行的演示程序我推薦用PyInstaller的--onedir模式而不是--onefile。--onefile把所有依賴(lài)打成一個(gè)exe優(yōu)點(diǎn)是分發(fā)方便缺點(diǎn)是啟動(dòng)速度慢、誤報(bào)率高、排查困難。--onedir生成一個(gè)包含exe和DLL的目錄雖然要發(fā)整個(gè)文件夾但穩(wěn)定得多。pyinstaller --onedir --name DigitRecognition \ --add-data digit_cnn.pth;. \ --add-data config.yaml;. \ --hidden-import torch \ --hidden-import cv2 \ main.py打包完成后把生成的文件夾拷貝到一臺(tái)干凈虛擬機(jī)或另一臺(tái)電腦上運(yùn)行測(cè)試三件事能不能啟動(dòng)、能不能加載模型、識(shí)別一張測(cè)試圖是否正確。注意--add-data在Windows下用分號(hào)分隔源路徑和目標(biāo)路徑Linux和macOS用冒號(hào)。路徑問(wèn)題最好的解法是寫(xiě)一個(gè)resource_path()函數(shù)把資源文件查找邏輯統(tǒng)一封裝別在代碼里寫(xiě)死絕對(duì)路徑。6.3 答辯演示腳本三句話講清系統(tǒng)設(shè)計(jì)最后一個(gè)技巧是準(zhǔn)備一份演示腳本控制在三分鐘以內(nèi)。第一句講任務(wù)和數(shù)據(jù)集“系統(tǒng)針對(duì)手寫(xiě)數(shù)字識(shí)別場(chǎng)景使用MNIST的60000張圖像訓(xùn)練并用自采樣本驗(yàn)證泛化能力?！钡诙渲v關(guān)鍵設(shè)計(jì)“傳統(tǒng)方法選用KNN和SVM對(duì)比深度學(xué)習(xí)使用兩層卷積網(wǎng)絡(luò)測(cè)試集準(zhǔn)確率98.6%?！钡谌渲v創(chuàng)新點(diǎn)“增加了攝像頭實(shí)時(shí)識(shí)別和置信度分析可以處理白底黑字和黑底白字兩種輸入?！边@三句話把全程串起來(lái)評(píng)委問(wèn)你細(xì)節(jié)時(shí)你再展開(kāi)講數(shù)據(jù)切分、預(yù)處理和調(diào)參過(guò)程。我自己做這個(gè)題目時(shí)最后悔的一件事是沒(méi)有留一份完整的“調(diào)參記錄表”。當(dāng)時(shí)調(diào)了幾十組K值和gamma值過(guò)程全在腦子里寫(xiě)論文時(shí)只能重跑浪費(fèi)了不少時(shí)間。你現(xiàn)在做這個(gè)系統(tǒng)建議從第一天就建一個(gè)CSV記錄每組參數(shù)的驗(yàn)證集準(zhǔn)確率、訓(xùn)練耗時(shí)、模型文件名。這個(gè)表格最后可以直接復(fù)制進(jìn)論文的實(shí)驗(yàn)章節(jié)比任何形式化描述都真實(shí)可信。技術(shù)上的路我已經(jīng)替你踩過(guò)一遍了希望這個(gè)方向能幫你做出一份經(jīng)得起答辯追問(wèn)的作品也希望你能比我早一步養(yǎng)成記錄的習(xí)慣。本文還有配套的精品資源點(diǎn)擊獲取