1. 項(xiàng)目概述當(dāng)數(shù)據(jù)需要“站隊(duì)”時(shí)我們?cè)撛趺醋鲈跀?shù)學(xué)建模尤其是涉及社會(huì)調(diào)查、醫(yī)學(xué)診斷、市場(chǎng)細(xì)分或信用評(píng)估的題目中我們常常會(huì)遇到一個(gè)核心問(wèn)題如何根據(jù)已知的、帶有類(lèi)別標(biāo)簽的數(shù)據(jù)比如“健康”與“患病”、“優(yōu)質(zhì)客戶(hù)”與“流失客戶(hù)”去建立一個(gè)可靠的規(guī)則以便對(duì)新的、未知類(lèi)別的樣本進(jìn)行自動(dòng)歸類(lèi)這就是分類(lèi)模型要解決的核心任務(wù)。它不像回歸模型那樣預(yù)測(cè)一個(gè)連續(xù)的數(shù)值而是輸出一個(gè)離散的類(lèi)別標(biāo)簽其本質(zhì)是尋找特征空間即由多個(gè)自變量構(gòu)成的坐標(biāo)系中的一個(gè)“決策邊界”將不同類(lèi)別的樣本點(diǎn)分隔開(kāi)來(lái)。SPSS作為一款歷史悠久、功能強(qiáng)大且界面友好的統(tǒng)計(jì)分析軟件是許多數(shù)學(xué)建模隊(duì)伍特別是非計(jì)算機(jī)專(zhuān)業(yè)背景隊(duì)伍的首選工具。它內(nèi)置了多種經(jīng)典的分類(lèi)算法無(wú)需編寫(xiě)復(fù)雜的代碼通過(guò)菜單點(diǎn)擊和參數(shù)設(shè)置就能完成從數(shù)據(jù)預(yù)處理、模型構(gòu)建到結(jié)果解讀的全過(guò)程。對(duì)于國(guó)賽、美賽等時(shí)間緊迫的競(jìng)賽掌握SPSS中的分類(lèi)模型應(yīng)用能讓你快速將數(shù)據(jù)轉(zhuǎn)化為有說(shuō)服力的結(jié)論。很多人一提到分類(lèi)就想到復(fù)雜的神經(jīng)網(wǎng)絡(luò)或支持向量機(jī)SVM但在實(shí)際建模中尤其是在數(shù)據(jù)量適中、特征關(guān)系相對(duì)明確的情況下SPSS提供的邏輯回歸Logistic Regression和判別分析Discriminant Analysis往往是更穩(wěn)健、解釋性更強(qiáng)的“利器”。本文將圍繞這兩個(gè)核心模型結(jié)合SPSS實(shí)操拆解分類(lèi)建模的全流程從原理認(rèn)知、軟件操作到結(jié)果解讀與模型優(yōu)化讓你不僅能“跑出”結(jié)果更能“讀懂”和“用好”結(jié)果。2. 核心模型原理邏輯回歸與判別分析的“內(nèi)功心法”在動(dòng)手操作SPSS之前我們必須理解手頭“兵器”的工作原理。不同的分類(lèi)模型基于不同的數(shù)學(xué)假設(shè)適用場(chǎng)景也不同。盲目套用模型很可能得到看似漂亮實(shí)則無(wú)用的結(jié)果。2.1 邏輯回歸計(jì)算“可能性”的法官邏輯回歸可能是應(yīng)用最廣泛的分類(lèi)模型之一尤其適用于因變量是二分類(lèi)如0/1是/否的情況。它的核心思想非常直觀不去直接預(yù)測(cè)類(lèi)別而是預(yù)測(cè)某個(gè)樣本屬于特定類(lèi)別的概率。我們可以這樣理解假設(shè)我們要根據(jù)學(xué)生的“學(xué)習(xí)時(shí)間”和“考前模擬成績(jī)”來(lái)預(yù)測(cè)其“是否通過(guò)考試”通過(guò)1未通過(guò)0。線性回歸會(huì)嘗試擬合一條直線但預(yù)測(cè)值可能會(huì)超出[0,1]這個(gè)概率范圍這顯然不合理。邏輯回歸的巧妙之處在于它引入了一個(gè)“邏輯函數(shù)”也叫Sigmoid函數(shù)這個(gè)函數(shù)能將線性回歸的結(jié)果一個(gè)任意實(shí)數(shù)映射到(0,1)區(qū)間內(nèi)完美地代表了概率。其模型公式為P(Y1|X) 1 / (1 e^-(β? β?X? ... β?X?))其中P(Y1|X)就是在給定自變量X的條件下樣本屬于類(lèi)別1的概率。等式右邊的核心是β? β?X? ... β?X?這就是一個(gè)線性方程。SPSS所做的工作就是基于你的數(shù)據(jù)估算出這一系列β系數(shù)包括截距β?使得根據(jù)這個(gè)公式計(jì)算出的概率最符合你數(shù)據(jù)中實(shí)際的類(lèi)別分布。關(guān)鍵輸出解讀SPSS中B值系數(shù)代表自變量的影響方向和強(qiáng)度。B為正說(shuō)明該變量取值增加時(shí)樣本屬于類(lèi)別1的概率Odds的對(duì)數(shù)會(huì)增加反之亦然。Exp(B)優(yōu)勢(shì)比這是更直觀的指標(biāo)。它表示自變量每增加一個(gè)單位樣本屬于類(lèi)別1的“優(yōu)勢(shì)”O(jiān)dds即P/(1-P)變?yōu)樵瓉?lái)的多少倍。例如Exp(B)2.5意味著該變量增加一個(gè)單位屬于類(lèi)別1的優(yōu)勢(shì)是原來(lái)的2.5倍。顯著性Sig.判斷該自變量是否對(duì)模型有顯著貢獻(xiàn)。通常以P值0.05作為顯著標(biāo)準(zhǔn)。邏輯回歸的適用場(chǎng)景與前提假設(shè)適用因變量是二分類(lèi)或多分類(lèi)有序或無(wú)序均可SPSS支持。假設(shè)自變量與因變量的對(duì)數(shù)優(yōu)勢(shì)Log Odds呈線性關(guān)系。不需要自變量服從正態(tài)分布但極端異常值會(huì)影響結(jié)果。2.2 判別分析尋找最佳“投影”的指揮官判別分析特別是線性判別分析LDA采用了另一種思路。它不再聚焦于概率而是致力于找到一個(gè)或幾個(gè)線性組合稱(chēng)為判別函數(shù)將不同類(lèi)別的樣本在低維空間通常是二維上盡可能地分離開(kāi)。想象一下你有兩個(gè)類(lèi)別的數(shù)據(jù)點(diǎn)混雜在三維空間中有三個(gè)特征。判別分析的目標(biāo)是找到一個(gè)最佳的二維平面將數(shù)據(jù)點(diǎn)投影到這個(gè)平面上后兩個(gè)類(lèi)別的投影點(diǎn)團(tuán)各自?xún)?nèi)部非常緊湊而兩個(gè)團(tuán)之間的距離盡可能遠(yuǎn)。這個(gè)投影的過(guò)程就是構(gòu)建判別函數(shù)的過(guò)程。其核心思想是最大化“類(lèi)間方差”與“類(lèi)內(nèi)方差”的比值。類(lèi)間方差大說(shuō)明不同類(lèi)別區(qū)分得開(kāi)類(lèi)內(nèi)方差小說(shuō)明同一類(lèi)別內(nèi)部很集中。SPSS會(huì)計(jì)算出判別函數(shù)的系數(shù)類(lèi)似于回歸系數(shù)。對(duì)于一個(gè)新樣本將其特征值代入各個(gè)判別函數(shù)可以得到一組判別分?jǐn)?shù)。通過(guò)比較這些分?jǐn)?shù)或者計(jì)算它到各類(lèi)別中心在判別空間中的均值點(diǎn)的馬氏距離來(lái)判斷它最可能屬于哪個(gè)類(lèi)別。關(guān)鍵輸出解讀SPSS中特征值衡量每個(gè)判別函數(shù)的重要性特征值越大說(shuō)明該函數(shù)區(qū)分能力越強(qiáng)。威爾克Lambda值用于檢驗(yàn)判別函數(shù)的顯著性值越小越接近0表示判別函數(shù)越有效。標(biāo)準(zhǔn)化判別函數(shù)系數(shù)類(lèi)似于回歸中的標(biāo)準(zhǔn)化系數(shù)可以用來(lái)判斷每個(gè)自變量在構(gòu)建該判別函數(shù)時(shí)的相對(duì)重要性。結(jié)構(gòu)矩陣自變量與判別函數(shù)之間的相關(guān)系數(shù)是解釋判別函數(shù)實(shí)際含義代表了哪些變量的綜合信息的關(guān)鍵。分類(lèi)函數(shù)系數(shù)Fisher線性判別函數(shù)SPSS會(huì)直接給出用于分類(lèi)的線性方程系數(shù)。將新樣本的自變量值代入每個(gè)類(lèi)別的方程計(jì)算得分得分最高的類(lèi)別即為預(yù)測(cè)類(lèi)別。判別分析的適用場(chǎng)景與前提假設(shè)適用因變量是多分類(lèi)且通常假設(shè)各類(lèi)別樣本是隨機(jī)抽取的。假設(shè)要求較為嚴(yán)格自變量服從多元正態(tài)分布各類(lèi)別的協(xié)方差矩陣相等即方差齊性。在SPSS中可以進(jìn)行Box‘s M檢驗(yàn)來(lái)驗(yàn)證協(xié)方差矩陣的齊性。當(dāng)該假設(shè)不滿(mǎn)足時(shí)可以考慮使用二次判別分析QDA或其他模型。模型選擇的心得在實(shí)際建模中我通常這樣快速抉擇如果研究重點(diǎn)是理解各個(gè)自變量如何影響結(jié)果發(fā)生的概率或者需要得到概率預(yù)測(cè)值邏輯回歸是首選它的結(jié)果Exp(B)在論文中非常好解釋。如果主要目標(biāo)是獲得高精度的分類(lèi)且數(shù)據(jù)大致滿(mǎn)足正態(tài)性和方差齊性判別分析可能表現(xiàn)更優(yōu)它得到的分類(lèi)函數(shù)用起來(lái)也很直接。一個(gè)實(shí)用的技巧是可以?xún)煞N方法都嘗試在訓(xùn)練集上構(gòu)建模型在預(yù)留的測(cè)試集上比較它們的分類(lèi)準(zhǔn)確率同時(shí)結(jié)合模型的前提假設(shè)檢驗(yàn)結(jié)果來(lái)做最終選擇。3. SPSS實(shí)戰(zhàn)從數(shù)據(jù)導(dǎo)入到模型構(gòu)建的完整鏈路理解了原理我們進(jìn)入實(shí)戰(zhàn)環(huán)節(jié)。假設(shè)我們手頭有一份“銀行客戶(hù)流失預(yù)測(cè)”的數(shù)據(jù)包含客戶(hù)年齡、賬戶(hù)余額、交易次數(shù)、是否擁有信用卡二分類(lèi)等特征以及“是否流失”是1否0這個(gè)目標(biāo)變量。我們將以此為例演示邏輯回歸在SPSS中的完整操作。3.1 數(shù)據(jù)準(zhǔn)備與預(yù)處理磨刀不誤砍柴工在SPSS中點(diǎn)擊“分析”菜單之前70%的建模工作其實(shí)已經(jīng)開(kāi)始了?；靵y的數(shù)據(jù)必然產(chǎn)生誤導(dǎo)的模型。數(shù)據(jù)導(dǎo)入與變量定義將你的Excel或CSV數(shù)據(jù)導(dǎo)入SPSS。在“變量視圖”中仔細(xì)檢查每個(gè)變量的“類(lèi)型”數(shù)值、字符串等、“測(cè)量”度量、有序、名義。至關(guān)重要的一步是為你的分類(lèi)變量包括因變量和自變量中的分類(lèi)變量設(shè)置“值”標(biāo)簽。例如將“是否流失”的1定義為“是”0定義為“否”。這能讓你后續(xù)的解讀清晰無(wú)誤。缺失值處理使用“分析 - 描述統(tǒng)計(jì) - 頻率”或“分析 - 缺失值分析”查看缺失情況。對(duì)于分類(lèi)模型常見(jiàn)的處理方式有整列刪除若某個(gè)樣本缺失關(guān)鍵變量且數(shù)量很少可直接刪除。眾數(shù)/中位數(shù)填補(bǔ)對(duì)于分類(lèi)變量用眾數(shù)填補(bǔ)對(duì)于連續(xù)變量用中位數(shù)或均值填補(bǔ)SPSS可通過(guò)“轉(zhuǎn)換 - 替換缺失值”實(shí)現(xiàn)。作為單獨(dú)類(lèi)別有時(shí)缺失本身可能有意義可以考慮將缺失值編碼為一個(gè)新的類(lèi)別如“未知”。變量篩選與共線性診斷不是所有拿到的變量都要扔進(jìn)模型。高度相關(guān)的自變量多重共線性會(huì)嚴(yán)重影響邏輯回歸系數(shù)的穩(wěn)定性和解釋?？梢韵茸鲆淮尉€性回歸“分析 - 回歸 - 線性”勾選“共線性診斷”查看容差Tolerance和方差膨脹因子VIF。通常VIF10或更嚴(yán)格的5表明存在嚴(yán)重共線性需要考慮刪除其中一個(gè)變量或使用主成分分析等方法降維。數(shù)據(jù)分割強(qiáng)烈建議為了客觀評(píng)估模型性能避免過(guò)擬合務(wù)必進(jìn)行數(shù)據(jù)分割。使用“數(shù)據(jù) - 選擇個(gè)案”功能隨機(jī)選擇大約70%-80%的樣本作為“訓(xùn)練集”用于構(gòu)建模型剩余20%-30%作為“測(cè)試集”用于最終評(píng)估。可以創(chuàng)建一個(gè)新變量如sample1訓(xùn)練0測(cè)試來(lái)標(biāo)記。3.2 邏輯回歸二元操作步驟詳解我們以訓(xùn)練集數(shù)據(jù)為例進(jìn)行二元邏輯回歸分析。打開(kāi)主對(duì)話框分析 - 回歸 - 二元Logistic。變量設(shè)置因變量將“是否流失”選入“因變量”框。協(xié)變量將選定的自變量如年齡、賬戶(hù)余額、交易次數(shù)、是否擁有信用卡選入“協(xié)變量”框。對(duì)于多分類(lèi)的自變量如職業(yè)類(lèi)型需要將其選入右側(cè)的“分類(lèi)”框中并設(shè)置參考類(lèi)別通常選擇“第一個(gè)”或“最后一個(gè)”。方法下拉菜單中有“輸入”、“向前條件”、“向后Wald”等?！拜斎搿笔菑?qiáng)行將所有變量納入模型?！跋蚯?向后”是逐步回歸法基于統(tǒng)計(jì)檢驗(yàn)自動(dòng)篩選變量。對(duì)于探索性分析我推薦使用“向前LR”基于似然比檢驗(yàn)的向前法或“向后LR”這樣可以得到一個(gè)相對(duì)簡(jiǎn)潔、只包含顯著變量的模型。關(guān)鍵選項(xiàng)配置點(diǎn)擊“分類(lèi)”按鈕確保你的分類(lèi)自變量已正確設(shè)置并檢查“參考類(lèi)別”。點(diǎn)擊“保存”按鈕這是極其重要的一步勾選“預(yù)測(cè)值”下的“概率”和“組成員”。這樣SPSS會(huì)為數(shù)據(jù)集中每個(gè)個(gè)案計(jì)算其預(yù)測(cè)為“流失”類(lèi)別1的概率并根據(jù)概率是否大于0.5默認(rèn)分割點(diǎn)給出預(yù)測(cè)類(lèi)別。這些新變量將出現(xiàn)在數(shù)據(jù)視圖最后列用于后續(xù)計(jì)算準(zhǔn)確率、繪制ROC曲線等。點(diǎn)擊“選項(xiàng)”按鈕勾選“Exp(B)的CI”輸出優(yōu)勢(shì)比的置信區(qū)間和“分類(lèi)圖”、“Hosmer-Lemeshow擬合優(yōu)度”。HL檢驗(yàn)的P值大于0.05表示模型擬合較好。運(yùn)行并解讀核心結(jié)果塊 0起始卡方僅包含常數(shù)項(xiàng)的模型擬合情況意義不大。塊 1模型系數(shù)的綜合檢驗(yàn)這里看“模型”行的顯著性Sig.若P0.05說(shuō)明你納入的自變量整體上對(duì)模型有顯著貢獻(xiàn)。模型摘要關(guān)注“Cox Snell R 方”和“Nagelkerke R 方”它們類(lèi)似于線性回歸中的R2表示模型對(duì)因變量變異的解釋程度值越大越好但通常不會(huì)很高。Hosmer-Lemeshow 檢驗(yàn)如前所述P0.05表示模型擬合良好。分類(lèi)表這是模型在訓(xùn)練集上的表現(xiàn)。重點(diǎn)關(guān)注“總體百分比”即整體準(zhǔn)確率。但要注意如果兩類(lèi)樣本數(shù)量不平衡如流失客戶(hù)只占10%一個(gè)把所有樣本都預(yù)測(cè)為“不流失”的模型也有90%的準(zhǔn)確率這沒(méi)有意義。因此必須同時(shí)觀察“靈敏度”實(shí)際為流失且被預(yù)測(cè)為流失的比例和“特異度”實(shí)際為不流失且被預(yù)測(cè)為不流失的比例。方程中的變量這是最核心的表格。查看每個(gè)自變量的B、Sig.、Exp(B)及Exp(B)的95%置信區(qū)間。例如“交易次數(shù)”的B為負(fù)值且顯著Exp(B)0.85意味著交易次數(shù)每增加一次客戶(hù)流失的優(yōu)勢(shì)變?yōu)樵瓉?lái)的0.85倍即流失的可能性降低。3.3 判別分析操作步驟詳解現(xiàn)在我們換用判別分析來(lái)處理一個(gè)多分類(lèi)問(wèn)題例如根據(jù)花瓣長(zhǎng)度、花瓣寬度、萼片長(zhǎng)度、萼片寬度對(duì)鳶尾花的品種Setosa, Versicolor, Virginica進(jìn)行分類(lèi)。打開(kāi)主對(duì)話框分析 - 分類(lèi) - 判別式分析。變量設(shè)置分組變量將“鳶尾花品種”選入并點(diǎn)擊“定義范圍”按鈕輸入最小值1和最大值3假設(shè)三個(gè)品種編碼為1,2,3。自變量將四個(gè)測(cè)量變量選入“自變量”框。選擇變量可選如果需要使用部分樣本進(jìn)行分析可以在此指定。關(guān)鍵選項(xiàng)配置點(diǎn)擊“統(tǒng)計(jì)”按鈕務(wù)必勾選描述性均值、標(biāo)準(zhǔn)差。函數(shù)系數(shù)Fisher和未標(biāo)準(zhǔn)化。Fisher線性判別函數(shù)系數(shù)是直接用于分類(lèi)的公式。矩陣組內(nèi)相關(guān)、組內(nèi)協(xié)方差、分組協(xié)方差和總協(xié)方差。組內(nèi)協(xié)方差矩陣相等是LDA的重要假設(shè)。點(diǎn)擊“分類(lèi)”按鈕先驗(yàn)概率如果各類(lèi)別樣本量差異大可以根據(jù)樣本量或自定義比例調(diào)整。輸出勾選“個(gè)案結(jié)果”這會(huì)輸出每個(gè)樣本的預(yù)測(cè)類(lèi)別、判別分?jǐn)?shù)及后驗(yàn)概率。使用協(xié)方差矩陣選擇“組內(nèi)”這是線性判別。圖勾選“合并組”和“區(qū)域圖”可以直觀看到判別效果。點(diǎn)擊“保存”按鈕勾選“預(yù)測(cè)組成員”、“判別分?jǐn)?shù)”和“組成員概率”將預(yù)測(cè)結(jié)果保存到數(shù)據(jù)集中。運(yùn)行并解讀核心結(jié)果特征值表第一個(gè)判別函數(shù)特征值最大解釋了絕大部分的區(qū)分能力?？础胺讲畎俜直取焙汀袄鄯e%”。威爾克Lambda檢驗(yàn)檢驗(yàn)每個(gè)判別函數(shù)是否顯著。通常第一個(gè)函數(shù)是顯著的。標(biāo)準(zhǔn)化判別函數(shù)系數(shù)類(lèi)似于因子載荷絕對(duì)值越大表示該自變量對(duì)該判別函數(shù)的貢獻(xiàn)越大。結(jié)合結(jié)構(gòu)矩陣自變量與判別函數(shù)的相關(guān)系數(shù)可以解釋判別函數(shù)的實(shí)際含義。例如第一個(gè)判別函數(shù)可能與“花瓣長(zhǎng)度”和“花瓣寬度”高度相關(guān)代表“花朵大小”維度。分類(lèi)函數(shù)系數(shù)在“Fisher的線性判別式函數(shù)系數(shù)”表中你會(huì)看到三組系數(shù)對(duì)應(yīng)三個(gè)品種。對(duì)于一個(gè)新樣本將其四個(gè)變量值分別代入三個(gè)方程計(jì)算三個(gè)得分得分最高的那個(gè)方程對(duì)應(yīng)的品種就是預(yù)測(cè)結(jié)果。分類(lèi)結(jié)果查看“分類(lèi)處理摘要”和“分類(lèi)結(jié)果”表了解模型在訓(xùn)練集上的整體準(zhǔn)確率以及每個(gè)類(lèi)別的分類(lèi)情況。4. 模型評(píng)估與優(yōu)化超越“跑出結(jié)果”的深度思考構(gòu)建出模型只是第一步更重要的是評(píng)估它是否可靠、穩(wěn)健以及如何讓它變得更好。很多新手隊(duì)伍止步于SPSS輸出的默認(rèn)表格這是遠(yuǎn)遠(yuǎn)不夠的。4.1 分類(lèi)性能的量化評(píng)估多維度透視準(zhǔn)確率只是一個(gè)粗略的指標(biāo)我們需要更細(xì)致的工具?；煜仃嚺c衍生指標(biāo)SPSS的邏輯回歸和判別分析都會(huì)輸出分類(lèi)表這就是混淆矩陣。從中我們可以計(jì)算靈敏度召回率TP / (TP FN)。模型找出所有正例的能力。特異度TN / (TN FP)。模型識(shí)別所有負(fù)例的能力。精確率TP / (TP FP)。模型預(yù)測(cè)為正例的樣本中真正為正例的比例。F1分?jǐn)?shù)精確率和召回率的調(diào)和平均數(shù)2 * (精確率 * 召回率) / (精確率 召回率)是綜合衡量指標(biāo)。在類(lèi)別不平衡的數(shù)據(jù)中如欺詐檢測(cè)欺詐樣本極少只看總體準(zhǔn)確率會(huì)嚴(yán)重失真必須同時(shí)關(guān)注靈敏度和特異度。ROC曲線與AUC值邏輯回歸這是評(píng)估二分類(lèi)模型性能的黃金標(biāo)準(zhǔn)。ROC曲線描繪了在不同分類(lèi)閾值下模型的“靈敏度”與“1-特異度”假正率之間的關(guān)系。曲線下的面積AUC越接近1模型性能越好。AUC0.5相當(dāng)于隨機(jī)猜測(cè)。在SPSS中生成ROC曲線在邏輯回歸的“保存”選項(xiàng)中我們已經(jīng)保存了預(yù)測(cè)概率PRE_1。然后使用分析 - ROC曲線圖將保存的預(yù)測(cè)概率變量選為“檢驗(yàn)變量”將實(shí)際類(lèi)別變量選為“狀態(tài)變量”并定義狀態(tài)變量的值如1。在“選項(xiàng)”中勾選“ROC曲線”和“帶對(duì)角參考線”。運(yùn)行后在輸出查看器的“圖表”部分就能看到ROC曲線并得到AUC值及其置信區(qū)間。解讀AUC值在0.9以上通常認(rèn)為模型區(qū)分能力優(yōu)秀0.8-0.9良好0.7-0.8一般0.7以下較差。Kappa系數(shù)用于評(píng)估分類(lèi)的一致性特別適用于類(lèi)別不平衡的情況。它考慮了隨機(jī)一致的可能性。Kappa值在-1到1之間大于0.6通常認(rèn)為一致性較好。SPSS在判別分析的“分類(lèi)”輸出中如果勾選了相應(yīng)選項(xiàng)會(huì)提供Kappa系數(shù)。4.2 模型診斷與優(yōu)化策略如果模型表現(xiàn)不佳我們需要像醫(yī)生一樣進(jìn)行“診斷”。邏輯回歸模型診斷HL擬合優(yōu)度檢驗(yàn)P值應(yīng)大于0.05。如果顯著P0.05說(shuō)明模型擬合不佳可能遺漏了重要變量、存在非線性關(guān)系或交互項(xiàng)。殘差分析檢查“保存”選項(xiàng)中的標(biāo)準(zhǔn)化殘差。絕對(duì)值大于3的個(gè)案可能是強(qiáng)影響點(diǎn)或異常值需要審查。共線性再檢查盡管邏輯回歸對(duì)共線性不如線性回歸敏感但嚴(yán)重的共線性仍會(huì)導(dǎo)致系數(shù)估計(jì)不穩(wěn)定。檢查VIF值。變量非線性關(guān)系如果懷疑某個(gè)連續(xù)自變量與因變量的對(duì)數(shù)優(yōu)勢(shì)不是線性關(guān)系可以嘗試將該變量進(jìn)行轉(zhuǎn)換如取對(duì)數(shù)、平方或?qū)⑵潆x散化為分類(lèi)變量如按分位數(shù)分組后再納入模型。判別分析前提檢驗(yàn)多元正態(tài)性檢驗(yàn)SPSS沒(méi)有直接提供但可以通過(guò)考察每個(gè)變量的正態(tài)性Q-Q圖或使用其他專(zhuān)業(yè)軟件輔助判斷。在實(shí)際應(yīng)用中只要不是嚴(yán)重偏態(tài)LDA通常具有一定的穩(wěn)健性。Box‘s M 檢驗(yàn)在判別分析的“統(tǒng)計(jì)”選項(xiàng)中勾選后輸出。其零假設(shè)是各組協(xié)方差矩陣相等。如果檢驗(yàn)顯著P0.05則違背了LDA的核心假設(shè)。此時(shí)應(yīng)考慮使用二次判別分析QDA它不要求協(xié)方差矩陣相等。但SPSS的判別分析過(guò)程默認(rèn)是線性的實(shí)現(xiàn)QDA需要更復(fù)雜的操作或使用其他軟件如R、Python。使用邏輯回歸它對(duì)數(shù)據(jù)分布沒(méi)有嚴(yán)格要求。嘗試對(duì)變量進(jìn)行變換如對(duì)數(shù)變換使數(shù)據(jù)更接近正態(tài)分布。特征工程與模型調(diào)優(yōu)交互項(xiàng)在邏輯回歸中可以考慮加入自變量的交互項(xiàng)如“年齡信用卡狀態(tài)”看看兩個(gè)變量的聯(lián)合效應(yīng)是否顯著。在SPSS的Logistic回歸對(duì)話框中可以同時(shí)選中兩個(gè)變量然后點(diǎn)擊旁邊的“ab”按鈕來(lái)創(chuàng)建交互項(xiàng)。變量選擇不要一次性放入所有變量。使用逐步回歸法向前/向后可以幫助篩選。也可以基于領(lǐng)域知識(shí)或單變量分析如卡方檢驗(yàn)、t檢驗(yàn)先進(jìn)行初步篩選。處理不平衡數(shù)據(jù)如果正負(fù)樣本比例懸殊如1:99模型會(huì)偏向多數(shù)類(lèi)。SPSS中可以在邏輯回歸的“選項(xiàng)”里調(diào)整“分類(lèi)臨界值”默認(rèn)0.5或使用“加權(quán)個(gè)案”功能對(duì)少數(shù)類(lèi)樣本賦予更高權(quán)重。更高級(jí)的做法是在數(shù)據(jù)準(zhǔn)備階段使用過(guò)采樣如SMOTE或欠采樣技術(shù)但這通常需要在其他軟件中完成。5. 結(jié)果呈現(xiàn)與論文寫(xiě)作將分析轉(zhuǎn)化為說(shuō)服力數(shù)學(xué)建模競(jìng)賽中清晰、專(zhuān)業(yè)的結(jié)果呈現(xiàn)和嚴(yán)謹(jǐn)?shù)恼撌雠c模型本身同等重要。5.1 核心結(jié)果的表格化呈現(xiàn)在論文的“模型建立與求解”部分不要簡(jiǎn)單截圖SPSS的全部輸出。要提煉關(guān)鍵信息制作成規(guī)范的學(xué)術(shù)表格。邏輯回歸結(jié)果表應(yīng)包含以下列變量、B系數(shù)、標(biāo)準(zhǔn)誤、Wald值、自由度、顯著性P值、Exp(B)優(yōu)勢(shì)比、Exp(B)的95%置信區(qū)間。對(duì)于分類(lèi)自變量要注明參考類(lèi)別?？梢栽诒砀裣路教砑幼⑨屨f(shuō)明模型整體的擬合優(yōu)度指標(biāo)如Nagelkerke R2和HL檢驗(yàn)結(jié)果。判別分析結(jié)果表可以制作兩個(gè)核心表格。一是標(biāo)準(zhǔn)化判別函數(shù)系數(shù)表展示各變量對(duì)兩個(gè)或更多判別函數(shù)的貢獻(xiàn)。二是分類(lèi)結(jié)果混淆矩陣清晰展示訓(xùn)練集和測(cè)試集上每個(gè)類(lèi)別的預(yù)測(cè)情況并計(jì)算總體準(zhǔn)確率、Kappa系數(shù)等。模型性能對(duì)比表如果你嘗試了多種模型如邏輯回歸、判別分析、決策樹(shù)可以制作一個(gè)對(duì)比表格列包括模型名稱(chēng)、訓(xùn)練集準(zhǔn)確率、測(cè)試集準(zhǔn)確率、AUC值、靈敏度、特異度、備注如是否滿(mǎn)足假設(shè)從而有力地論證你最終選擇的模型為何是最優(yōu)的。5.2 圖表可視化一圖勝千言ROC曲線圖務(wù)必在論文中插入ROC曲線圖并標(biāo)注AUC值。這是證明你模型區(qū)分能力的強(qiáng)有力證據(jù)。SPSS輸出的圖表可以直接編輯雙擊圖表進(jìn)入圖表編輯器以美化線條、字體然后導(dǎo)出為高清圖片。判別分析的區(qū)域圖/散點(diǎn)圖SPSS輸出的判別分?jǐn)?shù)散點(diǎn)圖或區(qū)域圖非常直觀能展示不同類(lèi)別樣本在判別空間中的分布情況以及決策邊界。在論文中用此圖可以生動(dòng)說(shuō)明模型的分類(lèi)機(jī)理。預(yù)測(cè)概率分布直方圖對(duì)于邏輯回歸可以繪制訓(xùn)練集和測(cè)試集上預(yù)測(cè)概率的分布直方圖觀察模型是否對(duì)兩類(lèi)樣本給出了有區(qū)分度的概率值。5.3 建模過(guò)程的文字論述要點(diǎn)在描述你的建模過(guò)程時(shí)要體現(xiàn)嚴(yán)謹(jǐn)?shù)目茖W(xué)流程數(shù)據(jù)預(yù)處理說(shuō)明簡(jiǎn)要說(shuō)明如何處理了缺失值、異常值是否進(jìn)行了變量轉(zhuǎn)換或標(biāo)準(zhǔn)化。模型選擇理由基于數(shù)據(jù)特征因變量類(lèi)型、自變量分布、樣本量和模型前提假設(shè)解釋為何選擇邏輯回歸或判別分析。可以提及你也考慮了其他模型如SVM但基于解釋性或假設(shè)檢驗(yàn)結(jié)果最終選擇了當(dāng)前模型。變量篩選過(guò)程說(shuō)明你是如何確定最終進(jìn)入模型的自變量的是基于逐步回歸、理論驅(qū)動(dòng)還是先驗(yàn)知識(shí)模型假設(shè)檢驗(yàn)明確報(bào)告你對(duì)模型前提假設(shè)的檢驗(yàn)結(jié)果。例如“我們進(jìn)行了Box‘s M檢驗(yàn)結(jié)果不顯著P0.12滿(mǎn)足線性判別分析中組間協(xié)方差矩陣相等的假設(shè)因此采用線性判別模型是合適的?！?或者“Hosmer-Lemeshow檢驗(yàn)顯示模型擬合良好P0.32?！蹦Ｐ徒Y(jié)果解釋結(jié)合Exp(B)和置信區(qū)間解釋關(guān)鍵自變量的實(shí)際意義。例如“在控制其他變量的情況下持有信用卡的客戶(hù)流失的優(yōu)勢(shì)比Exp(B)為0.4595% CI: 0.28-0.72這意味著持有信用卡的客戶(hù)流失的可能性顯著更低大約是不持有信用卡客戶(hù)的0.45倍?！蹦Ｐ驮u(píng)估與驗(yàn)證不僅要報(bào)告訓(xùn)練集上的性能必須報(bào)告在獨(dú)立的測(cè)試集上的性能。這是檢驗(yàn)?zāi)Ｐ头夯芰?、防止過(guò)擬合的關(guān)鍵。說(shuō)明你采用了何種數(shù)據(jù)分割方法如70/30隨機(jī)分割以及測(cè)試集上的準(zhǔn)確率、AUC等指標(biāo)。模型局限性客觀指出模型的不足例如“本模型未考慮變量間可能存在的復(fù)雜交互效應(yīng)”或“由于數(shù)據(jù)中流失客戶(hù)占比較低模型對(duì)流失客戶(hù)的識(shí)別靈敏度仍有提升空間”。這體現(xiàn)了批判性思維。最后我個(gè)人在多次競(jìng)賽和實(shí)際項(xiàng)目中的一個(gè)深刻體會(huì)是不要迷信任何一個(gè)單一的模型或指標(biāo)。SPSS提供了便捷的工具但真正的建模智慧在于理解數(shù)據(jù)背后的業(yè)務(wù)邏輯在于嚴(yán)謹(jǐn)?shù)募僭O(shè)檢驗(yàn)流程在于用測(cè)試集來(lái)“拷問(wèn)”模型的真實(shí)能力。將邏輯回歸的系數(shù)解釋與判別分析的直觀分類(lèi)圖結(jié)合到你的問(wèn)題背景中才能讓你的論文不僅有“數(shù)”更有“理”最終在數(shù)學(xué)建模競(jìng)賽中脫穎而出。