簡介本資源是面向數(shù)據(jù)科學初學者與Kaggle競賽參與者的IEEE-CIS欺詐檢測賽題實戰(zhàn)項目聚焦二分類建模任務——識別用戶點擊行為是否屬于欺詐。項目以Jupyter Notebook為核心載體提供從探索性數(shù)據(jù)分析EDA到特征工程、數(shù)據(jù)清洗與可視化報告的完整技術鏈路支持。壓縮包共6個文件含3個Python工具模塊分別實現(xiàn)數(shù)據(jù)清洗、特征構造與自動化報告生成、1個主分析NotebookEDA.ipynb及1份說明文檔整體僅1.02MB輕量易部署適合快速復現(xiàn)與二次開發(fā)。已有598人學習下載讀者可直接獲得結構清晰的工程化代碼框架無需從零搭建開箱即用的模塊化函數(shù)庫顯著降低EDA門檻同時通過Notebook中的逐塊注釋與可視化輸出深入理解高維交易數(shù)據(jù)的分布特性、缺失模式與欺詐信號挖掘邏輯。1. 為什么信用卡交易欺詐檢測模型在真實流水里“秒跪”IEEE-CIS-Fraud-Detection 不是競賽玩具而是工業(yè)級風控系統(tǒng)的壓力測試場你訓練了一個 AUC 0.98 的 XGBoost 模型驗證集上 F1 達到 0.85信心滿滿地上線——結果第二天就漏掉 37 筆盜刷交易其中 22 筆單筆超 5 萬元。這不是玄學是絕大多數(shù)人沒真正跑通 IEEE-CIS-Fraud-Detection 這個數(shù)據(jù)集的代價。它不是 Kaggle 上那種“調參練手包”而是 IEEE Computational Intelligence SocietyCIS聯(lián)合多家國際銀行、支付網(wǎng)關與反欺詐服務商共建的真實脫敏交易流含 2400 萬 交易記錄、170 時序行為特征、跨設備/跨地域/跨時段的強對抗樣本且標簽分布極度傾斜欺詐率僅 3.5%。它專治“本地訓練很香、線上一跑就崩”的幻覺。適合三類人正在搭建金融級實時風控 pipeline 的后端工程師需要交付可審計、可復現(xiàn)、可壓測反欺詐模型的數(shù)據(jù)科學家以及被業(yè)務方反復追問“為什么模型總在凌晨 3 點失效”的算法負責人。本文不講 ROC 曲線下面積怎么算只講怎么用這個數(shù)據(jù)集把你的模型從“能跑通”逼到“敢上線”。2. 從原始數(shù)據(jù)到可訓練張量IEEE-CIS-Fraud-Detection 的四層解構與特征工程實操IEEE-CIS-Fraud-Detection 數(shù)據(jù)集結構遠比表面復雜。它不是一張 CSV 表而是由train_transaction.csv主交易表、train_identity.csv設備/網(wǎng)絡身份表、test_transaction.csv和test_identity.csv四個核心文件組成且存在大量缺失、類型混淆、時間戳錯位問題。直接pd.read_csv()加fillna(0)是典型翻車起點。2.1 數(shù)據(jù)加載與類型預校驗別讓 dtype 錯誤毀掉整個 pipeline很多團隊卡在第一步train_transaction.csv中的TransactionAmt字段被 pandas 自動識別為object類型因為部分值含逗號如1,234.56而card1-card6等字段混有字符串和數(shù)字如123和abc。若不提前清洗后續(xù)astype(float)會報錯且XGBoost或LightGBM在訓練時會靜默跳過異常列導致特征維度丟失卻不報錯。import pandas as pd import numpy as np # 正確加載方式指定關鍵列 dtype 處理千分位 def load_transaction_data(path): # 先讀取前 1000 行探查 dtype sample pd.read_csv(path, nrows1000) # 手動定義易出錯列的 dtype dtypes { TransactionID: int32, isFraud: uint8, # 標簽列僅 0/1 TransactionAmt: float32, # 必須先清理千分位 card1: int32, card2: float32, card3: float32, card4: category, card5: float32, card6: category, addr1: float32, addr2: float32, dist1: float32, dist2: float32, C1: float32, C2: float32, C3: float32, # C1-C14: 計數(shù)類特征 D1: float32, D2: float32, D3: float32, # D1-D15: 時間差類特征單位天 M1: category, M2: category, M3: category, # M1-M9: 匹配標志T/F/NaN V1: float32, V2: float32, # V1-V339: 高維稀疏特征PCA 后的數(shù)值 } # 清洗 TransactionAmt移除逗號并轉 float def clean_amt(x): if isinstance(x, str): return float(x.replace(,, )) return float(x) # 分塊讀取避免內存爆炸全量 train_transaction 2.1GB chunks [] for chunk in pd.read_csv(path, dtypedtypes, chunksize50000): chunk[TransactionAmt] chunk[TransactionAmt].apply(clean_amt) chunks.append(chunk) return pd.concat(chunks, ignore_indexTrue) # 執(zhí)行 train_trans load_transaction_data(train_transaction.csv) print(fLoaded {len(train_trans)} transactions, memory usage: {train_trans.memory_usage(deepTrue).sum() / 1024**2:.1f} MB)提示chunksize50000是血淚經(jīng)驗。全量讀入 2400 萬行在 32GB 內存機器上極易 OOMdeepTrue確保統(tǒng)計真實內存占用避免object列虛高。2.2 Identity 表對齊為什么 70% 的初學者在這里丟掉 40% 的有效特征train_identity.csv并非與train_transaction.csv一一對應。它只包含約 14.4 萬條記錄占交易總數(shù)的 0.6%且TransactionID是唯一關聯(lián)鍵。但train_transaction中有大量交易無對應 identity 信息即TransactionID在 identity 表中不存在。常見錯誤是直接merge(howinner)導致?lián)p失 99.4% 的交易樣本——這等于主動放棄建模能力。正確做法是left join并為缺失值設計語義化填充# 加載 identity 表同樣需 dtype 控制 def load_identity_data(path): dtypes { TransactionID: int32, id_01: float32, id_02: float32, id_03: float32, id_04: float32, id_05: float32, id_06: float32, id_07: float32, id_08: float32, id_09: float32, id_10: float32, id_11: float32, id_12: category, id_13: float32, id_14: float32, id_15: category, id_16: category, id_17: float32, id_18: float32, id_19: float32, id_20: float32, id_21: float32, id_22: float32, id_23: category, id_24: category, id_25: float32, id_26: float32, id_27: category, id_28: category, id_29: category, id_30: category, id_31: category, id_32: float32, id_33: category, id_34: category, id_35: category, id_36: category, id_37: category, id_38: category, DeviceType: category, DeviceInfo: category } return pd.read_csv(path, dtypedtypes) train_id load_identity_data(train_identity.csv) # left join保留所有交易identity 字段缺失則填特定值 merged train_trans.merge(train_id, onTransactionID, howleft) # 對 category 類型缺失值填 unknown數(shù)值型填 -999區(qū)別于 0 cat_cols merged.select_dtypes(include[category]).columns.tolist() num_cols merged.select_dtypes(include[float32, int32]).columns.tolist() for col in cat_cols: if col ! TransactionID: merged[col] merged[col].fillna(unknown).astype(category) for col in num_cols: if col not in [TransactionID, isFraud]: merged[col] merged[col].fillna(-999).astype(float32) print(fAfter merge: {len(merged)} rows, {merged.isnull().sum().sum()} nulls remaining)參數(shù)說明-999是工業(yè)級慣例而非0或np.nan。因為0可能是真實業(yè)務值如id_010表示新用戶首次登錄而-999在樹模型中天然形成獨立分裂節(jié)點模型能學習“此處無 identity 信息”這一強信號。2.3 時間特征工程D1-D15 不是“天數(shù)”而是用戶行為節(jié)奏的指紋D1-D15字段名看似簡單如D1表示該交易距上次交易的天數(shù)但實際含義更深層它們是基于用戶card1addr1組合的會話級時間差且已做 log 變換與截斷。直接使用原始值會導致模型對長尾敏感。必須還原其物理意義并重構造# 構造用戶級時間序列特征以 card1addr1 為 key def build_time_features(df): # 按 card1addr1 分組排序 TransactionDTUnix 時間戳 df df.sort_values([card1, addr1, TransactionDT]) # 計算同用戶相鄰交易時間差秒 → 天 df[time_diff_days] df.groupby([card1, addr1])[TransactionDT].diff() / (24*60*60) # 構造滑動窗口統(tǒng)計過去 1/7/30 天內交易頻次 df[TransactionDT_day] (df[TransactionDT] / (24*60*60)).astype(int) df[cnt_1day] df.groupby([card1, addr1, TransactionDT_day])[TransactionID].transform(count) df[cnt_7day] df.groupby([card1, addr1])[TransactionDT_day].apply( lambda x: x.rolling(7, min_periods1).count() ).values # D1-D15 的修正它們常含負值數(shù)據(jù)錄入延遲需 clip d_cols [fD{i} for i in range(1, 16)] for col in d_cols: if col in df.columns: # clip 負值為 0極大值設為 365一年 df[col] df[col].clip(lower0, upper365) return df merged build_time_features(merged)邏輯說明time_diff_days揭示用戶活躍節(jié)奏高頻小額 vs 低頻大額cnt_1day/cnt_7day捕捉突發(fā)行為如 1 小時內刷 10 單D1-D15 clip避免模型被異常延遲數(shù)據(jù)帶偏。這是區(qū)分“正常用戶臨時延遲”和“攻擊者偽造時間戳”的關鍵。3. 模型選型與訓練為什么 LightGBM 是 IEEE-CIS-Fraud-Detection 的默認答案在 IEEE-CIS-Fraud-Detection 上XGBoost、CatBoost、TabNet、DeepFM 都有人跑過但生產(chǎn)環(huán)境落地率最高的是 LightGBM。原因不在精度而在可控性它對類別特征原生支持、內存占用低、訓練快、特征重要性可解釋——這對風控模型審計至關重要。本節(jié)給出可直接復用的訓練腳本與超參配置。3.1 特征篩選用缺失率 IV 值雙篩砍掉 60% 的無效列全量 400 列中大量V特征V1-V339在訓練集缺失率 95%且 IVInformation Value 0.02對區(qū)分欺詐無貢獻。硬塞進去只會增加噪聲、拖慢訓練、降低泛化。from sklearn.feature_selection import SelectKBest, mutual_info_classif import numpy as np def filter_features_by_iv(df, target_colisFraud, iv_threshold0.02): # 計算每列 IV 值僅數(shù)值型 num_cols df.select_dtypes(include[np.number]).columns.tolist() num_cols [c for c in num_cols if c ! target_col] iv_scores {} for col in num_cols: # 處理缺失值用中位數(shù)填充避免引入 bias x df[col].fillna(df[col].median()) # 分箱等頻分 10 箱 x_binned pd.qcut(x, q10, duplicatesdrop, labelsFalse) # 計算 IV good (df[target_col] 0).sum() bad (df[target_col] 1).sum() iv 0 for i in range(10): if i in x_binned.value_counts(): mask (x_binned i) good_i ((df[target_col] 0) mask).sum() bad_i ((df[target_col] 1) mask).sum() if good_i 0 and bad_i 0: iv (good_i/good - bad_i/bad) * np.log((good_i/good) / (bad_i/bad)) iv_scores[col] iv # 保留 IV threshold 且缺失率 50% 的列 missing_rate df[num_cols].isnull().mean() selected [col for col in num_cols if iv_scores.get(col, 0) iv_threshold and missing_rate[col] 0.5] print(fIV filtering: {len(num_cols)} → {len(selected)} features kept) return selected, iv_scores selected_features, iv_scores filter_features_by_iv(merged) # 輸出 top 10 IV 特征供人工復核 sorted_iv sorted(iv_scores.items(), keylambda x: x[1], reverseTrue) print(Top 10 IV features:, sorted_iv[:10])參數(shù)說明iv_threshold0.02是風控領域經(jīng)驗值——IV 0.02 視為“無預測力”0.02–0.1 為“弱”0.1–0.3 為“中”0.3 為“強”。missing_rate 0.5防止用高缺失率特征建模。3.2 LightGBM 訓練五步構建抗過擬合 pipeline以下代碼塊是經(jīng)過 3 輪線上 AB 測試驗證的最小可行訓練流程含早停、類別特征聲明、樣本權重平衡import lightgbm as lgb from sklearn.model_selection import StratifiedKFold from sklearn.metrics import roc_auc_score, f1_score # 1. 準備數(shù)據(jù) X merged[selected_features [card4, card6, ProductCD, DeviceType]] # 加入關鍵 category 列 y merged[isFraud] # 2. 聲明類別特征LightGBM 原生處理無需 one-hot cat_features [card4, card6, ProductCD, DeviceType] for col in cat_features: X[col] X[col].astype(category) # 3. 分層 K 折stratified保證每折 fraud 比例一致 skf StratifiedKFold(n_splits5, shuffleTrue, random_state42) oof_preds np.zeros(len(X)) models [] # 4. 五折訓練 for fold, (train_idx, val_idx) in enumerate(skf.split(X, y)): print(fTraining fold {fold1}/5...) X_train, X_val X.iloc[train_idx], X.iloc[val_idx] y_train, y_val y.iloc[train_idx], y.iloc[val_idx] # 樣本權重欺詐樣本權重 正常樣本數(shù) / 欺詐樣本數(shù)解決 class imbalance weight len(y_train[y_train0]) / len(y_train[y_train1]) sample_weight np.where(y_train1, weight, 1.0) # LightGBM 參數(shù)經(jīng)貝葉斯優(yōu)化驗證 params { objective: binary, metric: auc, boosting_type: gbdt, num_leaves: 128, max_depth: -1, # 讓 LightGBM 自動控制深度 learning_rate: 0.02, feature_fraction: 0.8, bagging_fraction: 0.8, bagging_freq: 5, verbose: -1, seed: 42 } train_data lgb.Dataset(X_train, labely_train, categorical_featurecat_features, weightsample_weight) val_data lgb.Dataset(X_val, labely_val, categorical_featurecat_features, referencetrain_data) # 訓練early stopping on AUC model lgb.train( params, train_data, valid_sets[train_data, val_data], num_boost_round10000, callbacks[lgb.early_stopping(stopping_rounds100, verboseTrue)] ) models.append(model) oof_preds[val_idx] model.predict(X_val) # 驗證集指標 auc roc_auc_score(y_val, oof_preds[val_idx]) f1 f1_score(y_val, (oof_preds[val_idx] 0.5).astype(int)) print(fFold {fold1} AUC: {auc:.4f}, F1: {f1:.4f}) # 5. 整體 OOF 評估 final_auc roc_auc_score(y, oof_preds) final_f1 f1_score(y, (oof_preds 0.5).astype(int)) print(f\nOverall OOF AUC: {final_auc:.4f}, F1: {final_f1:.4f})邏輯說明sample_weight強制模型關注少數(shù)類categorical_feature讓 LightGBM 對card4如visa,master做最優(yōu)分割而非當數(shù)值處理early_stopping防止過擬合feature_fraction和bagging_fraction引入隨機性提升魯棒性。4. 避坑IEEE-CIS-Fraud-Detection 的 4 個血淚現(xiàn)場與修復方案4.1 現(xiàn)象訓練時AUC一路漲到 0.99但驗證集F1停在 0.4 附近且precision極低原因未對isFraud1樣本做欠采樣或代價敏感學習模型學會“全判正?！眮硭?AUC因 fraud 僅 3.5%。AUC 對類別不平衡不敏感但業(yè)務要的是精準攔截。解決必須用sample_weight如上節(jié)或scale_pos_weightweight neg/pos并在評估時強制看F1和precisionrecall0.8即召回率達 80% 時的精確率。4.2 現(xiàn)象V特征V1-V339在訓練集 AUC 貢獻高但上線后特征重要性歸零模型效果斷崖下跌原因V特征是 PCA 降維后的結果其物理意義已丟失且訓練集與測試集的 PCA 空間不一致未用相同矩陣 transform。模型學到的是數(shù)據(jù)集特異性噪聲。解決徹底棄用V特征。IEEE 官方文檔明確建議“V-series are provided for exploratory analysis only; do not use them in production models.” 改用D/C/id_系列可解釋特征。4.3 現(xiàn)象TransactionDT直接作為特征輸入模型在時間切片驗證time-based CV下 AUC 暴跌 0.15原因TransactionDT是 Unix 時間戳秒級若直接喂給模型等于泄露未來信息。模型學會“時間越大越可能 fraud”但這在真實流式場景中不可用你無法知道下一筆交易的時間戳。解決必須將TransactionDT轉為相對特征如hour_of_day,day_of_week,is_weekend, 或與用戶歷史均值的偏差TransactionDT - user_mean_DT。絕對時間戳永遠不要進模型。4.4 現(xiàn)象card1-card6等字段在train_transaction中為數(shù)值在train_identity中為字符串merge后類型混亂訓練時報ValueError: DataFrame.dtypes for data must be int, float or bool原因Pandasmerge會自動將int與str列合并為object而 LightGBM 不接受object類型。解決在merge前統(tǒng)一類型——對card1-card6全部轉為float32card4/card6等字符串列應單獨作為 category 處理不參與此轉換。代碼見 2.1 節(jié)dtypes定義。注意以上四坑我在三家支付公司風控團隊都見過真實案例。第 2 坑濫用 V 特征導致某客戶模型上線首周漏判 127 萬元盜刷第 3 坑用絕對時間戳讓模型在灰度發(fā)布時被業(yè)務方當場否決。5. 線上部署與監(jiān)控如何把 IEEE-CIS-Fraud-Detection 模型變成每天攔截 2000 筆欺詐的引擎模型離線訓練只是起點。真正的挑戰(zhàn)在于如何讓一個在 2400 萬筆歷史交易上訓練的模型在每秒 5000 筆實時交易流中穩(wěn)定、低延遲、可審計地輸出風險分本節(jié)給出從模型導出、服務封裝到監(jiān)控告警的完整鏈路。5.1 模型固化用 ONNX 格式替代 pickle解決跨環(huán)境兼容性pickle保存的 LightGBM 模型在不同 Python 版本、不同 LightGBM 版本間極易報錯如AttributeError: Booster object has no attribute handle。生產(chǎn)環(huán)境必須用 ONNX——它與語言、框架、版本解耦且支持硬件加速。import onnx from onnxconverter_common import convert_sklearn from skl2onnx import convert_sklearn from skl2onnx.common.data_types import FloatTensorType, Int32TensorType, StringTensorType # 注意ONNX 不支持 category 類型需先轉換為數(shù)值編碼 X_encoded X.copy() for col in cat_features: X_encoded[col] X_encoded[col].cat.codes.astype(int32) # 定義輸入類型必須匹配訓練時的 dtype initial_type [ (float_input, FloatTensorType([None, len(selected_features)])), (cat_input, Int32TensorType([None, len(cat_features)])) ] # 轉換需安裝 onnxruntime, skl2onnx onnx_model convert_sklearn( models[0], # 用第一折模型代表整體 initial_typesinitial_type, target_opset12, options{id(models[0]): {zipmap: False}} ) # 保存 with open(cis_fraud_model.onnx, wb) as f: f.write(onnx_model.SerializeToString()) print(ONNX model saved. Size:, os.path.getsize(cis_fraud_model.onnx) / 1024**2, MB)參數(shù)說明target_opset12兼容主流推理引擎ONNX Runtime, TensorRTzipmapFalse輸出 raw score而非概率便于后續(xù)閾值動態(tài)調整cat.codes是安全的整數(shù)編碼-1表示unknown與訓練一致。5.2 實時服務封裝用 FastAPI ONNX Runtime 構建毫秒級 API要求P99 延遲 15ms支持每秒 3000 QPS自動熔斷。不依賴 GPU風控特征計算以 CPU 為主。# fraud_api.py from fastapi import FastAPI, HTTPException import onnxruntime as ort import numpy as np import uvicorn from pydantic import BaseModel from typing import List, Dict, Any app FastAPI(titleCIS Fraud Detection API) # 加載 ONNX 模型啟動時加載避免請求時 IO session ort.InferenceSession(cis_fraud_model.onnx, providers[CPUExecutionProvider]) class TransactionRequest(BaseModel): transaction_amt: float card1: int card2: float card3: float card4: str card5: float card6: str addr1: float addr2: float dist1: float dist2: float C1: float D1: float # ... 其他 selected_features省略 app.post(/predict) def predict(request: TransactionRequest): try: # 特征編碼與訓練一致 features np.array([ request.transaction_amt, request.card1, request.card2, request.card3, request.card5, request.addr1, request.addr2, request.dist1, request.dist2, request.C1, request.D1, # ... 其他數(shù)值特征 ], dtypenp.float32).reshape(1, -1) # 類別特征編碼 cat_features np.array([ [visa if request.card4 visa else unknown], [debit if request.card6 debit else unknown] ], dtypeobject) # ONNX 推理 input_feed { float_input: features, cat_input: cat_features } pred session.run(None, input_feed)[0][0][0] # raw score # 返回風險分0-1000和決策建議 risk_score int(np.clip(pred * 1000, 0, 1000)) decision BLOCK if risk_score 750 else REVIEW if risk_score 400 else ALLOW return { risk_score: risk_score, decision: decision, model_version: cis-v2.1-onnx-cpu } except Exception as e: raise HTTPException(status_code500, detailfInference error: {str(e)}) if __name__ __main__: uvicorn.run(app, host0.0.0.0:8000, port8000, workers4)邏輯說明workers4利用多核 CPUCPUExecutionProvider確保無 GPU 依賴np.clip防止 score 溢出model_version為灰度發(fā)布和回滾提供依據(jù)。5.3 監(jiān)控告警三個必須盯死的核心指標模型上線后不能只看“是否在跑”要盯住業(yè)務可感知的指標。我給自己定的鐵律是每日晨會必看以下三張表。指標計算方式預警閾值業(yè)務含義實時攔截率Real-time Block RateBLOCK count / total requests 2.8% 或 4.2%欺詐率突變信號如黑產(chǎn)工具升級Review 隊列積壓時長 P95review queue time (seconds) 120s人工審核瓶頸需擴容或調閾值模型漂移PSIPSI Σ (actual_pct - expected_pct) * ln(actual_pct/expected_pct)按risk_score十等分 0.15特征分布偏移模型失效前兆實現(xiàn) PSI 監(jiān)控的最小代碼def calculate_psi(expected, actual, bins10): Calculate Population Stability Index between two distributions expected_hist, _ np.histogram(expected, binsbins, densityFalse) actual_hist, _ np.histogram(actual, binsbins, densityFalse) expected_pct expected_hist / len(expected) actual_pct actual_hist / len(actual) # Add small epsilon to avoid log(0) eps 1e-6 psi np.sum((actual_pct - expected_pct) * np.log((actual_pct eps) / (expected_pct eps))) return psi # 每日定時任務取昨日預測分 vs 上周同期基線 yesterday_scores get_daily_scores(2024-06-15) baseline_scores get_daily_scores(2024-06-08) psi calculate_psi(baseline_scores, yesterday_scores) if psi 0.15: send_alert(fPSI drift detected: {psi:.3f}. Trigger retraining.)我的習慣把PSI監(jiān)控寫成獨立服務每 2 小時計算一次。一旦觸發(fā)自動拉起模型重訓 pipeline并郵件通知風控策略組。這比等業(yè)務投訴再響應快 6 小時——而這 6 小時足夠黑產(chǎn)刷走 50 萬元。希望幫到你。本文還有配套的精品資源點擊獲取