簡(jiǎn)介基于隨機(jī)森林算法的銀行信貸審批模式識(shí)別系統(tǒng)設(shè)計(jì)文檔內(nèi)容完整涵蓋隨機(jī)森林與ID3決策樹原理、特征重要性排序與袋外誤差率特征選擇、有放回抽樣構(gòu)建多棵決策樹及少數(shù)服從多數(shù)投票分類流程適合機(jī)器學(xué)習(xí)初學(xué)者、模式識(shí)別課程設(shè)計(jì)或畢業(yè)設(shè)計(jì)參考。文檔詳細(xì)描述了7個(gè)特征年齡、收入、住房、信用等級(jí)、性別、居住地、貸款決策的編碼規(guī)則并基于1500個(gè)訓(xùn)練樣本和500個(gè)測(cè)試樣本給出可復(fù)現(xiàn)的MATLAB R2019a實(shí)現(xiàn)步驟核心程序代碼含注釋覆蓋從數(shù)據(jù)預(yù)處理到分類準(zhǔn)確率評(píng)估的完整環(huán)節(jié)。整包僅1個(gè)doc文件大小154KB但結(jié)構(gòu)完整包含系統(tǒng)流程圖、特征提取方法、分類過(guò)程說(shuō)明及主要程序代碼便于按章節(jié)查閱與二次開發(fā)。目前已有162人學(xué)習(xí)下載對(duì)需要快速掌握隨機(jī)森林工程實(shí)現(xiàn)或完成同類課設(shè)的讀者具有較高參考價(jià)值。1. 隨機(jī)森林模式識(shí)別系統(tǒng)從數(shù)據(jù)劃分到推理封裝這是一條能直接落地的技術(shù)路線模式識(shí)別任務(wù)里隨機(jī)森林經(jīng)常被當(dāng)成“初學(xué)者玩具”但在真實(shí)工程中它卻是我最常用的基線模型。數(shù)據(jù)量不大、特征維度中等、類型混合時(shí)它比支持向量機(jī)穩(wěn)定、比神經(jīng)網(wǎng)絡(luò)快調(diào)參的“玄學(xué)”成分也少得多。很多人拿到的“基于隨機(jī)森林算法的模式識(shí)別系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)”代碼文檔里代碼堆了一堆卻沒(méi)人告訴你數(shù)據(jù)怎么切、特征怎么篩、模型怎么封裝。這篇文章就按我自己的落地習(xí)慣把這個(gè)系統(tǒng)拆成數(shù)據(jù)準(zhǔn)備、特征工程、模型訓(xùn)練、參數(shù)調(diào)優(yōu)、推理封裝和避坑清單幾個(gè)層次每一步都給出可復(fù)現(xiàn)代碼。你不需要GPU不需要調(diào)網(wǎng)絡(luò)結(jié)構(gòu)只要會(huì)Python和scikit-learn就能跟上。適合正在做分類識(shí)別快速驗(yàn)證、需要交付可靠模型的開發(fā)者。2. 從投票機(jī)制到適用邊界隨機(jī)森林為什么能識(shí)別復(fù)雜模式2.1 每棵樹都在“盲人摸象”Bootstrap采樣、特征隨機(jī)與集成的本質(zhì)隨機(jī)森林的核心并不復(fù)雜訓(xùn)練多棵決策樹然后讓它們投票。關(guān)鍵在于“多棵樹”之間要足夠有差異。第一重隨機(jī)來(lái)自Bootstrap采樣有放回地從原始訓(xùn)練集抽一個(gè)等大小的樣本集。理論上有放回抽取后原始數(shù)據(jù)中約63.2%的樣本會(huì)被抽到剩下約36.8%的樣本被稱為袋外樣本Out-of-BagOOB。每棵樹看到的數(shù)據(jù)集都不一樣訓(xùn)練出來(lái)的樹自然不一樣。第二重隨機(jī)在節(jié)點(diǎn)分裂階段每棵樹在做分裂時(shí)只從全部特征中隨機(jī)抽取一個(gè)子集再?gòu)淖蛹镎易顑?yōu)切分點(diǎn)。分類任務(wù)里這個(gè)子集大小通常取特征總數(shù)的平方根回歸任務(wù)通常取三分之一。這兩個(gè)隨機(jī)機(jī)制迫使每棵樹的信息來(lái)源都受限單棵樹可能是在“盲人摸象”但很多棵樹在一起投票時(shí)錯(cuò)誤會(huì)被互相抵消剩下的就是真正穩(wěn)定的模式。為什么這個(gè)機(jī)制能降低方差而不是單純引入更多噪聲因?yàn)闆Q策樹本身是高方差模型訓(xùn)練集的微小變化會(huì)讓樹結(jié)構(gòu)完全改變。隨機(jī)森林同時(shí)擾動(dòng)樣本和特征讓每棵樹偏離“理想模型”的方向互不相關(guān)。平均之后系統(tǒng)性的偏差還在但隨機(jī)波動(dòng)被大幅抹平。模式識(shí)別場(chǎng)景里特征往往是手工構(gòu)造的噪聲和冗余比較多這種“平均化”的做法非常有效。還有一個(gè)容易被忽略的點(diǎn)隨機(jī)森林的每棵樹都不做剪枝也不追求單棵樹的高精度。實(shí)踐證明讓樹盡量長(zhǎng)深再靠樣本擾動(dòng)和特征擾動(dòng)去控制過(guò)擬合效果比限制樹的復(fù)雜程度更好。這也給了我們調(diào)參方向與其拼命限制max_depth不如合理設(shè)置min_samples_leaf和max_features讓樹保持多樣性。2.2 和SVM、神經(jīng)網(wǎng)絡(luò)、XGBoost放在一起比較什么時(shí)候選隨機(jī)森林很多從業(yè)者糾結(jié)“模式識(shí)別系統(tǒng)到底該用隨機(jī)森林還是深度學(xué)習(xí)”。我的判斷標(biāo)準(zhǔn)是先看數(shù)據(jù)量。幾千條樣本、幾十個(gè)特征深度學(xué)習(xí)很難發(fā)揮優(yōu)勢(shì)反而容易過(guò)擬合。支持向量機(jī)在小樣本分類上很強(qiáng)但對(duì)特征尺度敏感需要仔細(xì)調(diào)核函數(shù)參數(shù)和C值。隨機(jī)森林幾乎不需要特征歸一化參數(shù)敏感性也比較低。下面是我常用的一張對(duì)比表在實(shí)際選型時(shí)可以快速過(guò)一眼對(duì)比項(xiàng)隨機(jī)森林支持向量機(jī)深度神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)量要求中等幾百到幾萬(wàn)小到中等大幾萬(wàn)以上特征尺度不敏感敏感敏感訓(xùn)練速度快可并行中等大數(shù)據(jù)變慢慢耗時(shí)長(zhǎng)可解釋性高有特征重要性低最低調(diào)參難度低中高處理缺失值支持內(nèi)部有策略需先處理需先處理非線性模式能捕獲依賴核函數(shù)強(qiáng)我會(huì)把隨機(jī)森林當(dāng)作所有模式識(shí)別項(xiàng)目的第一個(gè)基線。它不是萬(wàn)能的但在特征工程靠譜的前提下它能給后續(xù)模型提供一個(gè)很難超越的精度參照。如果隨機(jī)森林在交叉驗(yàn)證下都達(dá)不到業(yè)務(wù)要求那么問(wèn)題往往不在模型而在特征構(gòu)造、標(biāo)簽質(zhì)量或數(shù)據(jù)量不足。這時(shí)候再考慮換更強(qiáng)模型才有意義。另外隨機(jī)森林在模式識(shí)別系統(tǒng)里有一個(gè)很實(shí)用的特性可以直接給出特征重要性。業(yè)務(wù)方問(wèn)“為什么根據(jù)這幾個(gè)特征判為故障”時(shí)隨機(jī)森林能給出排序而神經(jīng)網(wǎng)絡(luò)只能當(dāng)黑匣子。所以在做工業(yè)傳感器識(shí)別、圖像特征分類時(shí)隨機(jī)森林很多時(shí)候不是“過(guò)渡方案”而是交付方案。2.3 先用最小腳本驗(yàn)證任務(wù)可分性隨機(jī)森林基線代碼拿到一個(gè)新的模式識(shí)別數(shù)據(jù)集第一件事不是調(diào)參而是用一個(gè)默認(rèn)參數(shù)的隨機(jī)森林跑通全流程判斷這個(gè)任務(wù)的可分性。我用的是下面這個(gè)最小腳本from sklearn.datasets import load_digits from sklearn.model_selection import train_test_split from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import accuracy_score # 加載公開手寫數(shù)字集模擬一個(gè) 10 類模式識(shí)別任務(wù) X, y load_digits(return_X_yTrue) # 分層切分保持每類樣本比例 X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.3, random_state42, stratifyy ) # 默認(rèn)隨機(jī)森林只固定隨機(jī)種子 clf RandomForestClassifier( n_estimators100, max_depth10, max_featuressqrt, n_jobs-1, random_state42 ) clf.fit(X_train, y_train) y_pred clf.predict(X_test) print(baseline accuracy:, accuracy_score(y_test, y_pred))這段代碼里的關(guān)鍵參數(shù)含義n_estimators是樹的數(shù)量100是經(jīng)驗(yàn)起點(diǎn)max_depth限制為10防止每棵樹學(xué)得過(guò)深max_featuressqrt是分類任務(wù)默認(rèn)推薦參數(shù)n_jobs-1讓所有CPU核參與訓(xùn)練加快第一次實(shí)驗(yàn)random_state42讓結(jié)果可復(fù)現(xiàn)。如果這個(gè)基線精度已經(jīng)達(dá)到業(yè)務(wù)預(yù)期接下來(lái)只需要做特征篩選和參數(shù)微調(diào)。如果精度明顯偏低不要急著換模型先回去檢查標(biāo)簽和特征質(zhì)量。跑通這個(gè)腳本后你才算真正進(jìn)入模式識(shí)別系統(tǒng)的實(shí)現(xiàn)階段。3. 數(shù)據(jù)準(zhǔn)備與特征工程模式識(shí)別系統(tǒng)的地基不能靠模型去填3.1 劃分?jǐn)?shù)據(jù)集時(shí)最容易犯的錯(cuò)先分組再切分很多入門教程直接說(shuō)train_test_split按比例切分就行但到了真實(shí)系統(tǒng)里這個(gè)做法往往會(huì)讓測(cè)試集“透題”。比如傳感器采集的數(shù)據(jù)同一個(gè)設(shè)備在連續(xù)時(shí)間段里的樣本高度相似如果這些樣本既出現(xiàn)在訓(xùn)練集又出現(xiàn)在測(cè)試集模型其實(shí)是通過(guò)“記住設(shè)備狀態(tài)”獲得的高分而不是學(xué)到了可遷移的模式。我常用的做法是先檢查樣本是否具有組結(jié)構(gòu)再按組劃分。下面這段代碼演示如何用GroupKFold按組進(jìn)行交叉驗(yàn)證import numpy as np from sklearn.model_selection import GroupKFold # 假設(shè)特征 X 來(lái)自一個(gè)模式識(shí)別傳感器數(shù)據(jù)集 # group_ids 表示每個(gè)樣本屬于哪一批采集 group_ids np.array([sample // 10 for sample in range(len(X))]) gkf GroupKFold(n_splits5) for train_idx, test_idx in gkf.split(X, y, groupsgroup_ids): print(ftrain samples: {len(train_idx)}, test samples: {len(test_idx)})GroupKFold會(huì)保證同一組樣本不會(huì)同時(shí)出現(xiàn)在訓(xùn)練集和測(cè)試集避免時(shí)序相關(guān)性帶來(lái)的信息泄漏。如果你的數(shù)據(jù)里沒(méi)有組概念也可以用設(shè)備ID或采集時(shí)間手工構(gòu)造分組標(biāo)簽。切分后還要檢查每類樣本的分布是否合理用一下Counterfrom collections import Counter print(Counter(y))如果發(fā)現(xiàn)某個(gè)類別只有很少樣本后續(xù)評(píng)估需要重點(diǎn)關(guān)注不能只看整體準(zhǔn)確率。比如手寫數(shù)字10類正常是每類接近等量如果某類只有幾十條那個(gè)類別的測(cè)試結(jié)果就不可信。模式識(shí)別系統(tǒng)里類別分布不只是數(shù)字問(wèn)題它直接決定模型部署后對(duì)每個(gè)類別的置信度行為。3.2 隨機(jī)森林的特征工程不做歸一化但要會(huì)做特征篩選這是一個(gè)能省很多事的關(guān)鍵知識(shí)點(diǎn)隨機(jī)森林是樹模型分裂只跟特征的相對(duì)順序有關(guān)因此特征量綱完全不影響結(jié)果你不用做歸一化。但這不代表特征工程可以不做。特征數(shù)量過(guò)多、冗余特征過(guò)多時(shí)隨機(jī)森林的特征重要性會(huì)被同類特征稀釋而且每棵樹做分裂時(shí)要看的特征子集變大訓(xùn)練時(shí)間變長(zhǎng)。我的一般做法是先訓(xùn)練一次隨機(jī)森林查看特征重要性再篩掉貢獻(xiàn)低的特征。import pandas as pd from sklearn.ensemble import RandomForestClassifier # 先用同一套訓(xùn)練數(shù)據(jù)擬合模型 model RandomForestClassifier(n_estimators100, random_state42, n_jobs-1) model.fit(X_train, y_train) # 特征重要性序列 importance pd.Series(model.feature_importances_) print(top 30 features:, importance.nlargest(30).index.tolist())這里用nlargest(30)取了重要性排名前30的特征。為什么不直接用閾值因?yàn)橹匾允窍鄬?duì)值而且會(huì)受特征相關(guān)性影響直接看top-N更直觀。篩選后可以用新的特征矩陣重新訓(xùn)練通常精度不會(huì)掉甚至略有提升因?yàn)橐廊槐Ａ袅俗钅軈^(qū)分模式的特征維度。如果你的特征中有類別型變量建議先用編碼器做數(shù)值化。高基數(shù)類別特征要小心樹模型傾向于給它們過(guò)高的重要性必要時(shí)候可以用目標(biāo)編碼或者數(shù)值統(tǒng)計(jì)量替代原始類別。特征工程的目標(biāo)不是造出更多特征而是讓每個(gè)特征都有明確的物理或業(yè)務(wù)含義這樣模型輸出的解釋性也會(huì)更強(qiáng)。3.3 用交叉驗(yàn)證替代單次切分評(píng)估隨機(jī)森林泛化能力的標(biāo)準(zhǔn)操作單次切分得到的結(jié)果受隨機(jī)性影響比較大我從來(lái)不在只跑一次train_test_split后就下結(jié)論。至少要跑一次K折交叉驗(yàn)證看均值與標(biāo)準(zhǔn)差。下面代碼用的StratifiedKFold能保持每折類別比例一致from sklearn.model_selection import cross_val_score scores cross_val_score( RandomForestClassifier(n_estimators100, random_state42, n_jobs-1), X_train, y_train, cv5, scoringaccuracy ) print(cv accuracy: {:.3f} ± {:.3f}.format(scores.mean(), scores.std()))一般我要求標(biāo)準(zhǔn)差小于0.02否則說(shuō)明模型在某個(gè)類別的子集上表現(xiàn)不穩(wěn)定。標(biāo)準(zhǔn)差大時(shí)先看是不是樣本量太少或標(biāo)簽噪聲太大再考慮要不要分層抽樣。如果標(biāo)準(zhǔn)差大是因?yàn)槟硞€(gè)類別樣本只有一條可以用分層抽樣保證每折最小樣本數(shù)或者在評(píng)估時(shí)把那個(gè)太稀疏的類別單獨(dú)拎出來(lái)評(píng)估而不是混在整體里被平均掉。模式識(shí)別系統(tǒng)的評(píng)估指標(biāo)也要想清楚。整體準(zhǔn)確率在類別不均衡時(shí)不敏感所以我會(huì)同時(shí)看macro F1和混淆矩陣。隨機(jī)森林的混淆矩陣能直觀告訴你哪兩個(gè)類別被頻繁混淆這往往比改模型參數(shù)更能指導(dǎo)特征構(gòu)造。比如手勢(shì)識(shí)別里3和8經(jīng)常分不清那就應(yīng)該針對(duì)兩者的差異構(gòu)造局部特征。4. 參數(shù)調(diào)優(yōu)與推理封裝把隨機(jī)森林模型變成可用系統(tǒng)的兩個(gè)關(guān)鍵動(dòng)作4.1 隨機(jī)森林的核心參數(shù)與調(diào)參順序隨機(jī)森林的可調(diào)參數(shù)不少但真正影響結(jié)果的只有少數(shù)幾個(gè)。n_estimators控制樹的數(shù)量越多越穩(wěn)但邊際收益遞減訓(xùn)練時(shí)間和內(nèi)存會(huì)線性增長(zhǎng)。max_depth控制樹的深度越大越能擬合細(xì)節(jié)但也更容易過(guò)擬合。min_samples_leaf是葉子節(jié)點(diǎn)的最小樣本數(shù)調(diào)大它比調(diào)max_depth更溫和地抑制過(guò)擬合。max_features控制每次分裂時(shí)候選特征的數(shù)量值越小樹之間差異越大隨機(jī)性越強(qiáng)。我的調(diào)參順序是先固定n_estimators100隨機(jī)種子固定然后調(diào)max_depth和min_samples_leaf得到大體穩(wěn)定的組合后再一起調(diào)max_features和n_estimators。不要一開始就開大網(wǎng)格否則組合數(shù)量會(huì)爆炸。下面是一個(gè)可復(fù)用的網(wǎng)格搜索配置from sklearn.model_selection import GridSearchCV from sklearn.ensemble import RandomForestClassifier param_grid { n_estimators: [100, 200], max_depth: [5, 10, 15], min_samples_leaf: [1, 3, 5], max_features: [sqrt, 0.5], } base RandomForestClassifier(random_state42, n_jobs-1) grid GridSearchCV( estimatorbase, param_gridparam_grid, cv3, scoringf1_macro, n_jobs-1, verbose1 ) grid.fit(X_train, y_train) print(best params:, grid.best_params_)這里cv3是為了粗篩因?yàn)榻M合數(shù)是2×3×3×236個(gè)如果cv5的話單次實(shí)驗(yàn)要訓(xùn)練很多棵樹。評(píng)分用f1_macro對(duì)于模式識(shí)別里常見(jiàn)的類別不均衡比accuracy更能反映小類別的表現(xiàn)。網(wǎng)格搜索完成后不要直接把grid對(duì)象當(dāng)成最終模型建議用最優(yōu)參數(shù)在全部訓(xùn)練數(shù)據(jù)上重新訓(xùn)練一次并保存。還有一個(gè)輕量技巧隨機(jī)森林的oob_score可以作為網(wǎng)格搜索的替代評(píng)分指標(biāo)。設(shè)置oob_scoreTrue模型訓(xùn)練時(shí)會(huì)用袋外樣本計(jì)算精度結(jié)果接近交叉驗(yàn)證速度卻快得多。適合想快速驗(yàn)證參數(shù)組合的場(chǎng)景。我一般會(huì)在網(wǎng)格搜索之前先用oob_score跑一輪把明顯不好的參數(shù)組合直接排除掉。4.2 模型推理封裝Predictor類與特征順序校驗(yàn)當(dāng)模型訓(xùn)練完系統(tǒng)進(jìn)入交付階段時(shí)你需要把訓(xùn)練和推理分開。訓(xùn)練腳本可以做很多實(shí)驗(yàn)推理接口只做三件事加載模型、接收特征、返回預(yù)測(cè)和置信度。我之前見(jiàn)過(guò)一個(gè)項(xiàng)目每個(gè)模塊各自調(diào)用不同的代碼路徑來(lái)預(yù)測(cè)導(dǎo)致一部分請(qǐng)求用了舊模型一部分用了新模型。后來(lái)我就寫了一個(gè)統(tǒng)一的預(yù)測(cè)類import joblib import numpy as np class RandomForestIdentityPredictor: def __init__(self, model_path): self.model joblib.load(model_path) self.feature_dim self.model.n_features_in_ def predict(self, feature_line): # feature_line 必須與訓(xùn)練特征順序一致 if len(feature_line) ! self.feature_dim: raise ValueError( ffeature count mismatch: expected {self.feature_dim}, got {len(feature_line)} ) arr np.array(feature_line).reshape(1, -1) proba self.model.predict_proba(arr)[0] label_idx int(self.model.predict(arr)[0]) return { label: int(label_idx), confidence: float(max(proba)) }這段代碼有兩個(gè)關(guān)鍵點(diǎn)。第一通過(guò)self.model.n_features_in_獲取模型訓(xùn)練時(shí)的特征數(shù)預(yù)測(cè)前做長(zhǎng)度校驗(yàn)這能直接避免特征錯(cuò)位問(wèn)題。第二先取predict_proba再?gòu)母怕世锶∽畲笾底鳛閏onfidence這樣業(yè)務(wù)側(cè)可以設(shè)置一個(gè)閾值低于閾值的判為“低置信度需要人工復(fù)核”。在模式識(shí)別系統(tǒng)里這種方法比直接輸出一個(gè)類別更有用因?yàn)樽R(shí)別結(jié)果的置信度會(huì)直接影響下游決策。模型保存和加載也有講究。訓(xùn)練完用joblib.dump(model, model.joblib)不要用picklejoblib對(duì)numpy數(shù)組更友好。如果模型文件很大dump時(shí)可以加compress3壓縮只是在加載時(shí)會(huì)多花一點(diǎn)時(shí)間。推理類的設(shè)計(jì)要保證無(wú)狀態(tài)不要在里面保存任何樣本級(jí)數(shù)據(jù)方便多實(shí)例部署。4.3 訓(xùn)練元數(shù)據(jù)與版本留痕讓每個(gè)識(shí)別結(jié)果都能追到源頭這個(gè)動(dòng)作是我在多次“事故”后才養(yǎng)成的系統(tǒng)級(jí)習(xí)慣。模式識(shí)別系統(tǒng)上線后總會(huì)有反饋說(shuō)某個(gè)樣本識(shí)別錯(cuò)了。如果沒(méi)有版本記錄你就得猜是哪個(gè)模型、哪個(gè)數(shù)據(jù)集、哪個(gè)參數(shù)造成的。我現(xiàn)在的做法是每次訓(xùn)練結(jié)束后把一個(gè)meta.json和模型文件放在同一個(gè)目錄{ model_name: rf_pattern_v14, dataset_md5: a3f5e..., feature_list: [f1, f2, f3], n_estimators: 200, max_depth: 10, min_samples_leaf: 3, oob_score: 0.967, train_time: 2024-06-01 10:20:00 }當(dāng)線上出現(xiàn)問(wèn)題時(shí)先查meta確認(rèn)模型版本、訓(xùn)練數(shù)據(jù)指紋、參數(shù)組合再?zèng)Q定是回滾還是重新訓(xùn)練。雖然這是工程細(xì)節(jié)但模式識(shí)別系統(tǒng)能不能長(zhǎng)期穩(wěn)定運(yùn)行往往靠的不是模型精度而是這些“事后可回溯”的習(xí)慣。5. 隨機(jī)森林模式識(shí)別系統(tǒng)避坑指南5個(gè)高頻問(wèn)題與排查方法隨機(jī)森林看起來(lái)簡(jiǎn)單真實(shí)場(chǎng)景里坑不少。我按自己踩過(guò)的和幫別人排查過(guò)的經(jīng)驗(yàn)挑出5個(gè)最常見(jiàn)的問(wèn)題按現(xiàn)象、原因、解決三個(gè)步驟寫清楚。這些問(wèn)題如果你提前有概念能省下幾天調(diào)試時(shí)間。5.1 訓(xùn)練集精度接近100%測(cè)試集精度卻明顯下降現(xiàn)象同一份數(shù)據(jù)訓(xùn)練集accuracy達(dá)到0.99測(cè)試集只有0.82而且每次切分精度都在變化。原因典型過(guò)擬合。隨機(jī)森林的決策樹不受限制地深長(zhǎng)每棵樹完全記住了訓(xùn)練樣本的個(gè)體特征沒(méi)有學(xué)到可泛化的模式。雖然投票機(jī)制能部分抵消單棵樹的過(guò)擬合但樹的深度過(guò)大時(shí)多棵樹依然可能共同學(xué)到噪聲。解決限制max_depth試試5到10同時(shí)把min_samples_leaf至少設(shè)為3讓葉子不過(guò)度細(xì)分。改完后再用交叉驗(yàn)證看均值。如果還沒(méi)改善檢查訓(xùn)練集里是否有重復(fù)樣本或標(biāo)簽噪聲而不是繼續(xù)調(diào)模型。5.2 某個(gè)類別占比很少整體準(zhǔn)確率很高但少數(shù)類全部預(yù)測(cè)失敗現(xiàn)象模式識(shí)別任務(wù)里故障類樣本只占2%整體準(zhǔn)確率96%但故障類一個(gè)都沒(méi)識(shí)別出來(lái)。原因隨機(jī)森林的投票策略天然偏向多數(shù)類準(zhǔn)確率被多數(shù)類主導(dǎo)少數(shù)類的錯(cuò)誤被淹沒(méi)。解決給隨機(jī)森林設(shè)置class_weightbalanced_subsample。這個(gè)參數(shù)會(huì)在每個(gè)bootstrap樣本內(nèi)部自動(dòng)調(diào)整類別權(quán)重。也可以在訓(xùn)練前用SMOTE對(duì)少數(shù)類做合成但要注意只能作用于訓(xùn)練集不能動(dòng)測(cè)試集。最穩(wěn)妥的辦法是把“少數(shù)類識(shí)別”拆成單獨(dú)的二分類模型再和主分類器做結(jié)果融合。5.3 預(yù)測(cè)時(shí)提示特征數(shù)量不匹配Number of features of the model must match現(xiàn)象模型訓(xùn)練好后線上請(qǐng)求傳入的特征維度比訓(xùn)練時(shí)少1predict直接報(bào)錯(cuò)。原因推理時(shí)的特征工程與訓(xùn)練時(shí)不一致。常見(jiàn)的是訓(xùn)練時(shí)用pandas DataFrame選擇了一組特征推理時(shí)漏掉了一列或者訓(xùn)練時(shí)用了某個(gè)聚合特征推理時(shí)沒(méi)有生成。解決在Predictor中保存訓(xùn)練特征名列表預(yù)測(cè)前對(duì)輸入進(jìn)行對(duì)齊。代碼上可以用model.n_features_in_作為第一道防線但不能檢測(cè)順序錯(cuò)亂。更嚴(yán)格的做法是在訓(xùn)練時(shí)就保存特征名列表預(yù)測(cè)時(shí)按特征名重排輸入。5.4 n_estimators設(shè)置成2000服務(wù)端內(nèi)存被打滿現(xiàn)象為了追求精度把n_estimators加到2000模型文件幾百M(fèi)B加載后內(nèi)存占用幾個(gè)GB預(yù)測(cè)延遲明顯變高。原因每棵樹都需要保存完整的樹結(jié)構(gòu)樹越多模型文件越大預(yù)測(cè)時(shí)每棵樹都要計(jì)算到葉子樹的深度也影響耗時(shí)。解決優(yōu)先調(diào)max_depth和min_samples_leaf再調(diào)n_estimators通常到200棵以下就夠用。如果生產(chǎn)環(huán)境資源有限可以壓縮模型文件或考慮把隨機(jī)森林的知識(shí)蒸餾到單棵樹上。不要單純追求樹數(shù)量很多情況下精度收益會(huì)非常小。5.5 同一份代碼換臺(tái)機(jī)器就復(fù)現(xiàn)不了結(jié)果現(xiàn)象同樣的數(shù)據(jù)在本地和服務(wù)器上分別訓(xùn)練精度有微小差異甚至分類結(jié)果都有一點(diǎn)變化。原因隨機(jī)森林涉及隨機(jī)抽樣和多個(gè)并行子任務(wù)。如果訓(xùn)練腳本沒(méi)有固定random_state每次運(yùn)行結(jié)果都不一樣即使固定了sklearn版本不同、CPU數(shù)量不同都可能影響隨機(jī)序列。解決訓(xùn)練腳本頂層固定random_state并記錄sklearn、numpy版本到meta文件。如果要完全一致還要設(shè)置環(huán)境變量OMP_NUM_THREADS等避免多線程并行帶來(lái)的浮點(diǎn)累加順序差異。不過(guò)在大多數(shù)模式識(shí)別系統(tǒng)里這種差異在可接受范圍內(nèi)關(guān)鍵是固定隨機(jī)種子以便回滾。6. 讓隨機(jī)森林模式識(shí)別系統(tǒng)更可靠的三個(gè)收尾技巧模型訓(xùn)練完成不代表系統(tǒng)可靠。我給模式識(shí)別系統(tǒng)收尾時(shí)都會(huì)補(bǔ)三個(gè)動(dòng)作。第一個(gè)動(dòng)作是打開OOB score。訓(xùn)練時(shí)設(shè)置oob_scoreTrue模型會(huì)用袋外樣本給出一個(gè)無(wú)偏的泛化估計(jì)這個(gè)值能幫你快速判斷一輪調(diào)參是否真正有效比每次跑交叉驗(yàn)證省時(shí)間。代碼很簡(jiǎn)單clf RandomForestClassifier(oob_scoreTrue, random_state42) clf.fit(X_train, y_train) print(clf.oob_score_)第二個(gè)動(dòng)作是把特征重要性寫成可讀的報(bào)表。不要只打印一個(gè)數(shù)組要給每個(gè)特征配一個(gè)業(yè)務(wù)名字按貢獻(xiàn)排序后存到meta里。這樣業(yè)務(wù)方質(zhì)疑某個(gè)識(shí)別結(jié)論時(shí)你可以指著報(bào)表說(shuō)這次判斷主要依據(jù)是這幾個(gè)特征而不是拿一個(gè)黑匣子去搪塞。模式識(shí)別系統(tǒng)最怕“交付完就說(shuō)不清”隨機(jī)森林剛好能補(bǔ)這個(gè)洞。第三個(gè)動(dòng)作是給推理接口增加一個(gè)置信度閾值。我在Predictor里返回confidence業(yè)務(wù)側(cè)設(shè)一個(gè)閾值低于閾值就轉(zhuǎn)人工復(fù)核。這個(gè)動(dòng)作往往比提高模型精度更管用因?yàn)槟Ｊ阶R(shí)別系統(tǒng)的風(fēng)險(xiǎn)不在于低精度而在于把所有低置信度結(jié)果都交給自動(dòng)處理。我自己的教訓(xùn)是有一年交付一個(gè)識(shí)別系統(tǒng)只給了模型文件和一份簡(jiǎn)短的訓(xùn)練腳本沒(méi)有OOB記錄也沒(méi)有特征說(shuō)明。后來(lái)業(yè)務(wù)方反饋“連續(xù)三天識(shí)別率不對(duì)”我只能花一整天從日志反推模型版本和參數(shù)最后發(fā)現(xiàn)是推理時(shí)少了一個(gè)特征。從那以后我所有的隨機(jī)森林項(xiàng)目都強(qiáng)制保留meta.json和特征名列表訓(xùn)練前想清楚收尾時(shí)才不慌。希望這篇能幫你把這些細(xì)節(jié)提前藏進(jìn)系統(tǒng)里省下未來(lái)幾個(gè)加班的夜晚。本文還有配套的精品資源點(diǎn)擊獲取