欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Matlab實(shí)現(xiàn)GA-XGBoost回歸預(yù)測與SHAP可解釋分析完整方案

Matlab實(shí)現(xiàn)GA-XGBoost回歸預(yù)測與SHAP可解釋分析完整方案 簡介本資源是一套面向科研人員與工程實(shí)踐者的MATLAB智能建模工具包聚焦于XGBoost回歸模型的參數(shù)優(yōu)化、可解釋性分析與實(shí)際預(yù)測應(yīng)用。針對傳統(tǒng)XGBoost超參數(shù)調(diào)優(yōu)依賴經(jīng)驗(yàn)、特征貢獻(xiàn)難以量化的問題資源集成遺傳算法GA自動尋優(yōu)、SHAP值深度解釋及新樣本預(yù)測全流程適用于環(huán)境監(jiān)測、工業(yè)預(yù)測、金融風(fēng)控等需高精度與強(qiáng)可解釋性的回歸任務(wù)。壓縮包共47個文件含13個核心MATLAB腳本如main.m、GA.m、shapley_function.m、4個Excel數(shù)據(jù)集含訓(xùn)練數(shù)據(jù)與預(yù)測結(jié)果、22張可視化圖表擬合圖、誤差分布、蜂群圖、雷達(dá)圖等以及C編譯依賴文件與詳細(xì)運(yùn)行說明整體56.52MB。目前已有157人學(xué)習(xí)下載提供從數(shù)據(jù)預(yù)處理→GA優(yōu)化→XGBoost建模→SHAP解釋→多維可視化的完整閉環(huán)代碼所有模塊解耦清晰、注釋詳盡支持開箱即用與二次開發(fā)。 做回歸預(yù)測的同行肯定都有體會模型效果是一關(guān)解釋性是另一關(guān)兩個都做到位才算真正能交付。我去年在做一個工業(yè)過程參數(shù)預(yù)測項(xiàng)目時用XGBoost精度雖然不錯但超參數(shù)調(diào)起來極其費(fèi)勁而且模型像個黑箱業(yè)務(wù)方拿著預(yù)測結(jié)果也不敢直接拍板。后來我把遺傳算法和SHAP加了進(jìn)去在Matlab里把整條流水線串起來形成了這套“GA-XGBoost回歸SHAP分析新數(shù)據(jù)預(yù)測”的完整方案。從超參數(shù)尋優(yōu)到模型訓(xùn)練再到對新樣本預(yù)測和解釋每一個預(yù)測值每步都有章可循而且數(shù)據(jù)、代碼都在本地可復(fù)現(xiàn)。這篇文章就是這套方案的完整復(fù)盤。我會從方案選型、環(huán)境準(zhǔn)備、核心代碼實(shí)現(xiàn)、SHAP可解釋性分析到實(shí)際問題排查把整個過程捋一遍。如果你正在用Matlab做回歸預(yù)測受困于手動調(diào)參、模型不好解釋或者想把“訓(xùn)練-預(yù)測-解釋”串成一套自動化流程這篇文章應(yīng)該能幫你省下不少試錯時間。1. 方案整體設(shè)計(jì)為什么把GA和SHAP加到XGBoost上1.1 XGBoost精度高但超參數(shù)調(diào)起來是真麻煩XGBoost在結(jié)構(gòu)化數(shù)據(jù)回歸上的能力不需要多吹業(yè)界早就驗(yàn)證過了。它本質(zhì)上是梯度提升決策樹的進(jìn)階版本通過不斷擬合上一輪殘差用一堆弱學(xué)習(xí)器組合成一個強(qiáng)回歸器。相比傳統(tǒng)隨機(jī)森林XGBoost引入了二階導(dǎo)數(shù)、正則化項(xiàng)、特征列采樣和近似直方圖算法所以在精度和泛化上都有明顯優(yōu)勢。但問題在于它的超參數(shù)空間非常龐大。稍微數(shù)一下就有l(wèi)earning_rate、max_depth、min_child_weight、subsample、colsample_bytree、reg_alpha、reg_lambda等等。這些參數(shù)之間還有交互作用比如max_depth大一些可能就需要把learning_rate調(diào)小subsample太高可能導(dǎo)致過擬合調(diào)太低又欠擬合。手動一個個試不僅效率低而且很容易陷進(jìn)局部最優(yōu)。用網(wǎng)格搜索呢參數(shù)組合是爆炸式增長我遇到過一組三參數(shù)網(wǎng)格搜索跑了一整夜都沒跑完的經(jīng)歷更別說七參數(shù)同時調(diào)了。所以在工程上超參數(shù)尋優(yōu)一般交給智能優(yōu)化算法。我選遺傳算法GA而不是貝葉斯優(yōu)化或者粒子群原因是GA實(shí)現(xiàn)相對直觀而且Matlab自帶的Global Optimization Toolbox里有現(xiàn)成的ga函數(shù)不需要額外裝包。GA的思想簡單說就是模擬自然選擇先隨機(jī)生成一批參數(shù)組合作為“個體”用交叉驗(yàn)證結(jié)果算適應(yīng)度然后通過選擇、交叉、變異一代代進(jìn)化最后收斂到一組比較優(yōu)秀的超參數(shù)。它不依賴梯度信息對XGBoost這種非連續(xù)、非光滑的目標(biāo)函數(shù)特別友好。1.2 SHAP讓黑箱回歸模型有了透明的解釋模型訓(xùn)練完業(yè)務(wù)方第一個問題往往不是“精度多少”而是“哪些因素影響了預(yù)測結(jié)果這個預(yù)測值憑什么這么高”如果回答不上來再好的模型也難落地。XGBoost雖然自帶feature_importance但它只能給一個粗粒度的特征重要性排序無法解釋單個樣本的預(yù)測值是怎么構(gòu)成的。SHAPSHapley Additive exPlanations解決的就是這個問題。它源于博弈論中的Shapley值把每個特征想象成合作博弈中的一個“玩家”通過計(jì)算每個玩家在不同組合下的邊際貢獻(xiàn)公平地分配總預(yù)測值給各個特征。在回歸模型里SHAP值表示某個特征對預(yù)測結(jié)果貢獻(xiàn)的正負(fù)和大小正數(shù)表示把預(yù)測值往上推負(fù)數(shù)則往下拉。相比LIME這類局部解釋工具SHAP有堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)而且全局一致性好。對XGBoost這種樹模型還有專門的TreeExplainer計(jì)算效率極高不用采樣就能算出精確的SHAP值。我用下來最大的感受是SHAP能把“模型為什么預(yù)測成這樣”這個問題從只能講“大概這個特征重要”推進(jìn)到“這個樣本因?yàn)锳特征高、B特征低所以預(yù)測值偏高”這完全是兩種說服力。1.3 整體技術(shù)棧Matlab調(diào)用Python兩邊優(yōu)勢都吃滿標(biāo)題里直接寫了Matlab那就得說清楚一個現(xiàn)實(shí)Matlab原生并沒有XGBoost和SHAP的官方工具箱。網(wǎng)上有人用fitcensemble之類的方法模擬XGBoost但本質(zhì)不是一回事很多參數(shù)和特性都沒有。真正成熟的方案是Matlab調(diào)用Python讓Python環(huán)境負(fù)責(zé)xgboost、shap這些庫Matlab負(fù)責(zé)數(shù)據(jù)預(yù)處理、遺傳算法尋優(yōu)、結(jié)果可視化和工程調(diào)度。好處很明顯。機(jī)器學(xué)習(xí)生態(tài)最強(qiáng)的庫都在Python這邊而Matlab在數(shù)據(jù)處理、矩陣運(yùn)算、圖形可視化以及很多傳統(tǒng)工程領(lǐng)域有不可替代的價值。兩者通過Python接口打通等于同時拿了兩邊的長處。我們項(xiàng)目里前端界面和數(shù)據(jù)處理都在Matlab里做模型訓(xùn)練和解釋調(diào)用Python庫整個流程對終端用戶完全透明。需要提醒的是這種方式要求電腦上同時裝好Matlab和Python環(huán)境并且版本要匹配。我在2.1節(jié)會給出具體的配置步驟。2. 環(huán)境準(zhǔn)備與數(shù)據(jù)工程先踩平這些坑2.1 環(huán)境搭建Matlab調(diào)用Python的3個關(guān)鍵步驟環(huán)境這一塊我在最開始折騰了不少時間。最主要的坑就是Matlab內(nèi)置的Python版本和系統(tǒng)Python不一致或者庫裝到了不同環(huán)境里結(jié)果調(diào)用的時候報(bào)ModuleNotFoundError。所以第一步一定要在Matlab里用pyenv確認(rèn)當(dāng)前加載的Python解釋器路徑。% 查看當(dāng)前Python環(huán)境 pyenv % 如果路徑不對手動指定系統(tǒng)Python % pyenv(Version, D:\ProgramData\Python\Python311\python.exe)指定好之后需要確認(rèn)Matlab能正常導(dǎo)入Python庫。我一般習(xí)慣在命令行里敲一行py.importlib.import_module(numpy); py.importlib.import_module(xgboost); py.importlib.import_module(shap); disp(Python環(huán)境OK);如果某個庫沒裝回到系統(tǒng)命令行用pip install xgboost shap numpy pandas補(bǔ)上。這里要注意如果你的Python是Anaconda環(huán)境最好在conda環(huán)境里裝好后再把Matlab的pyenv指向這個環(huán)境的python.exe否則極容易出現(xiàn)版本錯亂。另外一個容易忽略的點(diǎn)是Matlab R2021b之前和之后對Python版本的支持差異不同新版Matlab支持更新的Python版本。裝Python時不要裝太新比如某些庫還沒適配也不要太舊Matlab可能不支持。我測試過Python 3.9到3.11都能比較好地和xgboost、shap配合。2.2 數(shù)據(jù)準(zhǔn)備與預(yù)處理歸一化參數(shù)必須保存數(shù)據(jù)和預(yù)處理是整個流程的地基。以我當(dāng)時做的工業(yè)過程數(shù)據(jù)為例特征有溫度、壓力、轉(zhuǎn)速、進(jìn)料流量等十幾個維度目標(biāo)是一個質(zhì)量指標(biāo)。原始數(shù)據(jù)量約2000條樣本。這種量級下XGBoost訓(xùn)練很快GA尋優(yōu)也扛得住。數(shù)據(jù)文件我習(xí)慣用CSV格式Matlab用readtable讀進(jìn)來。預(yù)處理主要做三件事去缺失值、去異常值、特征歸一化。對于XGBoost其實(shí)特征歸一化不是必須的因?yàn)闃淠P蛯μ卣鞒叨炔幻舾械绻粴w一化后續(xù)SHAP解釋時不同特征的量綱差異會影響圖的觀感所以我一般還是會把特征歸一化到均值為0、方差為1或者縮放到[0,1]區(qū)間。更重要的是歸一化的均值和標(biāo)準(zhǔn)差必須在訓(xùn)練集上計(jì)算然后把同一組參數(shù)保存下來后續(xù)處理新數(shù)據(jù)時再調(diào)用。這一步很多人會漏導(dǎo)致新數(shù)據(jù)預(yù)測時歸一化不一致結(jié)果完全失真。我項(xiàng)目里直接用Matlab的mapminmax或手動計(jì)算mean/std并保存到mat文件后面預(yù)測時加載。% 讀取數(shù)據(jù) data readtable(industrial_process_data.csv); % 分離特征和標(biāo)簽 features data{:, 1:end-1}; target data{:, end}; % 用訓(xùn)練集計(jì)算歸一化參數(shù) xmean mean(features); xstd std(features); features_norm (features - xmean) ./ xstd; save(data_scaler.mat, xmean, xstd);然后劃分訓(xùn)練集、驗(yàn)證集和未來的新數(shù)據(jù)預(yù)測集。這里的新數(shù)據(jù)預(yù)測集是模擬未來線上進(jìn)來一批新樣本只有特征沒有標(biāo)簽需要用到訓(xùn)練好的模型去預(yù)測。劃分的時候要注意隨機(jī)種子固定保證實(shí)驗(yàn)可復(fù)現(xiàn)。3. 核心實(shí)現(xiàn)GA優(yōu)化XGBoost回歸模型的完整流程3.1 目標(biāo)函數(shù)與適應(yīng)度設(shè)計(jì)遺傳算法優(yōu)化的核心是目標(biāo)函數(shù)也就是給一組超參數(shù)返回模型表現(xiàn)好壞。這里我用的評價指標(biāo)是K折交叉驗(yàn)證的負(fù)均方根誤差NRMSE或者直接取均方根誤差RMSE的相反數(shù)因?yàn)間a函數(shù)默認(rèn)是求最小值。目標(biāo)函數(shù)的輸入是GA種群中的一個個體也就是一組超參數(shù)。我需要定義編碼方式通常是給GA傳入變量邊界和整數(shù)約束。比如我想優(yōu)化的超參數(shù)有5個learning_rate0.01~0.3浮點(diǎn)數(shù)max_depth3~10整數(shù)min_child_weight1~10整數(shù)subsample0.5~1.0浮點(diǎn)數(shù)colsample_bytree0.5~1.0浮點(diǎn)數(shù)目標(biāo)函數(shù)里要做的事情是把這些參數(shù)傳給Python的xgboost訓(xùn)練函數(shù)完成K折交叉驗(yàn)證返回平均RMSE作為適應(yīng)度值。function rmse ga_xgb_fitness(params) % params: [lr, max_depth, min_child_weight, subsample, colsample_bytree] lr params(1); max_depth round(params(2)); min_child_weight round(params(3)); subsample params(4); colsample_bytree params(5); % 將Matlab數(shù)組轉(zhuǎn)換為Python列表 X_train_py py.numpy.array(py.numpy.asarray(training_features)); y_train_py py.numpy.array(training_target); % 調(diào)用Python函數(shù)執(zhí)行訓(xùn)練和交叉驗(yàn)證 cv_rmse py.main.xgb_cv_eval(X_train_py, y_train_py, ... lr, lr, max_depth, max_depth, ... min_child_weight, min_child_weight, ... subsample, subsample, colsample_bytree, colsample_bytree); rmse double(cv_rmse); endPython側(cè)對應(yīng)的xgb_cv_eval函數(shù)基本就是一個標(biāo)準(zhǔn)的train加cv組合。在實(shí)際寫代碼時我用Matlab的ga函數(shù)設(shè)置種群大小30最大代數(shù)20這在小數(shù)據(jù)量下幾分鐘就能跑完。種群太小容易早熟太大則非常耗時。參數(shù)邊界需要根據(jù)經(jīng)驗(yàn)設(shè)得合理一些比如max_depth如果允許到20模型很容易過擬合且訓(xùn)練速度慢一般3~10就夠了。3.2 用交叉驗(yàn)證評估每組超參數(shù)跑通GA主流程GA尋優(yōu)的主流程其實(shí)不長。核心是定義變量邊界和整數(shù)索引然后調(diào)用ga。這里有一個容易被忽視的細(xì)節(jié)目標(biāo)函數(shù)不能在Matlab的并行池里調(diào)用Python對象否則容易導(dǎo)致Python環(huán)境不穩(wěn)定。所以我建議GA尋優(yōu)期間不要開并行或者在parpool之前先確認(rèn)Python接口沒問題。% 定義參數(shù)邊界 lb [0.01, 3, 1, 0.5, 0.5]; ub [0.3, 10, 10, 1.0, 1.0]; IntCon [2, 3]; % max_depth 和 min_child_weight 是整數(shù) % 調(diào)用遺傳算法 options optimoptions(ga, ... PopulationSize, 30, ... MaxGenerations, 20, ... Display, iter, ... UseParallel, false); [best_params, best_rmse] ga(ga_xgb_fitness, 5, [], [], [], [], lb, ub, [], IntCon, options);跑完之后把最優(yōu)參數(shù)保存下來。先不要急著訓(xùn)練最終模型而是用最優(yōu)參數(shù)在完整訓(xùn)練集上訓(xùn)練并在測試集上做一次驗(yàn)證確保泛化能力。此時RMSE一般會比交叉驗(yàn)證的均值好或者相近如果差太多說明數(shù)據(jù)劃分或隨機(jī)種子有問題。訓(xùn)練最終模型時我會把Python側(cè)的訓(xùn)練函數(shù)封裝好在Matlab里包一層。這里的關(guān)鍵是numpy數(shù)組在Matlab和Python之間的類型轉(zhuǎn)換。Matlab里的double矩陣要轉(zhuǎn)成Python能接受的形式用py.numpy.array(py.numpy.asarray(data))通常是可以的。但如果數(shù)據(jù)是表格類型或者存在NaN就要先清理干凈否則Python那邊直接報(bào)錯。3.3 新數(shù)據(jù)預(yù)測流程加載模型、特征對齊、反歸一化新數(shù)據(jù)預(yù)測是這套流程的出口。寫代碼時一定要把預(yù)測封裝成一個函數(shù)這樣以后每來一批新數(shù)據(jù)只需要調(diào)用一次。我這里寫了一個predict_new_data.m做的事情是加載訓(xùn)練階段保存的歸一化參數(shù)xmean和xstd加載最優(yōu)模型文件Python側(cè)把模型保存為json格式讀入新數(shù)據(jù)的特征按同樣的順序?qū)R列做同樣的歸一化調(diào)用Python xgboost的predict接口得到歸一化預(yù)測值對預(yù)測值做反歸一化還原到真實(shí)量綱。不需要對預(yù)測值做歸一化嗎這里要注意如果訓(xùn)練target是原始值那么預(yù)測值直接就是原始量綱如果訓(xùn)練時也對target歸一化了那么預(yù)測值要反歸一化。我習(xí)慣上不對target歸一化因?yàn)闃淠P筒恍枰疫€能少一層麻煩。所以預(yù)測出來的值就是最終結(jié)果。function pred predict_new_data(model_path, new_features) load(data_scaler.mat, xmean, xstd); new_norm (new_features - xmean) ./ xstd; X_py py.numpy.array(py.numpy.asarray(new_norm)); model py.xgboost.Booster(); model.load_model(model_path); dnew py.xgboost.DMatrix(X_py); pred py.array.array(d, model.predict(dnew)); pred double(pred); end這里有個細(xì)節(jié)xgboost.Booster加載模型后再用DMatrix封裝特征。如果新數(shù)據(jù)特征順序和訓(xùn)練時不一致預(yù)測結(jié)果會完全亂掉。所以我在訓(xùn)練階段會把特征列名順序存成一個order.mat預(yù)測時按這個順序重新排列新數(shù)據(jù)的列。這也是很多新手踩坑最多的地方。4. SHAP可解釋性分析與結(jié)果解讀4.1 全局解釋用SHAP值看哪個特征真正驅(qū)動預(yù)測模型訓(xùn)練好之后SHAP閃亮登場。這塊我分成全局和局部兩個層面。全局層面是看所有樣本的平均特征貢獻(xiàn)。使用shap.TreeExplainer傳入訓(xùn)練好的模型然后計(jì)算整個訓(xùn)練集或測試集的SHAP值矩陣最后畫summary plot也就是那個經(jīng)典的蜜蜂圖。import shap import xgboost as xgb import numpy as np import matplotlib.pyplot as plt model xgb.Booster() model.load_model(best_model.json) X np.loadtxt(train_features_norm.csv, delimiter,) explainer shap.TreeExplainer(model) shap_values explainer.shap_values(X) shap.summary_plot(shap_values, X, feature_namesfeature_names, showFalse) plt.savefig(shap_summary.png, bbox_inchestight)SHAP值矩陣的維度是樣本數(shù) × 特征數(shù)每行代表一個樣本每個值代表該特征對該樣本預(yù)測值的貢獻(xiàn)。summary plot中橫軸是SHAP值正負(fù)代表方向顏色代表特征值高低。如果一個特征在高值時SHAP值為正說明這個特征與目標(biāo)正相關(guān)反之則負(fù)相關(guān)。從這片圖里能直接看出業(yè)務(wù)上的關(guān)鍵驅(qū)動因素。比如我們項(xiàng)目里“熔爐溫度”特征的SHAP值范圍最大說明它對目標(biāo)指標(biāo)的影響最強(qiáng)而“冷卻水流量”主要是負(fù)向影響流量越高目標(biāo)值越低。這種信息對于工藝調(diào)整非常有價值。4.2 局部解釋單個新數(shù)據(jù)的預(yù)測值是怎么算出來的光有全局解釋還不夠?qū)γ恳粋€新預(yù)測樣本我一般還會生成一個force plot或者waterfall plot把預(yù)測值拆解給業(yè)務(wù)方看。比如某天來了一個新樣本模型預(yù)測質(zhì)量指標(biāo)是86.5那就可以解釋為基準(zhǔn)值大概是72這個樣本的“熔爐溫度”偏高把預(yù)測值推高了8.2“進(jìn)料流量”中等偏高推高了4.1“雜質(zhì)含量”偏低貢獻(xiàn)了-2.3最后得到86.5。這樣一來預(yù)測就不再是一個無源可溯的數(shù)字了。在實(shí)際代碼中我會把單個樣本的SHAP值保存到Excel表格里同時生成waterfall圖。single_row X[0].reshape(1, -1) shap.waterfall_plot(shap.Explainer(model)(single_row), showFalse) plt.savefig(shap_waterfall.png, bbox_inchestight)waterfall圖放在報(bào)告里很直觀。上面是最終預(yù)測值往下逐步分解每個特征的貢獻(xiàn)。Matlab端可以把生成的圖片直接顯示到figure窗口也可以嵌入到自動生成的Word/Excel報(bào)告中。4.3 模型診斷SHAP還能當(dāng)異常檢測工具用這是我自己摸索出來的一個用法SHAP值不僅能解釋還能輔助模型監(jiān)控和異常檢測。當(dāng)新數(shù)據(jù)的某條預(yù)測結(jié)果嚴(yán)重偏離預(yù)期時我會計(jì)算它的SHAP值然后和訓(xùn)練集所有樣本的SHAP值分布比較看看是不是某個特征的SHAP值特別極端。比如工業(yè)數(shù)據(jù)里經(jīng)常出現(xiàn)傳感器漂移溫度讀數(shù)失真。這種樣本喂給模型預(yù)測值往往很怪但僅從預(yù)測值本身看不出來是輸入數(shù)據(jù)有問題還是模型失效。用SHAP加一個特征貢獻(xiàn)對比如果一個特征的SHAP值遠(yuǎn)超訓(xùn)練集的正常范圍多半就是輸入數(shù)據(jù)可疑。這個方法我在兩個項(xiàng)目里都真正用上了能提前抓住幾批有問題的數(shù)據(jù)避免錯誤預(yù)測流到下游系統(tǒng)。5. 常見問題與排查技巧實(shí)錄5.1 GA收斂慢或陷入局部最優(yōu)怎么辦GA跑起來最惱火的不是慢而是跑到十幾代之后適應(yīng)度曲線基本平了找到的參數(shù)仍然不理想。這種情況我遇到幾次主要原因有三個一是種群大小太小我一開始用20后面調(diào)成4060效果明顯改善。二是參數(shù)范圍定得太窄導(dǎo)致最優(yōu)解不在搜索范圍內(nèi)。比如我把learning_rate上限設(shè)為0.3實(shí)際最優(yōu)解可能在0.05附近雖然在里面但隨機(jī)初始種群如果都落在0.2附近就很難探索到低學(xué)習(xí)率區(qū)域。三是交叉和變異概率不匹配Matlab默認(rèn)參數(shù)一般沒問題但如果發(fā)現(xiàn)早熟可以降低交叉比例、適度提高變異比例或者使用自適應(yīng)變異。另一個實(shí)用技巧是先用粗糙的GA跑一輪找到較好的參數(shù)區(qū)域后縮小邊界再跑一輪。這種“二次精搜”比一次加大種群更高效我實(shí)測能節(jié)省一半以上的計(jì)算時間。5.2 Matlab與Python數(shù)據(jù)類型轉(zhuǎn)換的經(jīng)典報(bào)錯在Matlab里調(diào)用xgboost時最常見的報(bào)錯是“Python argument types did not match”或者“Unable to resolve the name py.xgboost.Booster”。前者多半是數(shù)據(jù)類型沒轉(zhuǎn)對后者多半是Python庫沒裝好或路徑?jīng)]配對。數(shù)據(jù)轉(zhuǎn)換上我總結(jié)了一個簡單規(guī)則凡是傳給Python的數(shù)據(jù)一律用py.numpy.array(py.numpy.asarray(data))。如果是目標(biāo)向量建議用一維數(shù)組如果是特征矩陣確保是二維。Matlab里的矩陣是列優(yōu)先存儲Python的numpy是行優(yōu)先但在通過py.numpy.asarray轉(zhuǎn)換時通常能自動處理維度只有當(dāng)矩陣是稀疏矩陣或包含NaN/Inf時才會出問題。如果碰到類型不對可以先用class(X_py)和py.type(X_py)檢查類型。另外字符串參數(shù)一定要轉(zhuǎn)成Python字符串。比如model.load_model(best_model.json)這里Matlab字符串對象會自動轉(zhuǎn)換但如果有多個參數(shù)可能需要用py.args顯式處理。5.3 SHAP計(jì)算慢或內(nèi)存溢出怎么辦TreeExplainer雖然快但當(dāng)樣本數(shù)和特征數(shù)都很大時計(jì)算整個數(shù)據(jù)集的SHAP值仍然會占不少內(nèi)存。我試過用2萬條樣本、80個特征的數(shù)據(jù)集一次性計(jì)算直接把內(nèi)存干爆了。解決辦法很簡單在計(jì)算全局SHAP值時先用k-means或者隨機(jī)采樣選一個背景數(shù)據(jù)集一般500~1000條足夠了。TreeExplainer支持傳入一個背景數(shù)據(jù)子集用來計(jì)算期望值。這樣不僅快結(jié)果也幾乎沒差別。如果要計(jì)算單樣本的SHAP解釋直接用該樣本本身的特征向量即可不涉及背景集計(jì)算量很小。X_background X[:500, :] # 或者隨機(jī)采樣 explainer shap.TreeExplainer(model, X_background) shap_values explainer.shap_values(X)5.4 新數(shù)據(jù)預(yù)測結(jié)果異常大概率是特征對齊問題預(yù)測階段最容易翻車的不是模型而是數(shù)據(jù)管道。比如新數(shù)據(jù)的列順序變了或者訓(xùn)練時的特征工程步驟沒有復(fù)用。我有一次因?yàn)榧恿艘粋€新特征訓(xùn)練時用了13個特征預(yù)測時只傳了12個結(jié)果xgboost直接報(bào)錯。還有一次是列順序變了模型沒報(bào)錯但預(yù)測結(jié)果明顯偏移排查了很久才發(fā)現(xiàn)是列順序錯了。所以我把特征列名的順序在訓(xùn)練階段固定保存下來預(yù)測前強(qiáng)制重新排序。另一個細(xì)節(jié)是新數(shù)據(jù)里的某個類別特征如果出現(xiàn)了訓(xùn)練時沒有的取值XGBoost可能無法處理。這種情況要么在訓(xùn)練前做類別編碼時保留一個“未知”類別要么在預(yù)測前做合法值檢查。附完整代碼結(jié)構(gòu)參考到這里這套流程的核心部分已經(jīng)全部講完了。我最后列一下我在Matlab工程里常用的代碼結(jié)構(gòu)方便你整體把握project/ ├── main_ga_xgb_train.m % 主訓(xùn)練腳本讀數(shù)據(jù)、GA尋優(yōu)、訓(xùn)練模型 ├── predict_new_data.m % 新數(shù)據(jù)預(yù)測函數(shù) ├── data/ │ ├── train_data.csv │ └── new_data.csv ├── lib/ │ ├── ga_xgb_fitness.m % GA目標(biāo)函數(shù) │ └── plot_shap.py % SHAP分析與畫圖腳本 ├── outputs/ │ ├── best_model.json │ ├── best_params.mat │ ├── data_scaler.mat │ └── shap_summary.png分享一個小技巧我習(xí)慣把Python側(cè)的可復(fù)用函數(shù)封裝到一個py文件里比如main.py然后在Matlab中通過py.main.func()調(diào)用。這樣比在Matlab里一行行拼Python代碼清晰得多也方便Python端單獨(dú)調(diào)試。項(xiàng)目上線后這個main.py基本上沒怎么改過所有改動都在Matlab側(cè)。這套方法我已經(jīng)在不止一個回歸預(yù)測場景里驗(yàn)證過了。個人最大的體會是GA-XGBoost加SHAP并不是“為了高級而高級”而是在精度、可解釋性和工程可維護(hù)性三者之間找到了一個很好的平衡點(diǎn)。如果你也在做類似的預(yù)測項(xiàng)目建議先拿小數(shù)據(jù)量把流程打通再慢慢放大前期多花半天調(diào)試環(huán)境后面能省下好幾個星期。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
九九大香蕉黄色影院| 99啪啪网| 日韩啪啪网| 九久9精品| 久热A| 伊人色综合久久久| 丁香婷婷综合影院| 五月丁小婷婷激情四射| AV中文在线| 天天久综合| 五月激情日本在线| 九九热在线视频| 激情丁香五月婷婷啪啪| 婷婷开心综合人妻小说网址| 九九视频这里只有精品在线播放| 精品婷婷| 综合激情婷婷| 九九自拍网| 91九九热| 狠狠爱五月婷婷综合六月| 欧美久久婷婷| 99色干| 99国产性感视频| 欧美三级欧美一级| 任你擦免费视频| AV片一区在线观看| 婷婷丁香六月天| 中文av网| 丁香五月欧美| 激情综合色| 色久影院| 丁香六月啪啪| 日本久久精品18| 性生活久久人妻| 思思热久在线观看视频| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 日本成人小说婷婷六月| 蜜臀嫩草| 丁香六月亚洲综合| AAAA网站| 97热这里精品在线视频| 久久3p| 深爱激情网噜噜色| 色婷婷五月中文字幕在线dvd| 秋霞性爱AV| 六月丁香激情婷婷| 丁香五月天论坛| 久久久久久丁香五月| 六月伊人婷婷| 99热亚洲精品66| 九九热在线观看6| 在线中文av| 国产精品99久久久久久猫咪| 五月色情婷婷| 丁香五月在线视频黑人| 亚洲色网络| 婷婷五月六月| 97热这里只有精品| 狠狠婷婷综合| 天天综合 99久久婷婷| 五月天婷婷涩涩| 五月丁香六月婷婷操操操| 色情播放| 久久美女五月天| 噜噜网免费视频| 婷婷激情蜜桃玖玖丁香| 婷婷九月激情网| 天天射射夜| 中国AV性爱观看| 成人性爱精品视频| 丁香婷婷六月男男| 九九無妻| 久久激情四射| 五月丁香久久综合| 婷婷丁香视频| av在线激情| 亚洲美女高潮久久久久久69| 久久久99精品免费观看| 超碰国产AV| 色噜婷婷| 天天天操天天天爰| 亚洲在线综合| 五月婷婷在线视频| 色婷五月天| 天天色丁香| 色五月激情婷婷| 亚洲精品白浆高清久久久久久| 四色永久成人网站| 好大好粗嗯啊-一级黄色大片免费观看-成人AV| 99在线免费视频| 婷婷五月天受日本法律保护| 亚洲精品国产精品乱码视99| 国产毛片精品一区二区色欲黄A片| 成人国产欧美大片一区| 日韩ac不卡无码| 初夜av| 五月婷婷成人| 婷婷97色| 26uuu四色| 人人人va亚洲视频在线| 99性爱视频| 人妻在线观看视频| 精品人妻久久久| 五月婷婷中文字幕| 丁香五月亚综合图片| 天天影院色| 九九Av| 少妇人妻丰满做爰XXX| 绿色小导航AV| 五月天婷爱综合| 97干在线播放| AV亚洲在线| WWW五月| 婷婷丁香视频| 停停色综合伊人| 久热这里只有精品性色AV| 五月丁香好婷婷A片网| 丁香色婷婷五月天| 2015在线中文字幕| 婷婷丁香五月天综合网| 五月天婷婷色| 97碰碰人人| 久久99美女精彩视频| 婷婷色啪| 亚洲爱婷婷| 丁香五月天婷婷久久综合| 亚洲综合视频八| 久99视频| av大香蕉| 99热伊人| 色色色色色网| 色婷婷操逼| 色久综合天天做视频| 久色资源| 婷婷欧美偷拍综合| 婷婷五月影院| 婷婷丁香成人在线视频| 色狠狠色噜噜AV天堂五区| 丁香婷婷黄网站| 激情色色色| 亚洲黄网AV| 《战争与艾拉》完整版| 99国产精品白浆在线观看免费 | 99aese| 99热这里只有精品1| 婷婷五月综合网激情| 五月婷婷精品视频| 天天干天天av天天射| 亚洲日韩成人三级av| 五月丁香六月综合基地| 亚洲国产成人在线| AV九九| 91久久精品无码一区二区三区| 极品嫩草| 五月婷婷狠狠干| 欧美婷婷综合网| 天天橾日日橾夜夜橾17| 99精品综合在线| 五月天艹天天| 久久婷婷亚洲无码一起| 乱码操操| 丁香五月天婷婷久久| 激情婷婷五月天| 九九热只有这里精品| 91久久久久久| 色婷婷伦理| 国产精品美女久久久久AV超清 | 人妻乱码久久久| 色色亚洲| 久9热插入| 丁香五月激情性色郤| 五月天丁香婷婷视频网址| 欧美综合在线五月天色婷婷| 久久九精品| 天天日天天摸| 99激情网| 久久色吧| www婷婷| 六月色婷婷色| 91碰免费视频| 99在线视频资源| 五月婷婷五月天| 99无码视频| 蜘蛛女免费观看完整版高清电影| 西西4r午夜剧场| 五月天婷久精视频| 色黑鬼导航| www.91av.com| AV在线观看网站| 性爱综合网| 俺也去色| 香蕉狠狠爱视频| 被男人添B超爽视频| 丁香五月欧美色综合| 亚洲视频码| 久久婷婷色色| 99综合一区| 国产操B视频| 九月色婷婷| 久狠日av| 狠狠人人| 激情综合区| 精品久久穴| 久久亚洲无码| 色色丁香激情五月| 99热国产这里只有| 丁香五月91| 中文字幕免费高清电视剧| 99这里有精品视频视频| 日本婷婷综合精品| 五月天伊人综合| 婷婷综合激情| 五月婷婷综合激情网| 六月婷婷七月丁香| 激情五月天噢美| 热99这就是精品视频| 丁香九月激情| 玖玖在线| 99久精品| 五月婷久草| 99在线观看精品视频| 少妇人妻综合色6699| 婷婷色导航| 亚洲成人在线观看网址| 少妇性按摩无码中文A片| 91人人操人人爱| 欧美色色色| 国产精品久久99| 99精品女人天堂| 婷婷中文字幕欧美| 婷婷欠久少妇| 搡BBBB搡BBB搡五十| 久久婷婷国产| 91干视频| 丁香婷婷色色| 婷婷综合五月天| 丁香五月婷婷综合网| Av狠狠色丁香婷| 亚洲性爱电影| 色色色色色色色色五月先| 超碰免费电影| 久久六月综合| 大香蕉在线观看9| 91肏肏肏| 亚洲精品大片| 亚洲这里只有精品| 色99在线观看| 97色97干| 婷婷在线精品| 久热9| 色色五月天丁香| 人人操av| 婷婷午夜精品久久久| 99久在线精品99re8| 五月综合婷婷久久在线| 开心五月深爱五月丁香五月激情五月 | 婷婷五月色惰| 综合久久高清| 五月天丁香综合久久国产| 久久久久九九九九视屏小说88| 在线播放人妻| 激情五月天色色色| 9有码中文| 9999热在线免费观看| 五月亭亭色| 五月亭久久无码视频| 4399精品一区二区| 99狠狠| 国产熟女大叫受不了| 啪啪六月婷婷| xxxx五月| 五月天婷婷丁香社区| 天天舔天天摸视频| 91久久| 五月丁香免费视频| 五月婷婷六月天| 香蕉AV777XXX色综合一区| 欧美肉大捧一进一出免费视频| 丁香五月天视频| av国产精品| 超碰97在线操| 91久久久久久久久久| 91精品综合久久婷婷九色| 精品99在线| 欧美人人操| 婷婷香香五月| 婷婷色狠狠| 99国产精品久久久久久久久久久 | 秋霞av吧| 国产精品人妻欲求不满| 久久机热这里只有 | 98永久精品| 在线成人网站| 九九视频在线免费视频| 婷婷综合亚洲| 影音先锋91网站在线观看| 五月丁小婷婷激情四射| 五月天激情图片| 深爱 五月天| 久久久久久丁香五月| 欧洲色色| 国产精产国品一二三在观看| 成人婷99最新| 99思思热只有在这里看| 色婷婷久久| 日韩成人无码| 久操人妻| 九九在线精点品| 99热手机在线精品| 婷婷五月天大香蕉| WWW.色婷婷.COM| 久久色五月| 亚洲爆乳无码精品AAA片蜜桃| 丁香九月激情在线视频| 激情五月天噢美| 日日操天天| 9久精品| 婷婷天堂伊人| 伊人国产婷婷五月天| av在线免费网站| 国产婷婷婷| 五月天大香蕉| 综合色色婷婷| 欧美97超碰| 亚洲中文av| 色久五月天| 久热伊人| 国产人妻操逼| 热久国产| 9热在线观看| 婷婷丁香五月天小说| 99熟女啪啪视频| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 婷婷五月丁香色播| 九九热思思| 国产毛片精品一区二区色欲黄A片 欧美交换配乱吟粗大25P | 呦呦v线| 久久99久久99久久99人受| 婷婷久久天堂网| 亚洲色五月天是什么| 超碰爱爱爱| 在线成人国产| 午夜婷婷五月天| 九月丁香婷婷| 丁香五月日啪| 精品一二三区久久AAA片| 五月天激情四射网站| 色婷婷综合网站| 99国产精品白浆在线观看免费 | 五月丁香啪啪啪| 日韩 中文 欧美| 亚洲综合五月| 国产资源在线视频| EEUSS鲁片一区二区三区| 亚洲182在线观看| www.日韩艹| 久久精彩免费视频| 丁香久久AV| 99热亚洲| 国际国外精品欧洲南美洲专区无码不卡| 五月天播播| 九九色综合| 秋霞性爱AV| 色色色干| 91超碰人人操| 色综合五月婷婷狠狠干| 婷婷在线中文字幕| 婷婷五月天在线一区| 亚洲综合视频八| 五月婷婷精品无在线| 五月婷婷影视| www.婷婷五月天.com| 亚洲AV电影美洲AV电影| 8区视频在线| 综合久久综合久久| 免费做A爰片77777| 性生活久久朋友人妻| 丁香婷婷欧美综合| 色99在线| 五月欧美色播| 久久五月婷婷综合网| 激情五月色在线播放| 久久五月婷综合网| 淫视馆aV二区一区| 婷婷五月综合在线视频| 九九色院| 婷婷五月天丁香| 五六月丁香激情视频| 99日热在线视频| 99热这里是精品| 九九五月天| 婷婷综合激情| 天天爽夜夜爽夜夜爽精品视频| 五月天狠狠色| 专区无日本视频高清8| www.五月婷婷久久.com| 久久色五月天| 四LLL少妇BBBB槡BBBB| 五月丁香无码| 99热最新网址| YW无码| 欧美色九| 五月婷婷丁香在线视频| 99黄色性生活| 九九热内射| 五月婷婷色综图片| 五月婷丁香亚洲| 久热伊人9| 狠狠的日| 婷婷六月激情| 日本狠狠爽| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 中字幕视频在线永久在线观看免费 | 日本久久精品18| 色色影院aaaav| 久久99jiu9| 日本天天操| 亚洲色婷婷视频| www.超碰在线| 久久婷婷激情四射五月天| 婷婷五月天在线观看| 伊人久久丁香婷婷六月五月综合| 国产超碰在线| 夜夜爽天天干| 思思视频这里是精品| 激情五月天第四色| 婷婷五月天VI| 亚洲人人操| 五月丁香六月婷| 久色中文| 五月丁香视频在线观看| 丁香五月激情婷婷| 日韩成人AV在线播放| 色色色五月天婷婷| 免费做A爰片77777| 玖玖热视频| 激情五月天影院| 九九视频精品在线免费| 狠狠操.com| www.五月婷婷| 丁香婷婷色情| 五月天成人在线视频网站| 第六色在线| 人妻AV在线| 光棍影院日韩精品| WWW久| 99婷五月| 国产婷婷婷| 天天天天操| 免费国产视频| 人妻激情在线| 性欧美日本| 日韩aaaaa| 久色五月| 激情开心五月天婷婷基地丁香社区| www。狠狠干。com| 九月丁香婷婷综合激情| 婷婷五月亚洲激情| 色五月激情问网站| 激情播丁香| 婷婷欧美激情综合| 天天干天天日天天插| 久久婷婷青草五月天| 九热...av| 99久热在线精品| 99精品久久久久久久| 91综合色噜噜| 国产黄色一级片| 亚洲AV无码影院| 色站9/| 色婷婷亚洲在线观看| 婷婷五月天丁香久久| 狼人伊人干| 在线中文字幕免费视频| 四色五月视频| 亚洲最大在线| 激情综合播播| 日批在线看| 久久深爱激情网| 欧美草久久五月天91| 天天干天天爽天天操| 五月丁香六月婷婷亚洲视频| 五月天婷婷综合| 另类精品视频在线观看| 九九热这里只有精品6| 高清无码入口| 婷婷色导航| 色色色色网| 六月丁香久久| 国产91在线视频| 久久久五月天网站| 婷婷操逼| 五月综合六月婷婷| 狠狠爱婷婷丁香| 婷婷色五月丁香六月欧美啪| 国产毛多水多女人A片| 色无婷婷| 久超超碰| 另类婷婷丁香| 五月综合在线| 三男玩一女三A片| 伊人激情综合| 成人AV免费观看| 婷婷丁香久久五月综合| 天天干天天操天天爽| 色婷婷色99国产综合精品| 爱射综合| 亚洲Av成人在线观看| 欧美精品999| 超碰精品手机在线| 九九大香蕉黄色影院| 超碰久热| 性爱人人网| 丁香五月婷婷亚洲色图| 五月婷综合| 五月丁香综合激情| 久久九⑨| yazhouzonghesese| 五月婷婷五月天| 国产69久久久欧美黑人A片| 狠狠综合久久综合| 五月天婷婷在看| 五月天停婷基地| 亚洲无码99| 五月激情射| 婷婷性爱无码视频| 久久五月天婷婷| 美女爆乳18禁www久久久久久| 成人AV在线电影| 九一99| 色婷婷婷婷| 影音先锋综合网| 99亚洲综合| 婷婷激情视频| 狠狠色婷婷丁香五月| 丁香五月在线人妻| 涩综合网| 天天色综| 五月丁香龟婷婷| 99热这里| 超碰狠狠操| 丁香六月综合| 91碰操| 天天操天天操综合| 这里只有精彩视频| AAA久久久| 人人摸人人澡人人| 九九精品系列| 日本五月视频| 666555。COm毛片| 婷婷六月丁香开心深深爱| 天天干天天干天天干| 日本色啪| 99综合激情久久精品久久| 五月婷婷色| 五月天色图| 久9免费视频| 日本大逼91| 五月婷色啪| 亚洲日韩一页精品发布| 情婷婷五月天在线| 搡BBBB搡BBB搡18| 五月天天丁香婷婷在线中| 伊人网大香| 91好好热日本在线| 亚洲人人操| 大香蕉狠狠爱主页| 五月婷婷九| 另类亚洲视频| AV在线观看网站| 日韩精品成人在线| 91色在线/日韩| 台湾无码A片一区二区| 九九热最新| 婷婷终合色图| 人妻精品在线| 色丁香五月婷婷| 婷婷五月av| 亚洲国产婷婷色五月| 激情综合色| 天天性视频| www.超碰在线| 性爱电影科技贸易有限公司| 伊人久久丁香五月91| 中国激情网| 亚洲AV日韩AV永久无码网站| 六月婷婷啪啪| 五月婷丁香花| 亚洲黄网AV| 色婷婷狠狠干芒果TV| 九月大香蕉| 色噜噜狠狠色综无码久久合欧美| 日本久热| 国产午夜精品一区二区三区四区| 婷婷五月天成人综合网| 丁香九月激情久久| 中文av网| 战争与艾拉电影免费观看| 日本操B片| 91成人电影| 五月丁香网视频| 男女啪啪做爰高潮无遮挡| 日本激情五月| 五月丁香婷草| 无码激情AAAAA片-区区| 美女五月狠狠| 狠色狠色狠狠色综合网| 99在线爽| 性爱久久| 久久国产色| 婷婷色婷婷亚洲成人| 高潮毛片又色又爽免费| 色欲影香| 久久 这里只有精品1| 久久九九re热| 国产亚洲精品AAAAAAA片| 黄色AAAAA| 色狠狠综合| 亚洲无码影音| 五月婷六月| 欧美日韩aaaa| 都市激情久久| 日本专区久久| 激情人妻蜜夜系列区| 激情久久久久久久久久| anquye五月| 婷婷丁香五月麻豆| 99啪视频在线观看| 国产人妻777人伦精品HD| 五月丁香婷婷五月| 夜夜做天天爽| 亚洲色综合| 婷婷中文综合网| 九九在线精点品| 五月天亚洲色| 99久久思思| 久草A片| 日本玖玖在线| 国产无套精品一区二区| 欧美色色色| 天天摸天天透天天舔| 色五月视频无码播放| 六月婷婷激情图片| 97久操视频| www.金莲av| 人妻中文在线| 色播五月丁香| 9精品在线| 亚洲五月花| 欧美色色色| 五月天开心激情网色欲无码| 99精品久久久| 99热1| 丁香激情五月少妇| 超碰在线资源| 四色五月婷婷| 91色综合网站在线| 国产性av| 强辱丰满人妻HD中文字幕 | A片女女女女女女BBBB| 五月丁香五月婷婷| 激情五月丁香五月| 99久久网站| 色五月色图| 天堂综合久| 9久久久| 日韩AV在线免费| 国产真实乱对白精彩| 99ri在线视频| 婷婷爱五月| www.99色| 无码人妻AV久久久一区二区三区| 大香蕉九九| 九九在线视频| 国产精品人成A片一区二区| 五月天成人综合| 六月婷婷色| 五月丁香五月综合欧美| 97色色色| 激情玖玖sh| 99免费超碰在线| 久久婷婷五月综合色丁香花| 91国产精品视频播放| 色亭亭丁香五月天| 五月天婷婷涩涩| 超碰高清在线| 日本一道久久| 99热久只有| 思思热在线精品视频网站| 五月丁香伊人网| 婷婷五月天香蕉| 激情五月天婷婷在线网址发给我| 婷婷五月丁香色综合| 色五月色五天色情网| 亚洲热视频| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 91人妻九色大屁股| 五月丁香五月丁香五月丁香五月丁香91| 九九色院| 天天爽成人综合网站| 手机看片日日做夜夜| 婷婷五月天天aV| 人妻久久久久久| 操人91| 色一情一乱一伦一区二区三区| 九九色网专区| 成人丁香色| 丁香综合伊人| 亚洲成人在线五月天| 丁香综合网| 91艹人| 婷婷五月天激情网站| 1024国产| 日韩av变天就操逼不卡区| 国产第99页| 这里只有精品视频222| 五月天婷婷丁香视频| 狠狠插狠狠操| 色情五月综合婷婷| 免费超碰在线| 99热 免费| 色五月丁香婷婷在线观看| 精品久久99码| 日本A片一区| 一区色色色色网| 色色免费网战视频| 日本狠狠干| 亚洲国产成人AV在线| 天天情天天狠天天透| 99热亚洲精品66| 九九视频这里只有精品| 五月丁香婷婷激情爱爱| 激情五月天在线观看色婷婷| 婷婷五月天久久| www.99热| 色碰碰| 色色免费网战视频| 亚洲欧美成人在线| 久久婷婷五月综合激情国产| 激情黄色小说五月天| 五月丁香久久综合| 99热久久日本| 亚洲色vA| CHINESE熟女老女人HD视频| 综合99久久天天综合| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 做爰丰满少妇1313| www狠狠| 26uuu亚洲| 丁香性爱在线视频| 色五月丁香五月激情五月激情| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 亚洲婷婷丁香五月| 青草激情在线| 熟女人妻视频| 综合婷婷六月| 激情综合网五月婷婷| 亚洲午夜电影| 丁香五月天婷婷激情| 久久无码成人| 性小说五月天| www.久久| www.天天干.com| 五月丁香啪啪网| 五月综合丁香婷婷| 九九青草热| 日韩成人电影Av| 久久黄色片| 9色资源在线| 丁香激情六月天婷婷| www99热| 思思久ren热| 五月综合视频| 美女va| 久操热| 99爱视频精品在线观看| 色播综合| av国产精品偷| 综合久久综合久久| 色情丁香五月婷婷精品| 综合色五月| 久操干| AV网站免费在线| www.久久爱.com| 任你日视频| 99久久精品国产色欲| 99九九在线视频| 激情五月天的婷婷| 久草大| 婷婷久月| 欧美精品99久久久| 日韩激情人伦人| 欧美性猛交99久久久久99按摩| 五月婷婷开心激情六月蜜桃| 五月天综合在线网| 五月婷婷AV| 五月婷婷,六月婷婷| 无码动漫av| 91成人视频| 五月丁香影视| 婷婷五月天少妇| 99热香港| 丁香久月| 婷婷色综合| 黑人糟蹋人妻HD中文字幕| 天天 青草 丝袜制服 在线| 天天综合区| 久久这里只精品| 五月停亭六月,六月停亭的英语| 九九这里有精品| 综合热无码| 色综合中文综合网| 久操福利| 五月天堂婷婷| 青青色com久久| 九九99热久久精品66中文字幕| 色色色999| 98国产精品综合一区二区三区| www.91.com处女在线直播| 99久久户外勾搭| 五月婷丁香| 色情五月丁香婷婷网| 草草女人亚洲| 色色色在线观看| 欧美美女国产日韩一区二区久| 日逼影音先锋男人资源站| 色偷偷五月天| 热99视频精品| 欧美婷婷丁香五月| 99这里都是精品| 亭亭五月天黑人2014| 97色97干| 成人αV视频免费观看| 丁香五月婷婷亚洲色图| 天天爽天天爽天天爽天天爽天天爽天天爽天天| 亚洲色图欧美色图日本视频| 91狠狠色色丁香婷婷综合久久| 99久久99热| 色爱爱综合网| 色色色综合| 五月丁香偷拍| 久久99这里只有精品| 久久综合九色综合88i| 激情婷婷| 色婷婷亚洲五月天| www.夜夜操.con| 色五月婷婷1| 日本视频久久| 久久伊人五月天| 丁香五月冃欧美| 激情五月天久久丁香| 四川操逼站| 天天色粽合合合合合合合| 亚洲美女网Va| WWW.开心五月天.COM| 久热99| 九9九9无码| 亚洲精品无人区| 色优久久| 日本色色网站| 99久久激情视频| 五月婷婷内射网| 欧美色久| 日韩欧美老妇性视频91久久久| 狠狠色综合五月人人| 丁香五月首页| 色色亚洲| 九九热最新视频| A网在线欧洲| 夜夜操夜夜爽| 日韩中文欧美| 欧美日本黄色| 91精品又长又大又粗又爽又猛| 五月婷婷丁香91| 欧美激情综合色综合啪啪五月| 97碰久久| 99啪99| 几激情五月婷婷色五月色天堂| 99热这里只有精品23| 色婷婷中文字母五月丁香| 五月婷婷综合激情网| 九色地址91视频| 九九综合五月欧美| se婷97| 久热视频97AV在线观看| 日韩av一区二区在线/日产精品久久久 | 精品九九九久| 任你弄在线视频免费| 少妇高潮呻吟A片免费看软件| 色五月婷婷综合| 色爱五月天| 超碰在线99| 五月色色网| 亚洲欧美综合7777色婷婷| 国产操碰| 五月丁香婷婷色| 91婷婷色五月| 五月丁香婷婷啪啪| 丁香五月天啪啪| 99热色精品| 这里只有精品在线观看视频| 九九热99热| 五月激情在线| 国产伦亲子伦亲子视频观看| 五月丁香亭亭| 无码AV久久久久久久久| 日韩黄在免| 20253AV| 国产精品色情AAAAA片软件| 9久久狠狠的| 91精品刘玥| Www.狠狠| 九色自拍| site:hcxsz888.com| 插插干干干色| 亚洲激情网站| 99无码| 九九青青草成人| 99这里有精品| 曰韩五月丁香色婷婷无码| 黄色短视频在线观看| 日本在线wwww| 久久婷婷五月综合色奶水99啪| 草综合网| 婷婷四色成人综合色视| 激情亚洲网| 在线观看的av| 六月色色| 色丁香五月婷婷综合久久| 久久综合首页| 五月天婷婷基地丁香| 狠狠操狠狠狠| 丁香五月先锋| 精品国产AV色一区二区深夜久久| 99久久九九视频| 丁香婷婷婷五月综合色情| 综合五月婷婷| 色色网站免费观看| 亚洲无码色色| 99操碰| 97色一二三| 人妻熟妇国产精品| 激情五月天色爱| 99热久| 婷婷久久综合| 第1影院之五月婷婷| WWW.天天日| Jh7Uf088VHafNm| 色天堂A| www,奇米影视| A1片久久久| 婷婷激情鹿城五月天| 婷婷五月激情五月激情| 六月激情婷婷| 大香蕉天堂色| 免费的日逼视频| 综合色五月| 五月激情天| 黄网在线免费播放| 男女久久婷婷五月天| 99re免费精品视频| 五月天丁香久久综合| 色五月激情五月天| 久久综合五月情| 五月天婷婷色色| 激情丁香五月婷婷啪啪| 饮料下药迷倒漂亮女同事强干| 国产黄色av| 六月香五月婷| 色综合激情| 婷婷五月天丁香久久| 九九热视频首页/这里只有精品| 热久久这里只有精品| 亚洲激情四射色| 久久9精品| www夜夜| 亚洲精品一二三| 激情综合五月激情17| 99人妻碰碰碰久久久久视| www。久久久久一b。Cc| 丁香五月花婷婷开心| pom538精品视频| 色婷婷aV四虎| 亚洲瑟瑟精品在线| 天天插天天插天天插天天插| 99.N在线视频| 五月婷婷免费看| 综合色、色综合| 六月亚洲婷婷6月中文字幕| 五月 激情视频| 97碰碰电影| 色久天| 狠狠色婷| 色婷婷六月精品| 久久在线视频免费观看| 国产精品久久99| 久久99网站| 大香蕉久久久久| 亚洲精品99| 影音先锋综合网| 亚洲色色香蕉| 欧美日韩成人综合9| 一级精品999WWW| 99久久五月婷婷| 婷婷性爱视频在线| 日本高清综合网五月丁香| 五月天激情亚洲| 涩五月丁香| 国产五月视频| 丁香五月在线观看综合| 性欧美大战久久久久久久83| 丁香五月激情综合在线观看| 欧洲色色| 99色看这里只有精品| www.色婷婷| 丁香婷五月天| 日日干四虎| 激情五月网站| 日本视频不卡123区| 丁香五月综合在线播放 | 天天爽在线视频| 婷婷伊人网| 秋霞电影一级黄| 九九精品热| 激情五月婷婷色综合| 99热官网| 欧美性爱专区| 欧美婷婷五月丁香| 伊人九九综合| 亚洲第一黄网| 色啪网| 婷婷六月天| 午夜婷婷六月天| 欧美日韩日韩成人| 日本一级| 麻豆123区| 五月婷婷深深爱| 亚洲午夜av| 国产人妻人伦精品一区二区| 国产高清RV综合aVa| 欧美婷婷综合| 国产亚洲精品久久一区二区三区| 九月激情网| 欧美肉大捧一进一出免费视频| 亚洲久久婷婷| 亚洲自拍天堂| 五月婷婷AV| 色婷婷五月天天天做| 婷婷伊人綜合中文| 色婷婷狠狠18禁| 欧美一区二区三区不卡影视| 久久婷综| 日韩成人中文字幕| www.婷婷五月天啪啪| 丁香五月婷婷少妇| 五月天婷婷激情在线色图| 99热久只有| jiuse91在线| 久久激情五月婷婷| 五月天婷网| 九九精品99| 青草视频在线观看视频| 五月婷婷婷婷网| 成久综合视频| Www.se.久久| 婷婷色六月| 亚洲男人的天堂婷婷色五月| 免费超碰在线| 99熟女| 天天天天操| 色在线五月天免费| 操日本三片99| 五月婷在线| 狠狠色大香蕉| 亚洲五月天狠狠| 久久免费9| 婷婷丁香精品视频在线观看| 超碰九九热| 色五狠狠| 色婷婷色五月另类综合| 色婷婷情片| 疯狂做受XXXX高潮A片| 久久看婷婷| 国产日日夜夜操| 玖玖色综合网| 色婷婷色综合| 中文字幕人成乱码在线观看| 激情婷婷五月| 色5月婷婷| 夜夜涩涩涩| www.久久爱.com| 人妻Av在线| 免费观看欧美成人AA片爱我多深| 婷婷综合五月天| 国精产品一区二区三区| 精品婷婷五| 午夜爱插插| 免费看片在线观看| 激情亚洲五月| 亚洲亚洲人成综合网络| www.五月天婷婷| 亚洲色激情| 婷婷激情综合网| 六月丁香视频网站| 日韩综合网络男女香蕉a片| 日韩熟女啪啪视频| 国产暴力强伦轩1区二区小说| 亚洲99综合| 久草狼人| 五月婷在线观看| 免费观看欧美成人AA片爱我多深 | 99色视频| 色人久久| www久久久久久久97| 99re思思热久久| 九九热精品6| 狠狠色噜噜狠狠狠888了| 激情五月婷婷网在线观看| 激情网战码亚洲A| 色吊丝永久访问网址| 亚洲精品中文字幕成人片| 亚洲视频在线网| 国产特黄色精品一区二区三区精品无广告| 欧美性生交XXXXX无码小说| 久久久久人妻| 婷婷五月天亚洲| 五月综合无码| 五月花免费视频| 婷婷丁香五月亚洲| 玖玖在线视频| 婷婷五月天堂| 日韩操人| 饮料下药迷倒漂亮女同事强干| 人人爱操| 狼人久草| 国产又黄又爽又色的免费| 伊人综合网站| 黄桃AV无码免费一区二区三区| 大香蕉啪啪啪| 激情综合五月天| 玖玖资源天天无码| 99热这里只有精品最新| 99热这里只有精品最新网址| 日夜夜天天| 五月婷婷色激情| 丁香五月在线播放| 日本色图综合| 婷婷伊人网| 五月天久久久| 五月开心网| 99欧美热| 免费AV在线网址| 五月婷婷色影院| 九九蜜臀精品| 亚洲、热| 99热这里只有精品16| 激情六月丁| 五月色网| 国产67194| 亚洲六月综合激情久久下卡| 无码激情AAAAA片-区区| 天天爽夜夜爽夜夜爽精品视频 | 色婷婷丁香| 婷婷五月天网址| 婷婷五月天小说网| 天天日天天插| 成人五月天综合网| 99热全是精品| 亚洲小视频免费播放| 成人欧美一区二区三区在线观看 | 狠狠操婷婷| 91九色视频在线观看| 六月婷婷五月天| 日本色色影片| 丁香五月天婷婷91| 99热这里在线精品| 99热777| 天天操人人干| 五月婷婷中文字幕| 色啦啦视频| 久久综合首页| 五月丁香婷婷久久| 五月天播播中文字幕| 五月丁香六月婷婷在线播放| 天天日天天爽| 成人无码髙潮喷水A片| www.9色色色| 色色丁香| dingxiangtingtingliuyue| 五月婷婷六月天| 日本不卡一区二区三区| jiujiujiuwuyuetian| 丁香婷五月天| 97性视频| 日韩国产在线精品| 伊人婷婷大香蕉| 色狠狠综合| 五月婷婷啪啪啪| 婷婷丁香18| 婷婷综合激情| 五月婷婷中文字幕| 亚洲操操操| 久久人人九| www色中色综合| 亚洲美女高潮久久久久久69| 婷婷五月丁香基| 免费AAAAA网| www.99热这里只有精品| 欧美激情五月天| 五月婷婷久久大香蕉| 国产在线另类五月婷婷| 日本三级韩三级99久久| 超碰啪啪网| 四色 爱 婷婷 精品 亚洲 五月天| 蜜臀99精品| 婷婷在线日韩综合| 99色在线观看免费| 色色日本欧美| 亚洲黄网AV| 国产片天天爽夜夜爽| 婷婷五月丁香色综合| 91夫妻网站九色| 久er7久热| 日韩成人电影AV| 久久大香蕉视频| 婷婷丁香五月天亚洲| 婷婷午夜| 国产成人+综合亚洲+天堂| 亚洲丁香五月天视频| 欧美婷婷丁香社区在线播放| 日韩三级片一区二区| 另类A片| 色色色色色综合| 国产精品蜜臀99| 欧洲色区| 久久色频| 五月天色社区| 操B五月天| 夜夜爱伊人| 五月丁香婷婷啪啪综合| 五月天婷婷成人资源站| 亚洲V国产V欧美V久久久久久| 99成人网一区| 亚洲五月天色| 五月天婷婷在线观看| 色综合九九色综合88| 久久999久久999久久999久久| 亚洲色频| 伊人网色婷婷五月天| 国产精品久久久爽爽爽麻豆色哟哟| 日本的α片xxxwww| 看片视频在线免费日产在线看| 久9热在线视频| 婷婷中文在线| 色啪影院| 婷婷六月天| 亚洲精品成人片在线播| 婷婷丁香18| 超碰99资源站| 六月撸婷婷| 欧美综合123区| 色五月婷婷av| 国产精品成人在线| 亚洲天堂色色| 中文字幕婷婷五月天| 激情丁香五月婷婷|