欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

PyTorch中混淆矩陣可視化:從模型評估到熱力圖實戰(zhàn)

PyTorch中混淆矩陣可視化:從模型評估到熱力圖實戰(zhàn) 1. 項目概述為什么你的模型需要一張混淆矩陣訓(xùn)練完一個Pytorch分類模型大多數(shù)人習(xí)慣性看一眼測試集準(zhǔn)確率就覺得萬事大吉。但準(zhǔn)確率這個指標(biāo)在不少場景下是會騙人的——比如類別不均衡的數(shù)據(jù)集哪怕模型把少數(shù)類全部判錯只要多數(shù)類猜得足夠準(zhǔn)整體準(zhǔn)確率依然能保持在90%以上。你根本看不出模型到底在哪些類別上犯了迷糊。而混淆矩陣Confusion Matrix做的就是這件事把模型預(yù)測結(jié)果和真實標(biāo)簽做成一張二維交叉表每一行代表真實類別每一列代表預(yù)測類別。矩陣對角線上的數(shù)字是預(yù)測正確的樣本數(shù)非對角線位置就是具體怎么錯的、錯到了哪個類別。有了這張表你能直接回答三個核心問題模型在哪些類之間最容易混淆每個類別的精確率和召回率表現(xiàn)如何錯誤是偏向某一邊還是均勻分布這個項目我前后做了很多次踩過的坑包括但不僅限于類別順序?qū)Σ簧蠈?dǎo)致圖畫出來全是亂的、放在GPU上的張量忘記轉(zhuǎn)回CPU、歸一化方式選錯導(dǎo)致熱力圖深淺完全失真、第一版代碼在batch推理時忘了收集全部預(yù)測結(jié)果。這篇文章把整個過程完整梳理一遍從最基礎(chǔ)的依賴安裝到最終的熱力圖可視化每一步都會給出可以直接抄走的代碼同時解釋為什么這么寫。2. 準(zhǔn)備工作與核心思路拆解2.1 項目結(jié)構(gòu)與本方案選型邏輯先說整體設(shè)計。這個任務(wù)本質(zhì)上是三件事串聯(lián)得到預(yù)測結(jié)果、計算混淆矩陣、可視化展示。聽起來簡單但每件事都有幾個看似相似、實際千差萬別的實現(xiàn)方式。得到預(yù)測結(jié)果這一環(huán)常見的坑是用驗證集上的最好一次批次的預(yù)測結(jié)果而不是整個測試集從頭到尾的完整預(yù)測。你用驗證集loss挑出來的模型權(quán)重最終要看的還是它在測試集上的泛化表現(xiàn)所以做混淆矩陣一定要用測試集、完整跑完forward把所有預(yù)測和標(biāo)簽收集起來。另一個是注意要用torch.no_grad()包裹推理過程不然顯存會被多余的計算圖占滿尤其是輸入圖片分辨率高或batch size大的時候爆顯存不是開玩笑的。計算混淆矩陣這一環(huán)選sklearn.metrics.confusion_matrix還是自己寫計數(shù)邏輯我的建議是用scikit-learn的現(xiàn)成函數(shù)除非你有特殊需求。自己寫循環(huán)也可以但處理多分類、類別順序、預(yù)測值和真實值格式不一致這些細(xì)節(jié)時手寫代碼很容易出邊界問題。sklearn版本已經(jīng)經(jīng)過大規(guī)模驗證返回的矩陣形狀是(n_classes, n_classes)行是真實類別列是預(yù)測類別注意這個順序不要搞反可視化的時候如果發(fā)現(xiàn)圖和預(yù)期對不上先檢查這里??梢暬@一環(huán)純粹用Matplotlib還是用Seaborn取決于你想花多少時間調(diào)樣式。Seaborn的heatmap函數(shù)天然適配這類需求有可選的數(shù)值標(biāo)注、配色方案、行列標(biāo)簽控制幾行代碼就出效果。不過如果你在自定義模型或需要集成到自己的訓(xùn)練腳本里直接用Matplotlib也不麻煩。我會在后面的可視化章節(jié)給出兩種寫法和各自適用場景。2.2 環(huán)境依賴與工具選型最低配置如下Python 3.8以上PyTorch 1.10以上scikit-learn 0.24以上matplotlib 3.5以上numpy 1.21以上seaborn可選僅熱力圖畫得更快我實測過的組合是Python 3.10 PyTorch 2.0 scikit-learn 1.2 matplotlib 3.7沒有遇到兼容性問題。如果你還在用老版本的PyTorch比如1.6或者更早一些API細(xì)節(jié)會不同比如torch.no_grad()的用法在早期版本也支持但要留意數(shù)據(jù)類型轉(zhuǎn)換時tensor.cpu().numpy()在需要梯度時可能報RuntimeError后面故障排查章節(jié)會專門講。提示如果環(huán)境里沒安裝scikit-learn單純?yōu)榱水嫽煜仃囇b一個庫不要覺得這是多余。自己實現(xiàn)多分類混淆矩陣時要處理的邊界情況比你想象得多與其在這上面浪費(fèi)時間不如引入已經(jīng)打磨好的依賴。2.3 數(shù)據(jù)格式與類別標(biāo)簽對齊一個非常隱蔽但極其常見的問題訓(xùn)練代碼里的類別索引順序和可視化時顯示的類別名稱順序不一致。比如在Pytorch的torchvision.datasets.ImageFolder里類別順序是按文件夾名稱排序的Lexicographic order。你的文件夾可能叫apple, banana, grape那么索引0就是apple索引1就是banana。如果你在別處比如某個手寫的txt映射表定義了另一套順序畫出來的混淆矩陣行列標(biāo)簽就會錯位整個圖看起來還是有模有樣的但分析結(jié)論全部是錯的。所以我強(qiáng)烈建議固定一套標(biāo)簽列表并在代碼開頭顯式聲明class_names [apple, banana, grape] # 或者從訓(xùn)練數(shù)據(jù)集中直接提取 class_names train_dataset.classes用train_dataset.classes是最穩(wěn)妥的因為你訓(xùn)練時模型輸出的索引就是這么來的不會出現(xiàn)人工手抄錯誤。后續(xù)無論計算矩陣還是畫圖都從同一個列表取標(biāo)簽名。3. 核心代碼實現(xiàn)從模型推理到矩陣生成3.1 完整推導(dǎo)用測試集跑出預(yù)測結(jié)果先說這一段的目標(biāo)把測試集或者驗證集里所有樣本的真實標(biāo)簽和模型預(yù)測結(jié)果收集成兩個一維數(shù)組長度都應(yīng)該等于測試集樣本總數(shù)。一個典型的完整流程如下import torch import torch.nn.functional as F from torch.utils.data import DataLoader from tqdm import tqdm def collect_predictions(model, test_loader, device): model.eval() all_preds [] all_labels [] with torch.no_grad(): for inputs, labels in tqdm(test_loader, descEvaluating): inputs inputs.to(device) labels labels.to(device) outputs model(inputs) # outputs shape: (batch_size, num_classes) # 需要的是每個樣本的最大分?jǐn)?shù)對應(yīng)的索引 _, preds torch.max(outputs, dim1) # 關(guān)鍵轉(zhuǎn)回CPU并轉(zhuǎn)成numpy all_preds.append(preds.cpu().numpy()) all_labels.append(labels.cpu().numpy()) all_preds np.concatenate(all_preds) all_labels np.concatenate(all_labels) return all_preds, all_labels幾個細(xì)節(jié)解釋一下為什么使用torch.max(outputs, dim1)而不是torch.argmax兩者做的事情一樣但torch.max順帶把最大值的數(shù)值也返回了如果你后面想做置信度閾值篩選不需要再跑一次前向傳播。為什么model.eval()必須在循環(huán)前調(diào)用因為模型里的Dropout和BatchNorm在訓(xùn)練模式和推理模式行為差別很大。BatchNorm在train()模式下用的是當(dāng)前batch的統(tǒng)計量在eval()模式下用的是訓(xùn)練階段累積的全局統(tǒng)計量。忘記這一步預(yù)測結(jié)果可能是錯的且錯誤模式非常隱蔽——你不要指望它報錯只是數(shù)字不準(zhǔn)確。為什么收集預(yù)測和標(biāo)簽要用numpy而不是繼續(xù)保留tensor因為后面交給sklearn.metrics.confusion_matrix時numpy數(shù)組最方便。你當(dāng)然可以傳tensor進(jìn)去sklearn底層會嘗試轉(zhuǎn)numpy但遇到需要detach的場景就會報錯這里直接cpu().numpy()一步到位省心。3.2 核心邏輯構(gòu)建并理解混淆矩陣拿到all_preds和all_labels之后一行代碼就能生成矩陣from sklearn.metrics import confusion_matrix cm confusion_matrix(all_labels, all_preds) print(cm)這里有個非常值得注意的細(xì)節(jié)sklearn的confusion_matrix(y_true, y_pred)第一個參數(shù)傳真實標(biāo)簽第二個參數(shù)傳預(yù)測標(biāo)簽。我見過不止一次把順序?qū)懛吹娜绻惆l(fā)現(xiàn)自己矩陣對角線上的數(shù)字莫名其妙地大但精確率和召回率分析卻對不上先檢查是不是這一步參數(shù)傳反了。輸出的cm是一numpy二維數(shù)組形狀為(n_classes, n_classes)。cm[i][j]代表真實類別為i、預(yù)測類別為j的樣本數(shù)。沿行方向看每一行的總和等于該真實類別在測試集中的總樣本數(shù)沿列方向看每一列的總和等于模型預(yù)測為該類別的總數(shù)。舉個具體例子假設(shè)3分類的矩陣是[[50, 5, 3], [ 2, 45, 8], [ 1, 4, 60]]現(xiàn)在看第一行真實類別050個預(yù)測正確5個被錯判成了類別13個被錯判成了類別2。第一行總樣本數(shù)58。看第一列預(yù)測為類別050個確實來自類別02個來自類別11個來自類別2總預(yù)測數(shù)為53。你還能順手算出每個類別的精確率和召回率類別0精確率 50 / 53類別0召回率 50 / 58類別2精確率 60 / 65類別2召回率 60 / 64不從混淆矩陣出發(fā)光用sklearn.metrics里的precision_score、recall_score你確實也能拿到這組數(shù)字但一個是黑盒求解一個是看表手算顯然后者對模型行為的理解更清晰。3.3 歸一化問題原始數(shù)值與比例圖的取舍做可視化之前通常會糾結(jié)一個事情熱力圖顏色深淺到底表示原始數(shù)量還是百分比例我實際用下來的建議是兩者都做根據(jù)需求選擇展示。原始數(shù)值適合看絕對樣本量比如你的測試集每類大約500張一眼就能看出模型在某個類上錯了43張這個絕對值是否可接受取決于業(yè)務(wù)場景。但如果你想分析的是錯誤率的相對大小尤其是在類別樣本量差異很大的情況下用歸一化比例圖才不會被絕對數(shù)量誤導(dǎo)。例如測試集中類別0有1000個樣本類別1只有100個樣本。類別0錯了50個比例是5%類別1錯了10個比例是10%??丛紨?shù)值圖50比10大很多你很可能誤以為類別0的問題更嚴(yán)重。但歸一化之后才能看清類別1的錯誤率其實翻倍了。sklearn提供normalize參數(shù)cm_normalized confusion_matrix(all_labels, all_preds, normalizetrue)normalizetrue的意思是按行歸一化即每行真實類別的總和為1。這樣矩陣?yán)锩總€單元格的值表示真實類別為i的樣本中被預(yù)測為類別j的比例。對角線上的值就是每個類別的召回率。這是最常用的一種歸一化方式因為解釋起來直觀。還有一種normalizepred按列歸一化得到的是精確率視角??茨惴治鲂枨筮x擇。提示匯報結(jié)果時圖里標(biāo)注清楚是絕對數(shù)量還是歸一化比例。最好在副標(biāo)題里直接寫明normalized confusion matrix (row-wise)免得看圖的同事誤讀顏色深淺代表的意義。4. 可視化實戰(zhàn)從樸素表格到生產(chǎn)級熱力圖4.1 使用Matplotlib實現(xiàn)基礎(chǔ)熱力圖最樸素的方式一個for循環(huán)也能畫出格子但效率太低且代碼冗長。實際項目中我推薦直接使用plt.imshow或者M(jìn)atplotlib的matshow。給一個我常用的基礎(chǔ)版本import matplotlib.pyplot as plt import numpy as np def plot_confusion_matrix(cm, class_names, titleConfusion Matrix, cmapBlues, normalizeFalse): if normalize: cm cm.astype(float) / cm.sum(axis1, keepdimsTrue) fig, ax plt.subplots(figsize(8, 6)) im ax.imshow(cm, interpolationnearest, cmapcmap) ax.figure.colorbar(im, axax) # 設(shè)置刻度 ax.set(xticksnp.arange(cm.shape[1]), yticksnp.arange(cm.shape[0]), xticklabelsclass_names, yticklabelsclass_names, ylabelTrue Label, xlabelPredicted Label, titletitle) # 讓x軸的標(biāo)簽在底部顯示而不是頂部默認(rèn)imshow是頂部的 ax.xaxis.set_label_position(bottom) ax.xaxis.tick_bottom() # 在每個格子里標(biāo)注數(shù)值 thresh cm.max() / 2. for i in range(cm.shape[0]): for j in range(cm.shape[1]): ax.text(j, i, f{cm[i, j]:.2f} if normalize else f{cm[i, j]:d}, hacenter, vacenter, colorwhite if cm[i, j] thresh else black) fig.tight_layout() plt.savefig(confusion_matrix.png, dpi150, bbox_inchestight) plt.show()這段代碼有幾個細(xì)節(jié)值得注意為什么用cm.astype(float)原始混淆矩陣是整數(shù)類型整數(shù)除以整數(shù)在Python 3里得到的結(jié)果是浮點數(shù)但如果遇到某行和為0除法結(jié)果會是NaNastype(float)可以讓后續(xù)操作更順暢。另外如果直接把int類型矩陣傳給imshow顏色的映射不會有問題但在某些情況下annotate字符串格式化會有坑轉(zhuǎn)成float更安全。為什么用thresh cm.max() / 2來決定字體顏色如果格子的數(shù)值大于最大數(shù)值的一半說明格子顏色較深用白色字更清楚反之用黑色字。這個閾值設(shè)定簡單粗暴但效果很好實測各種顏色映射下都清晰。如果你用的是plt.text手動標(biāo)注而不是后面要講的Seaborn內(nèi)置annot功能這段邏輯就得自己寫。關(guān)于顯示方向Matplotlib默認(rèn)的imshow坐標(biāo)是從左上角開始y軸向下。這是圖像坐標(biāo)系的常規(guī)做法。如果你希望y軸從下往上數(shù)學(xué)坐標(biāo)系習(xí)慣可以加上ax.invert_yaxis()。但這個決定純屬個人偏好我用默認(rèn)方向沒遇到過問題只要x軸標(biāo)簽在底部、y軸標(biāo)簽在左側(cè)讀者就能自然理解。4.2 使用Seaborn一行畫出更美觀的熱力圖如果你不排斥引入seaborn熱力圖能畫得更快且默認(rèn)樣式在現(xiàn)代論文和報告里更順眼import seaborn as sns plt.figure(figsize(10, 8)) sns.heatmap(cm, annotTrue, fmtd, cmapBlues, xticklabelsclass_names, yticklabelsclass_names, cbarTrue, linewidths0.5, linecolorwhite) plt.xlabel(Predicted Label) plt.ylabel(True Label) plt.title(Confusion Matrix) plt.savefig(cm_seaborn.png, dpi150, bbox_inchestight) plt.show()參數(shù)解釋annotTrue在格子中顯示數(shù)值。fmtd因為數(shù)值是整數(shù)用十進(jìn)制格式。如果歸一化了改成fmt.2f。linewidths0.5給每個格子加白色邊框線。這個細(xì)節(jié)能讓大矩陣看起來不呆板。cbarTrue右側(cè)顯示顏色條。如果矩陣維度小于10Seaborn的標(biāo)注基本不會重疊如果類別數(shù)量多到20以上格子里放數(shù)字會擁擠這種情況建議只放顏色塊或者把字體調(diào)小sns.heatmap(cm, annotTrue, fmtd, annot_kws{size: 8}, ...)4.3 進(jìn)階可視化歸一化圖、錯誤分布圖與多子圖對比單一熱力圖只能說明模型整體行為。做更深入分析時我經(jīng)常把三個圖放在一起對比原始數(shù)值圖、歸一化比例圖、錯誤強(qiáng)調(diào)圖。錯誤強(qiáng)調(diào)圖的思路是對角線位置全部置為0或單獨畫非對角線位置用另一種顏色映射讓錯誤分布一眼可見。# 創(chuàng)建一個錯誤分布矩陣對角線保持白非對角線保留原值 error_cm cm.copy() np.fill_diagonal(error_cm, 0) plt.figure(figsize(8, 6)) sns.heatmap(error_cm, annotTrue, fmtd, cmapReds, xticklabelsclass_names, yticklabelsclass_names) plt.title(Error Distribution (Diagonal hidden)) plt.show()這張圖在類別數(shù)量較多時極其好用。比如你有一個10分類的模型正常混淆矩陣?yán)飵资畟€格子全是數(shù)字人類視覺很難快速找到關(guān)鍵信息。把對角線隱藏、只凸顯非對角線錯誤再加上紅色系顏色映射哪兩類最容易弄混一目了然。多子圖對比適合需要同時看訓(xùn)練集表現(xiàn)和測試集表現(xiàn)或者對比兩個不同模型權(quán)重的場景fig, axes plt.subplots(1, 2, figsize(16, 6)) sns.heatmap(cm_model_a, annotTrue, fmtd, cmapBlues, axaxes[0]) axes[0].set_title(Model A) sns.heatmap(cm_model_b, annotTrue, fmtd, cmapBlues, axaxes[1]) axes[1].set_title(Model B) plt.tight_layout() plt.savefig(compare_models.png, dpi150) plt.show()5. 實操記錄數(shù)據(jù)增強(qiáng)策略的直觀驗證前面講了不少理論這一節(jié)分享一個實際跑過的案例借此說明混淆矩陣可視化如何真正幫到模型調(diào)優(yōu)。某次做細(xì)粒度圖像分類任務(wù)類別非常相似比如不同品種的鳥。初始模型在測試集上準(zhǔn)確率82%看起來還行。但把混淆矩陣畫出來后發(fā)現(xiàn)問題很大一部分錯誤集中在“暗色羽毛的鳥類”之間比如A品種和B品種完全色調(diào)接近互相錯判的比例明顯偏高。針對這個情況我在數(shù)據(jù)增強(qiáng)里增加了顏色抖動ColorJitter、隨機(jī)灰度化RandomGrayscale同時針對易混類對的樣本做了簡單的人工檢查——發(fā)現(xiàn)部分訓(xùn)練樣本的標(biāo)注本身就模糊兩張看起來幾乎一樣的圖片標(biāo)成了不同類別。模型學(xué)到的就是這種模糊邊界再好的網(wǎng)絡(luò)也沒辦法憑空學(xué)會區(qū)分人類都無法分辨的差異。改了數(shù)據(jù)增強(qiáng)策略并清理了部分噪聲標(biāo)簽后重新訓(xùn)練。對比兩次的混淆矩陣歸一化圖A類和B類之間的錯判比例從13.8%降到7.2%整體準(zhǔn)確率提升到89%。這個提升要是只看準(zhǔn)確率數(shù)字你只知道“好了”但不知道為什么好、好在哪些類別上。而兩張混淆矩陣圖并排放在一起解釋性就強(qiáng)得多到底是普遍提升還是特定混淆緩解一眼就能分辨。這個案例想說明的核心思路很簡單混淆矩陣是模型錯誤診斷的入口不是終點。光會畫圖、會看比例還不行要能根據(jù)矩陣?yán)锏腻e誤模式反推數(shù)據(jù)或模型的癥結(jié)所在然后針對性調(diào)整。6. 常見問題與排查技巧實錄6.1 矩陣對角線特別大但精確率低問題出在哪場景你打印出的混淆矩陣對角線數(shù)值看起來很高即大多數(shù)樣本分類正確。但用sklearn.metrics.precision_score算出來的精確率低得離譜。這個矛盾通常是三個原因之一第一類別樣本量極度不均衡矩陣可視化時小類別被“吃掉”了。比如1000個A類樣本、50個B類樣本。A類幾乎全對B類錯一半。混淆矩陣上A類的格子大數(shù)字多B類的格子數(shù)字小視覺上容易被忽略但精確率計算把B類的糟糕表現(xiàn)放大了。排查方法不要只看矩陣同時打印每一行的總和和每一列的總和計算類別的樣本量分布。第二你用的是宏平均macro average還是微平均micro average。宏平均每個類別的權(quán)重相同小類別的表現(xiàn)會嚴(yán)重拉低整體分?jǐn)?shù)。微平均等價于整體準(zhǔn)確率你會覺得“還行”。第三標(biāo)簽順序錯位。預(yù)測時用的類別索引順序和計算指標(biāo)時的標(biāo)簽順序不一致后面對不上導(dǎo)致全部指標(biāo)都是亂的。排查方法很簡單隨機(jī)抽幾個樣本手動看預(yù)測結(jié)果和實際輸出對比。6.2 報錯RuntimeError: Cant call numpy() on Tensor that requires grad這個錯誤只會在一個場景出現(xiàn)你在torch.no_grad()外面執(zhí)行了模型推理或者你在loss.backward()之后、但在同一個tensor上嘗試轉(zhuǎn)numpy。排查方法確認(rèn)推理階段是否用了with torch.no_grad():。如果確認(rèn)用了還報錯檢查你是不是在拿到logits之后又做了某個操作導(dǎo)致新的tensor重新開啟梯度追蹤。# 錯誤寫法 outputs model(inputs) # requires_gradTrue _, preds torch.max(outputs, dim1) preds.numpy() # RuntimeError # 正確寫法 with torch.no_grad(): outputs model(inputs) _, preds torch.max(outputs, dim1) preds.numpy() # OK6.3 可視化時中文標(biāo)簽亂碼Matplotlib默認(rèn)字體不支持中文如果項目里的類別名稱包含中文畫圖的標(biāo)簽會變成一個個方框。解決方案是在繪圖前設(shè)置中文字體import matplotlib.pyplot as plt plt.rcParams[font.sans-serif] [SimHei, Microsoft YaHei, Noto Sans CJK SC] plt.rcParams[axes.unicode_minus] False這幾行代碼在Windows和Linux的中文字體選擇上略有不同實測在Windows用SimHei沒問題Linux服務(wù)器上如果沒裝Noto Sans CJK就先apt install fonts-noto-cjk。如果不想依賴系統(tǒng)字體還可以用font_manager指定字體文件路徑穩(wěn)妥但代碼量多一點。建議本地調(diào)試用系統(tǒng)字體生成報告時統(tǒng)一用服務(wù)器上固定字體避免圖片字體不一致的尷尬。6.4 矩陣很大時可視化的排版混亂假設(shè)你的類別數(shù)量是50甚至100。把所有類別標(biāo)簽都畫在同一張圖上橫向標(biāo)簽互相重疊格子里的數(shù)字糊成一片這種圖沒什么用。應(yīng)對策略有三種只展示一部分比如按錯誤數(shù)量排序只展示錯誤最多的前10對類別。降采樣把混淆矩陣按更大的粒度合并比如把相近大類合并后再畫。交互式展示用plotly生成可縮放的網(wǎng)頁圖鼠標(biāo)懸停能看具體數(shù)值。雖然無法把圖片嵌入靜態(tài)文檔但適合需要交付給業(yè)務(wù)方做探索的場景。6.5 矩陣?yán)锏臄?shù)值比樣本總數(shù)還多多出來的數(shù)據(jù)從哪來出現(xiàn)這個問題幾乎可以肯定是你在推理時沒有跳過數(shù)據(jù)集的最后一個小batch或者你重復(fù)跑了一次預(yù)測并把結(jié)果append了兩次。排查方法打印len(all_preds)和len(test_loader.dataset)兩者必須相等。如果all_preds多了看看是不是你的循環(huán)里沒有判斷邊界或者之前某次調(diào)試時沒有清空列表。# 確保列表是空的才開始 all_preds [] all_labels []6.6 GPU推理時顯存溢出如果測試集圖片分辨率高即便batch size適中也可能爆顯存。主要元兇是檢測模型Detection里的多尺度輸出或者超大特征圖。分類模型通常還好但如果你用了大卷積核或者輸入是2000x2000的圖也要小心。應(yīng)對方法減小batch size。用torch.no_grad()。如果推理流程復(fù)雜在循環(huán)里顯式調(diào)用torch.cuda.empty_cache()。順帶提一個真實遇到的坑batch size減小后最后一批樣本數(shù)少了歸一化時如果某一行對應(yīng)的類別一個樣本都沒有矩陣的一行之和會是0除以0會得到NaN。解決方法是歸一化時加上一個極小量epsilonrow_sum cm.sum(axis1, keepdimsTrue) cm_normalized cm / (row_sum 1e-12)7. 從混淆矩陣延伸到更多評估維度7.1 從矩陣一鍵導(dǎo)出精確率、召回率與F1混淆矩陣本身包含計算所有基礎(chǔ)分類指標(biāo)所需的信息。你可以算def metrics_from_cm(cm): n_classes cm.shape[0] precision np.zeros(n_classes) recall np.zeros(n_classes) f1 np.zeros(n_classes) for i in range(n_classes): # 精確率對角線 / 列和 precision[i] cm[i, i] / cm[:, i].sum() if cm[:, i].sum() 0 else 0 # 召回率對角線 / 行和 recall[i] cm[i, i] / cm[i, :].sum() if cm[i, :].sum() 0 else 0 # F1 if precision[i] recall[i] 0: f1[i] 2 * precision[i] * recall[i] / (precision[i] recall[i]) return precision, recall, f1或者直接依賴sklearnfrom sklearn.metrics import precision_score, recall_score, f1_score, classification_report print(classification_report(all_labels, all_preds, target_namesclass_names))classification_report輸出的表格文本在控制臺看很方便我每次訓(xùn)練完都會打印一份。雖然它不畫圖但和混淆矩陣圖配合使用一圖一表把模型表現(xiàn)講得很清楚。7.2 多分類任務(wù)的宏平均與加權(quán)平均在做多分類評估時經(jīng)常會遇到宏平均macro、微平均micro和加權(quán)平均weighted的選擇。這里做個簡單說明宏平均每個類別的指標(biāo)先算出來然后取平均值。類別權(quán)重相同小類別的表現(xiàn)會被放大適合你關(guān)心所有類別是否都被照顧到的場景。微平均所有樣本的TP、FP、FN加起來算總體指標(biāo)等價于整體準(zhǔn)確率對多分類而言適合樣本量均衡的場景。加權(quán)平均按每個類別的樣本占比加權(quán)計算能反映數(shù)據(jù)分布情況但大類影響大可能掩蓋小類別問題。從模型優(yōu)化的角度看我通??春昶骄鵉1因為如果某個小類別效果差宏平均會直接暴露出來。但從業(yè)務(wù)指標(biāo)匯報的角度可能更需要加權(quán)平均因為業(yè)務(wù)看的是整體效果?;煜仃噲D解決的正是這個問題不管哪種平均指標(biāo)它提供的只是總結(jié)數(shù)字矩陣圖能告訴你具體哪些類表現(xiàn)差。宏平均F1低了打開混淆矩陣圖一眼就能看到是哪個小類別被虐得最慘。7.3 用混淆矩陣輔助判斷閾值調(diào)整對于二分類任務(wù)混淆矩陣的四個基本項TP、FP、FN、TN直接決定了ROC曲線和PR曲線上每個點的位置。通過調(diào)整決策閾值通常默認(rèn)是0.5你可以讓模型更偏向“寧可錯殺也不放過”或者“寧可放過不可錯殺”。比如醫(yī)療篩查場景假陰性比假陽性更致命。你可以降低正類的判定閾值讓模型輸出概率大于0.3就判為正類。這會讓TP增多、FN減少但同時FP也會增加。此時畫出不同閾值下的混淆矩陣對比TP、FP的變化幅度比只盯著AUC曲線要直觀得多。多分類閾值調(diào)整稍微復(fù)雜但可以借助每個類別的概率分布直方圖配合混淆矩陣來做。核心是先明確業(yè)務(wù)訴求是精確率優(yōu)先還是召回率優(yōu)先然后基于混淆矩陣在不同閾值下的變化來選。8. 經(jīng)驗沉淀與后續(xù)擴(kuò)展方向整個流程實現(xiàn)下來我個人最大的感受是畫混淆矩陣本身很簡單難的是把它放到模型迭代的閉環(huán)里真正用起來。我現(xiàn)在的工作習(xí)慣是每次訓(xùn)練完不管結(jié)果好還是壞都固定輸出三樣?xùn)|西——測試集loss曲線、classification_report文本、混淆矩陣三合一圖原始數(shù)值、歸一化比例、錯誤分布。這三樣?xùn)|西保存到實驗?zāi)夸浵赂粢欢螘r間再回頭對比不同實驗版本時不用重新加載模型跑推理只翻圖和報表就能快速定位問題。后續(xù)如果你想讓這套可視化更自動化可以嘗試兩個擴(kuò)展方向第一個方向是把混淆矩陣集成到訓(xùn)練腳本中每個epoch結(jié)束在驗證集上自動畫一張圖。這樣訓(xùn)練過程中就能動態(tài)觀察是不是隨著epoch增大某些混淆點一直在改善另一些一直停滯。在線監(jiān)控的價值在于及早發(fā)現(xiàn)過擬合或?qū)W習(xí)率設(shè)置不當(dāng)?shù)膯栴}。第二個方向是結(jié)合模型的可解釋性工具。當(dāng)你在混淆矩陣中發(fā)現(xiàn)某兩類一直混淆別急著一味加數(shù)據(jù)、調(diào)模型先拿錯誤樣本出來看看——用Grad-CAM或SHAP分析模型重點關(guān)注圖像的哪些區(qū)域。很多時候你會發(fā)現(xiàn)模型其實在用一個非預(yù)期的特征做判斷比如區(qū)分兩種鳥時它關(guān)注的是背景草地顏色而非鳥本身的羽毛紋理。這個診斷路徑配合混淆矩陣能幫你做出更有針對性的優(yōu)化決策而不是盲目調(diào)參。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情五月图| 亚洲综合网区| 激情五月婷婷网在线观看| 狠狠色激情在线| 精品人妻久久久久久久| www.99热视频| 国产亚洲99久久精品熟| 99色在线观看| 婷婷深爱五月丁香| 欧美在线视频99| 99九九热播在线免费视频| 色五月色图| eeuus五月婷| av五月天婷婷丁香| 综合激情五月丁香| 99热这里有精品首页10| 婷婷五月天影视| 五月婷婷色五月| 99综合免费视频| 亚洲中文字幕AV在线| 激情久久综合网| 久er免费视频| 另类小说色婷婷| 久久婷婷五月综合| 九九热在线99| 99免费视频在线观看爱| 丁香六月综合激情| 九九大香视频| 亚洲精品激情| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 五月婷婷乱| 极品另类| 婷婷五月综合丁香久久| 99久热这里有精品| 99精品热视频| 亚洲第二AV| 伊人五月天日日夜夜久久久天天| 综合网啪| 久久五月婷综合网| 26UUU在线观看| 五月婷婷六月天| www五月婷婷88导航| 人人性久久| 亚洲精| PORNY九色9l自拍视频成人| 黑人巨粗进入警花疼哭A片| www.射伊蕉婷婷| 亚洲十月婷婷综合| 丁香五月综合| 五月欧美色播| 亚洲超碰在线| 久久五月激情综合| 色婷久| 九九九九精品精| 亚洲天堂久久| aa久久| 婷婷五月丁香四射| 婷婷五月激情欧美大胆视频| 97人人操人人干| 偷拍九九五月丁香婷婷| 天干夜夜操| 欧美经典片免费观看大全| 中文字幕av在线播放| 丁香五月冃欧美| 69精品人人人人| 久久3p| 婷婷五月天激情免费在线观看| 国产人妻777人伦精品HD| 99热在线精品观看| 婷婷五月天激情综合| 久久精品日| 亚洲十月婷婷综合| 操人妻AV| 夜夜夜夜操| 婷婷丁香六月天| 97人人操在线| 丁香婷婷网| 97碰碰视频| 天天色官网| 亚洲无AV在线中文字幕| 天天天天天操| 97色婷婷| 五月激情丁香| 欧美三级韩国三级日本三斤| 亚洲另类噜噜| 天天艹| 五月丁香花开综合网| 99精品偷自拍| 66精品成人免费网站在线观看| A片试看120分钟做受视频红杏| 伊人五月婷婷| 激情五月婷婷| 毛片毛片毛片毛片| 色色色五月天激情资源| 激情综合网五月婷婷| 久久日婷婷| 国产另类综合| 99热99在线精品| 久久这里有精品视频| 4438亚洲欧美| 丁香婷婷色五月| 久久99激情五月天| 日韩三级高清无码| 99男人天堂| 久久综合婷婷五月| 婷婷丁香六月| 99精品国产在热久久| 综合激情网五月激情| 久久久久久人妻| 91碰碰碰| 人妻丰满精品一区二区A片| 色五月激情五月丁香五月婷婷啪啪综合 | 精品色情一区二区三区四区| 亚洲精品久久久久久久久久飞鱼| 色婷婷六月天在线| 91视频综合网| 超碰在线91| 狠狠色色| 精品亚洲国产成AV人片传媒| 色久天| 伊人五月天97| 日韩视频99| 天天做天天要天天爱| AV性爱在线| 六月亚洲婷婷6月中文字幕| 极品人妻VideOssS人妻| 好好干av| 99久久精品国产色欲| 另类图片激情五月| 婷婷激情五月天网站| 97五月天| www夜夜| 久久92| 亚洲激情网| 色播丁香五月婷婷操:屄| 欧美大片| 五月天激情国产综合婷婷婷| 少妇丁香婷婷| 色综合色色色色色色综合| 99视频精品在线| 丁香五月开心亚洲| 丰满少妇猛烈A片免费看观看| 2025天天爽天天摸| 91疯狂操操操操| 91精品久久久久| 久久这里只精品66| 麻豆123区| 97热精品| 色宗合久久五月婷婷| AV大片在线观看| 亚洲成人av在线| 色婷婷中文字母五月丁香| 日韩国产在线精品| 亚洲无码yw| 日韩色色小视频| 熟女色色一区二区| 91综合国免费久入| 视色综合| 超碰av在线| 七七婷婷综合| 婷婷综合精品| 色噜噜在线| 操逼巨乳91| 五月综合无码| 九九热在线视频观看| 色综合九九| 国外亚洲成AV人片在线观看| 久久人人九九| 五月开心激情网| 久久精品系列| 操老逼综合网| 日本色道视频网站| 欧美一级操逼视频| 欧美激情丁香五月天久久婷婷一区| 91人人妻人人操人人爽| 婷色五月| 色情久久久| 色五月av伊人| www.久久久久久久| AV变态另类一区二区| 26uuu欧美日本| www.亭亭五月天| 新97人人上人人| www.丁香黄色五月天人与| 最新久久网址| 亚洲婷婷免费| 激情影院免费视频婷婷五月天| 任你操精品免费| 99网| 99精品亚洲| 亚洲丁香五月| www.精品99| 91久久色| 国产精品A片在线| 色五月播五月| 99热新网址| 五月情涩综合婷婷| 狠狠狠狠免费| 天天爽在线视频| 国产AV网页| 9久热| 婷婷另类小说| 五月天婷婷丁香六月| 五月婷婷色播视频| 99在线热| 99热国内精品| 亚洲成人网站在线播放| 97自拍视频网| 婷婷在线中文字幕| 亚洲精品又粗又大又爽A片| 99热这里只有精品1025| 丁香六月婷婷五月婷婷| 五月婷婷丁香在线视频| 午夜精品777| 色综合婷婷| 怡红院91a√| 日产精品一线二线三线芒果| 色婷婷电影网| 天天干,夜夜爽| 先锋资源婷婷| 久久久噜噜噜久久人妻| 婷婷五月天激情免费在线观看| 婷婷激情五月天色| 国产阿姨日皮艹逼内射视频| 秋霞黄色一级久久| 思思热这里只有精品视频666| 欧美色色色色色色| 在线成人av播放| 欧美精品在线观看| 极品人妻VIDEOSSS人妻| 五月丁香| 国产美女无遮挡裸体毛片A片| 久久九九综合| 久热91| 激情婷婷丁香| 天天操天天插| 婷婷综合五月| 婷婷五月激情的图片| 亚洲色情网站| 久久精品视频在这里有| 色五月丁香六月欧美综合| 天天操夜夜玩!| 九九热九九热精品| 亚洲AV激情五月综合网| 色五月久久成人婷婷| 五月婷婷在线丁香| 噜综合| 亚洲五月天色| 丁香五月综合色婷婷| 91九色国产| 日韩黄色网络| 99热碰碰热| 激情中文在线| 色五月婷婷av| 丁香5月激情网| 九九热超碰| 久久久网站| 9久国产精品| 六月婷婷开心| 91久久久久久久久18| www.婷婷亚洲基地| 夜夜骑操AV| 激情色播| 色9色| 秋霞午夜理论| 色婷婷六月综合| 五月婷婷开心色伊人| 欧美婷婷六月丁香综合色连续高潮抽搐| 亚洲成人在线播放| 色婷丁香五月| 五月婷婷免费| 99热这里只有精品免费观看| 日韩aaaaa| 噜噜噜久久| 日本一毛片| 丁香花五月天激情| 99热精品在线观看| 97热91| 婷婷最新地址| 日韩淑女人妻luan伦激情精品一区二 | 久久精品日| 婷婷色一二三区波多野结衣| 色婷婷9| www久久久| 日日爱678| 色激情综合狠狠婷婷| 99热在线免费观看精品| VfJxEwPH| 综合99久久| 亚洲AV免费在线| 丁香五月综合| 操操综合网婷婷| 自拍视频在线观看9| 国产免费av在线| 武则天精品久久| 久久久妻人人人| 狠狠狠人妻| 五月天成人在线播放丁香| 五月天婷婷在线播放| 久re热视频| 99热这里有精力| 日日干夜夜干| 午夜激情久久| 亚洲va欧美| 99精品视频在线| 五月天婷婷无码视频| 丁香婷婷色情| 噼里啪啦在线观看免费完整版视频| 影音先锋秋秋五月婷婷| 性生活视频98791| 思思视频久久| 五月第四色| w婷婷五月婷婷w| 亚洲免费看片| 久久五月天丁香花| 激情婷婷五月久久| 欧美日韩aaaa| 丁香五月婷婷网| 男人大jjc女人免费视频| 亚洲激情五月| 亚洲精99| 天堂综合久| 婷婷五月天AV| 超碰无码318604| 99热香港| 色婷婷偷拍| 99操视频| 综合色网站| 77799热| 欧美日韩aaaa| 99热色精品| 人人肏逼视频在线一区二区| 色五月婷婷中文字幕在线观看| 这里只有精品视频一区| 夜夜爽天天爽| 日韩伊人大香蕉| 99色在线观看免费| 丁香婷婷视频在线| 日本人妻伦在线中文字幕| 婷婷五月激情五月丁香五月| 婷婷丁香五月久久| 天堂久久精品| 五月丁香色色色| 日本欧美在线| 日本成人噜噜噜| 91一起操| 色情久久久| 狠狠干伊人| 爱射综合| 最新日韩久热免费视频看看| Jh7Uf088VHafNm| 久久资源网五月婷| 97在线视频 欧美| 婷婷最新地址| 亚洲Va成人| 激情五月天伊人影院| 婷婷六月激情| 人妻视频在线| 五月婷av| 亚洲午夜成人av电影网| 五月丁香爱婷婷深深| 操操操Av| 亚洲成人电影在线免费观看| 啪啪五月天啪啪| 色色色婷婷五月天| 五月丁香激情啪啪网| 五月天婷婷青青| 99热这里是精品| 激情文学 综合 九月| 亚洲舔观看| 大香网伊人久久综合| 色婷婷五月影视| 青娱乐美女福利视频美臀| 五月丁香久| 久久久激情视频| 五月婷婷之综合激情在线| 丁香六月婷婷高清| 婷婷久久网| 国产免费一区二区三区三州老师F1F1.CC| 五月天电影网| 免费无码毛片一区二区A片| 欧美久久网| 99国产在线| 久久婷婷青青草| 综合综合色色| 九九热最新| 欧美色99| 99久.| 97超级碰碰碰| 激情综合五月婷婷六月丁香| 香蕉色色网| 色五月婷婷婷婷| 五月综合久久| 婷婷基地成人五月天| 五月天色图| 黄网在线免费播放| 2017狠狠干| 亚洲精品成人片在线播| 色色色色色色色色网站| Av在线不卡一区| 伊人狠狠操| 亚洲国产精品SUV| 亭亭玉立国色天香| 五月香婷婷| 精品久热| 99操视频| 深爱激情AV| 五月婷婷综合网| 久久这里只有国产| 婷婷丁香五月综合| 婷婷五月天激情综合| 色99视频| 丁香五月瑟瑟| 中文字幕丰满孑伦无码专区| A色色| 影音 五月 婷婷 久久| 六月婷伊人| 丁香六月综合激情| 91啪级电影| 97热91| 互月天综合| 99久久婷婷国产综合精品| 婷婷五月天首页| 亚洲日本三级片| 深爱激情69热| 日韩在线成人电影| 色碰碰视频| 久久五月天婷婷| 欧美色色色色色| 少妇丁香婷婷| 亚洲三A| 青青草视频福利| 99在线看视频| 婷婷五月天综合AV| www.久久99| 久99热| 五月天婷婷色播| 色色色色丁香| 操操操Av| 激情久久久| 婷婷激情综合网| 五月丁香六月婷婷综合免| 亚洲乱码日产精品BD| 久久视频九九视频| 久久天堂加勒比| AV网站免费在线| 99色综合网| 97色吧| 激情开心五月亚洲| 成人毛片在线免费观看| 欧美丁香婷婷五月| 色婷婷色情| 丁香五月综合激情久久潮喷| 91丨九色丨熟女| 99热这里在线精品| 日韩野外 无套| 色婷婷激情| 久久久婷婷婷| 色和综合网| 婷婷五月丁香六月| 99在线精品视频观看免费下载| 国产肥白大熟妇BBBB视频| 五月婷婷开心丁香| 超碰在线观看99| 性爱视频久久| 五月丁香六月情| 丁香九月婷婷综合| 亚洲国产精品VA在线看黑人| 五月天天天天天天天天天天天天天天天婷婷婷 | 大香蕉九九| 免费超碰在线观看| 51XX午夜影福利| 色99视| 狠狠狠狠青草| 来吧亚洲综合网| 婷婷六月天激情影院| 色色丁香五月天社区| 九九色精品| 五月天婷婷影院影院| 色狠狠综合入口| 99久久综合网| 思思热视频| 欧美性二区| 婷婷亚洲在线| 婷婷五月激情五月激情| 国产精品五月天婷婷| 91黄址| 久草婷婷网 | 色欲日日躁| 99久久五月天| 久久视频在线视频| 亚洲乱码在线观看| 99热这里只有免费| 国产色色在线| 在线看黄色| 激情丁香五月| 亚洲视频五区| www.99成人视频| 免费无码毛片一区二区A片| 五月天激情丁香| 五月丁香怕怕综合| 狠狠色97| 碰久久精品w| 色色色com| 精品久久99码| 婷婷五月天性| 丁香五月天啪啪| 国产亚洲成AV人片在线| 白人荫道BBWBBB大荫道| 黄网免费看| 99久久精品视频女神1| 97人人射| 97色啪| 九九婷婷激情综合网| 人人摸人人摸| 五月丁香综合影院| 天天做天天爱天天玩夜夜爽 | 色色色色色综合| 丁香五月视频在线观看| 亚洲操逼网| 婷婷色五月天色色| 婷婷五月久久| 五月丁香成人网| 激情綜合網址| 夜夜躁爽日| \\五月天婷婷激情| 天天做天天爱天天爽夜夜揉| 97色天堂| 成人资源在线| 一区操| 日韩av手机在线观看| 欧美婷婷综合| 婷婷欧美综合| 少妇性按摩无码中文A片| 婷婷激情五月综合丁| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 夜夜夜叫天天天做| 99久99热| 噜噜色五月| 欧洲综合视频| 任你擦免费视频| 国产黄色大片| 1级欧美日韩| 国产又爽又猛又粗的视频A片| 夜夜干夜夜操| 伊人99热| 四虎成人精品永久免费AV九九| 99热这里只有精品首页| 亚洲五月色| 五月丁香久久激情网| 亚洲精99| 777久久综合视频| 丁香色五月 97干| 久久99综合网| 任我鲁这里有精品视频| 久久综合色五月| 我想看国产大学生口爆吞精的视频| 国产99久| 色天使色综合| 色婷婷无吗| 丁香五月激情五月色综合| 久草丁香婷婷1024| 99在线视频网址在线观看| 性做爰A片免费视频A片直播| AA片在线观看视频在线播放| 国产精品人成A片一区二区| 亚洲免费婷婷| 日日操日日撸| www.婷婷,com| 99热日韩| 九九这里有精品| 夜夜夜夜夜操| 99久视频| 丰满少妇猛烈A片免费看观看| 午夜少妇在线观看视频| 成人国产欧美大片一区| 九九无码AV| 天天干在线播放| 狠狠一日| 99色视| 五月天婷婷久草丁香| 婷婷久久婷婷| 五月丁香大相交| 久久资源网五月婷| 色色是色N一| 凹凸7777操操操| 婷婷色系婷色| 大陆肏屄视频| 五月天开心网| 91综合在线| 爱射综合| 热久久999| 五月天综合色| 蜜桃婷婷狠狠久久| 色优久久| 99热日本| 五月婷婷丁香婷婷| 伊人久久五月天| 丁香五月欧美| 人人摸人人操人人爱| 玖玖婷婷五月天毛片| 激情五月天婷婷色色色色色色色色色色色| 婷婷欧美激情| 九九色中文| 月婷婷亚洲| 婷婷网五月| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 99日在线观看视频| 超碰9| 深爱五月激情综合| 婷婷五月天综合色| 色久综合| 99这里只有精品| 国产AV一区二区三区日韩| 9精品国产在热久久| 九九大香蕉黄色影院| 啪啪一区| 五月丁香婷婷综合网色欲| 天天日天天草| 九九热最新| 无码成人播放器| 久久久久久久久久久月丁| 色丁香久久| 天天噪夜夜爽| 色婷婷丁香五月| 俺去也五月天| 国内久久婷婷| 色色爽爽天天| 伊人丁香在线| 超碰91av| 亚洲精品国产setv| 亚洲狠狠婷婷| 99视频在线精品| yirenjiqingshiping| 婷婷五月天色综合翘| 亚洲成人一区| 在线你懂的亚洲欧| 五夜丁香| 日本色色网站| 极品人妻VideOssS人妻| 超碰在线资源| 中文在线视频久1| 九色在线五月婷婷网址| 逼逼AV| 无码激情AAAAA片-区区| 日本人妻丁香婷婷久久寝取熟女五月| www.激情| 色之综合网| A久久| 全亚洲最大的婷婷五月天网站COM| 原琪琪色影院| 中文字幕人妻在线| 成人短视频在线| 日韩不卡DvD| 996热| 99久re热视频精品98| 9久视频| 久久久久久久久久8888| 久草五月天| 丁香五月婷婷久久综合激情网| 五月丁香综合激情| 性色欲情 网站| 伊人久久婷婷| 偷拍视频五月天| 久久丁香综合香蕉| 色五月六月| 十区AV| 99热在线精品观看| 色色五月婷| 黄网在线播放| 婷婷色五月情| 六月色婷婷综合影视| 26uuu欧美| 另类专区在线| 国外亚洲成AV人片在线观看| 一区二区三区四区无码| 欧美69色| 五月色婷| 天天操天天操综合| 五月做爱| 91色色色18| 五月丁香| 九九婷婷五月天| 五月天综合在线观看| 啪啪黄页网| 岛国AV网| 五月丁香六月花| www. 五月. com| 婷婷六月色开| 激情久久五月网| 久久婷婷综合色丁香| 色玖玖爱| 五月丁香婷中文字幕| 五月婷婷先锋| 九久9精品| wwccc久久久| 五月丁香888| www.99色| 综合五月激情网| 色婷婷五月在线| 免费看成人AA片无码视频吃奶| 婷婷深爱五月丁香| 狠狠干狠狠色| 九九无毛| 99热这里只有精品首页| 99热这里只有精品一区| 香蕉国产2013| 潘金莲AAAAAAAAAA| 五月丁香免费视频| 五月丁香激情综合网官网| 五月丁香福利| 天天色官网| 大香蕉综合在线| 亚洲狠狠爱婷婷| 国产熟女一区二区三区五月婷| 亚洲综合婷婷| 婷婷亚洲影院| 色色热日| 免费看欧美成人A片无码| 九九婷婷网五月天| 丁香色播五月天| 五月天婷婷香蕉狠狠超碰综合| 色五月激情五月| 五月丁香色婷婷久久| 天天做天天爱天天爽在| 亚洲六月色婷婷| 久久人妻超碰一区| www.五月丁香| pacopacomama 070722_670 素人奥様初撮りドキュメント 103 大久保純子 | 九九精品网| 欧美日韩婷婷五月天| 日夜夜久久| 强奸幻女毛片| 天天色视频| 日韩黄色电影| 久久伊人婷婷| 夜夜夜天天操| av大香蕉| 丁香五月在线视频黑人| 婷婷成人av| www,天天干| 亚洲狠狠婷婷| 无码啪啪| 五月在线婷色| 日韩综合成人| 激情五月天伊人av| 久久久27操| 久久精品9| 人妻操逼视频。| 亚洲激情综合| 五月婷婷六月奇米网丁香| 婷婷六月成人| 99免费在线视频| 99操逼视频| 婷婷五月色播| 久色中文| 色婷婷综合电影| 色五月激情| 人人干天天舔| 婷婷丁香中文字幕| 五月婷婷免费在线视频| 99色干| 亚洲综合五月天| 色情五月天婷婷| 九九中文字幕九| 任你日视频| 99热热九九| 日本综合99| 五月婷婷深深爱| 人妻操逼视频。| 大伊香蕉精品视频在线 | 天天综合插插| 五月丁香另类网| 狠狠色五月天| 丁香五月亚洲激情婷婷射| 99在线精品免费视频| 黄色AAAAA| 丁香五月婷婷色情综合| 婷婷五月影院| 精品久久66| 91人人操.COM| 亚洲亚洲人成综合网络| 丁婷婷五月天在线播放| 成人精品在线观看| 99人妻碰碰久久久禁片| 99这里只有精品| 综合激情开心五月| 97超碰99热99| 97色碰| 综合图区激情| 五月丁香操婷逼| 高潮毛片又色又爽免费| www.色九月| 777久久综合视频| 九九色情网五月天| 丁香五月Av| 婷婷五月色網站| 婷婷伊人网| 天天干在线播放| 天天操B| 天天射天天射一道本日本社区| 五月婷婷六月丁香玖玖玫瑰91| 激情四射五月天| 久久开心五月天激情| 五月丁香六月在线欧美| 久久久久久9热不雅视频| 99精品久久| 久久66成人网站| 97婷婷色| 国产高潮白浆一区二区| 日狠狠| 五月天色社区| 99热精品在线播放观看| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 99riAv1国产在线观看| 51精品国自产在线| 久久久久亚洲AV无码网影音先锋| 人人干Av| 亚洲精品视频在线| 亚洲成人中文字幕| 黑人糟蹋人妻HD中文字幕| 亚洲六月婷婷| www.色婷婷。com| 97香蕉久久超级碰碰高清版 | 996er在线观看| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 91九色视频在线观看| 四川BBB搡BBB爽爽视频| 综合AV在线| www.99成人视频| 色色啊| 日本精品99网站| 色综合网页| 99热欧美| 色色丁香婷婷| 欧美成人色婷婷| 激情丰满熟妇五月| 久久婷婷五月综合| 五月天停婷基地| 久草婷婷网| 99热亚洲| 国产免费AV网站| 日本色超碰| 午夜不卡久久精品无码免费| 二色AV| 亚洲激情另类| 天天日天天干天天插天天射| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 久久九九视频网站| 99re在线视频| 成人国产网站| 91丁香色| 777米奇影视第四色| 五月丁香激情综合网| 久色激情| 深爱激情综合网| 婷婷射图五月天| 日日干综合| 狠狠色丁香久久久婷| 久久艹99| 综合色网站| 综合久久六月| 丁香五月婷婷综合激情哟哟哟| 人妻内射一区二区在线视频| 亚洲综合五月天婷婷丁香| 日韩成人中文字幕| 五月天成人在线播放| 热热久久99| www夜夜操wwwcon| 丁香六月天婷婷色| 色色色在线免费视频| 99色婷婷| 97人人干人人操| 亚洲旡码| 久久婷婷五月天蜜桃| 成人网丁香五月| 免费观看2018www黄色操逼网站| 不卡成人免费| 五月丁香久久久| 日本欧美成人片AAAA| 亚洲丁香花色| 婷婷99狠狠| 久热91| 99色| 成人日韩欧美| 久久性爱视频| 激情色色| 俺也去色| 亚洲乱码日产精品BD在线观看| 日本99视频| 日本三级日本三级99| www.色婷婷.com| 丁香五月六月综合激情| 婷婷六月丁香五月| 五月丁香偷拍| AV电影在线播放| 色婷婷小说网| 色噜噜婷婷| 国产精品久久久久久久久久| 女人高潮内射99精品| 亚州美女| 亚洲黄色网址| 五月激情婷婷偷拍| 色欲色香,www,com| 丁香五月天天| 亚洲综合在线播放| 人妻九九九九| 五月丁香婷婷色| 久久这里只有国产| 婷婷婷色五月| 婷婷激情丁五月| 丁香五月av在线| 婷婷五月激情在线视频| 丁香五月人妻| 九九性视频| 激情综合综合综合| 色狠狠综合网| 色五狠狠| 天天爱天天操| 亚洲午夜av| 伊人久久婷婷| 熟女人妻视频| 色亭亭九月| 99久久精彩视频| 久久久激情视频| 99re热精品视频国| 五月丁香婷婷激情久久| 五月婷婷综合潮喷| 亚洲婷婷免费| 婷婷成人综合| 91色婷婷综合久久中文字幕二区| 亚洲国产精品二二三三区| 五月丁香 狠狠爱| 色爱99| 久久婷五月天| 提提热五月天婷婷| 丁香五月婷婷影院| 久久永久视频| 婷婷中文字幕| 99热伊人综合| 91狠狠综合网| 26uuu美女三级视频| 五月婷色啪| 五月激情小说| 久久这里只有精品99| 无码少妇高潮喷水A片免费| 人妻久久做| 国产乱子轮XXX农村| 夜夜骑天天玩天天日| 99久久新视频| 国产成人网址| 丁香五月天激情综合网| 色吊丝av中文字幕| 欧美久久婷婷| 色婷五月天亚洲| 亚洲视频久久| 另类小说五月天| 亚洲色欲欧美一区二区三区| 九热视频免费观看| 色五月网址| 婷婷五月天激情小说网站| 国产伊人大香蕉| 香蕉综合网| 丁香五月激情性色郤| 狼友超碰| 国产精产国品一二三在观看| 色噜噜狠噜噜视频| 天天搞夜夜叫| 91免费试看| 亚洲天堂久久| 婷婷五月色综合| 丁香五月激情棕合| 国产精品18久久久| 99久在线精品99re5热视频| 激情五月天噢美| 欧美色偷偷大香| 九九99精品视频在线观看| 在线A色| 亚洲操逼片| 五月婷婷 激情按摩| 婷婷天堂综合| www国产亚洲色婷婷com| 色婷婷大香蕉| 影音先锋男人AV资源站| 国产亚洲色婷婷久久99精品91| 麻豆五月丁香婷婷| 色色色色五月天| 色色999三级片| 99色在线视频| 五月天.com| 99亚洲视频| 天天久综合网永久入口18| 五月婷视频在线| 亚洲免费婷婷| 天天插天天插| 六月婷久久| 欧美色色色色色色色| 日日操夜夜撸| 亚州综合色| 手机AVAV天堂看网| 九月丁香| 婷婷五月丁香色播| 天天射射夜| 97干在线视频| 激情九九九九| 精品无码人妻一区| 五月天啪啪视频| 亚洲天堂玖玖| 青草视频在线蜜臀| 超碰成人免费| 99久久久久久久| 婷婷五月天亚洲激情戏精品| 日本久久99| 在线超碰91| 婷婷丁香亚洲五月天| 欧美成人A片AAA片在线播放| 色五月婷婷伊人| 五月丁香花免费视频| 偷拍五月丁香| 日本一毛片| 99r这里只有精品在线观看| 欧美成人精品三区综合A片| 久久婷婷色情7777网站| 伊人啪啪网| 国产黄色在线观看| 色狠狠999综合网| 99re在线精品视频| 五月婷婷97| 五月婷婷激情四月| 国产又黄又爽又色的免费| 欧美日韩99| 国产精品美女| 日韩久久日| 色婷婷六月开心中文字| 99操| 亚洲sesesese| 99精品在线观看视频| 狠狠色九月| 狠狠插日日干撸| 色噜噜丁香| 丁香五月婷婷六月婷| 99视频精品在线| 婷婷五月花| 五月婷婷综合网| 手机在线视频观看9| 色射婷婷五月天| 9久久狠狠的| 婷婷丁香五月视频| 五月天综合| 这里只有精品免费在线视频| 91男同| 日韩操逼大片| 久久色五月天| 91好好热日本在线| 丁香婷婷月| 国产第99页| 色小说五月天| 极品五月天| 日日日日操| 五月婷婷先锋| www.夜夜.com| www,99热在线观看| 丁香五月精品| 91日婷婷在线| 婷婷开心久久| 亚洲中文字幕在线电影| 五月激情综合深爱| 丁香五月婷婷啪啪视频| 99热的无码| 97婷婷五月丁香| 亚洲最大五月六月丁香婷婷| 国产精品成av人在线视午夜片| 日本不卡五月婷婷丁香| 综合久久婷婷99| 人人人人人人人草| 成人精品免费在线观看| 夜夜骑天天玩天天日| 亚洲丁香五月| 超碰妻人人| 婷婷精品综合| 亚洲欧洲一二| 五月天偷拍| 亚洲色图五月丁香| 色碰碰视频| 如何安全看伊人婷婷| 婷婷激情五月| 亚洲色婷婷激情| 色狠狠色噜噜AV天堂五区 | ...婷婷五月综合不卡,国产在线手机 | 欧美久久婷婷| 久草热在线视频| 色婷婷五月天激情在线播放| 四LLL少妇BBBB槡BBBB| 五月丁香婷婷人体| 激情综合五月丁香六月婷婷| 亚洲99精品欧美一区| 激情熟女网| 97久久草草超级碰碰碰| 大香蕉综合网| 婷婷丁香六月天| 丁香五月激情站| 久777| 26uuu| 亚洲综合婷婷五月| 狠狠综合网| 五月婷庭丁香在线| 亚洲欧洲美女在线观| 色五月天成人| 91丨九色丨丰满人妖| www.99热这里只有精品| 五月天激情网址| 26uuu成人网| 欧美色五月| 99re热视频这里只有综合亚洲| 欧美精品99久久久| 国产五月婷| 欧美在线视频9| 色综合婷婷| 中文人妻主播久久| 97超级碰| 99九九在线观看免费| 久久综合激情五月天| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 天天干天天色综合| 亚洲丁香五月美女| 婷婷久久女人| 午夜免费试看| 五月丁香六月婷婷中文版| 久久99免费视频网站| 97在线刺激| 成人超碰AV| 丁香婷婷综合影院| 日韩 中文 欧美| 欧美色骚婷婷五月天| 九月婷婷综合在线| 九九九九国产| 天天日夜夜草进麻麻的子宫| 中文毛片无遮挡高潮免费| 狠狠se| 久久五月天婷婷| 久久五月天激情视频| 色99免费视频中文| 五月婷婷中文| 久久aaaa片一区二区| 久久久五月婷婷| 色丁香五月婷婷| 久久婷婷综合五月天| 激情五月天色色| 青青草婷婷五月天| 99久久精品国产色欲| 天天舔夜夜操www com| 99操不停| 亚洲色网址| 亚洲天堂aaa| 五月天婷婷色在线视频免费观看| 91干婷婷| 激情综合播播| 五月丁香婷婷激情图片| 色欲av伊人久久大香线蕉影院| 亚洲性爱99在线| 久热99热| 色色色色丁香| 四虎成人精品永久免费AV九九| 五月天综合区| 91干视频| 99九九精品视频推荐| 色婷网| 六月丁香婷婷五月| 丁香五月亚洲激情婷婷射| 精品九九久久| 狠狠狠狠狠| 久久久性爱视频| 亚洲第一色网站| 六月婷婷香蕉| AV中文网| 色综合99| 久久精品性爱| 337p午夜影院| 九九99九九99偷拍视频免费看| 婷婷色色欧美综合网| 99在线精品观看99| 色色色9| 婷婷五月丁香在线观看| 日韩另类在线观看| 丁香五月天AV在线| 精品久久久人妻| 婷婷综合网| 色狠狠六月| 国产成人av在线| 欧美日韩日韩成人| 精品国产乱码久久久久夜深人妻| 激情久久久久久久久| 婷婷五月六月丁香综合| 99re熱| 国产成人在线不卡AV| 婷婷亚洲在线| 久久久久久人妻| 成人视屏在线观看| 丁香六月婷婷综合欧美| 色婷婷五月天天天做| 操97| 黑人无码一区| 国产高清视频91九九九久久久| 五月综合久久| 国产精品久久..4399| 人妻久久久久久久 | 久操人| 五月婷婷综合在线亚洲视频| 色五月av| 五月婷婷丁香综合| 五月综合无码| 五月天色婷婷基地| 九九视频这里只有精品在线播放| 爱久综合| 九九九九大香蕉| av婷婷丁香| 国产偷人爽久久久久久老妇APP| 日日色综合| 99热最新精品| 日本高清综合网五月丁香| 激情五月天婷婷视频| 热久久成人| 噜噜噜噜婷婷五月天| 99操无码视频观看| 丁香五月成人丝袜| 人人操婷婷| 国产黄大片在线观看画质优化| 色9999日韩国产| 91九九| 九九九九综合| 国产精品国产| 亚洲色另类| 熟女激情五月天| 色婷婷久久综合丁香五月| 桔色成人官方网站| www.国产亚洲69ty.久久久久久久久久久久| 秋霞性爱AV| 大香蕉啪啪| 综合激情在线视频| 97久操视频| 综合九九久久| 性爱五月婷| 久久丁香网| 亚洲成人日韩无码精品| 色色三级视频| 日本强伦片中文字幕免费看| 国外亚洲成AV人片在线观看| 中文字幕黄色片| 99热这里只有精| 久久99热这里只有精品| 久久伊人五月天| 久九色| 色噜噜婷婷| 99热婷婷| 欧美婷婷综合| 中文av网站| 开心五月深爱五月| 天天干天天干天天| 99热只有| 九九成人| 最近免费中文字幕大全高清大全1| 99性爱视频| 亚洲亚洲人成综合网络| 91 影音先锋| 日本综合99| 97干在线免费|