欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

VMD-LSTM時序預(yù)測實(shí)戰(zhàn):信號分解與深度學(xué)習(xí)融合方案

VMD-LSTM時序預(yù)測實(shí)戰(zhàn):信號分解與深度學(xué)習(xí)融合方案 簡介本資源是一套基于Python與TensorFlow實(shí)現(xiàn)的VMD-LSTM時序預(yù)測模型代碼包面向機(jī)器學(xué)習(xí)初學(xué)者及時間序列分析實(shí)踐者專為解決非平穩(wěn)、非線性時序數(shù)據(jù)如電力負(fù)荷、氣象、金融等場景的高精度預(yù)測問題而設(shè)計。資源共9個文件含2個核心Python腳本VMD分解與LSTM建模、1個CSV和1個XLSX測試數(shù)據(jù)集、3張關(guān)鍵流程示意圖VMD分解、建模步驟等、2個說明類TXT文檔使用指南與依賴庫清單整體壓縮包僅654KB輕量易部署。代碼全程中文注釋完整支持單/多輸入、單/多步預(yù)測四種模式并內(nèi)置MSE、RMSE、R2、MAE、MAPE五類評估指標(biāo)計算模塊開箱即用用戶可直接替換自有CSV或Excel數(shù)據(jù)完成端到端訓(xùn)練與預(yù)測。1. 項(xiàng)目概述當(dāng)VMD遇上LSTM如何馴服復(fù)雜時序數(shù)據(jù)做時序預(yù)測的朋友尤其是處理金融、能源、氣象這類信號的朋友肯定都遇到過這樣的頭疼事原始數(shù)據(jù)太“臟”了。這里的“臟”不是說數(shù)據(jù)有誤而是指它內(nèi)部混雜了太多東西——長期趨勢、短期波動、季節(jié)性規(guī)律還有各種突發(fā)噪聲全都攪和在一起。你直接拿這樣的數(shù)據(jù)喂給LSTM模型往往學(xué)得很吃力因?yàn)樗瑫r理解這么多不同時間尺度的模式就像讓一個學(xué)生同時學(xué)語文、數(shù)學(xué)、物理還要求他立刻融會貫通效果可想而知。所以這幾年“分解預(yù)測”的兩階段框架火了起來。核心思路很簡單既然原始信號太復(fù)雜那我就先把它拆開拆成幾個相對簡單、有規(guī)律的分量再讓模型比如LSTM去分別學(xué)習(xí)每個分量最后把預(yù)測結(jié)果加起來。這就像把一道復(fù)雜的綜合題拆解成幾個基礎(chǔ)小題逐個擊破。在眾多分解方法里變分模態(tài)分解VMD是我個人非常偏愛的一個。它不像傳統(tǒng)的小波分解或經(jīng)驗(yàn)?zāi)B(tài)分解EMD那樣依賴預(yù)設(shè)基函數(shù)或容易產(chǎn)生模態(tài)混疊VMD通過變分框架自適應(yīng)地確定模態(tài)的中心頻率和帶寬分解出的分量IMF物理意義更清晰邊界效應(yīng)也更可控。這個項(xiàng)目就是要把VMD和LSTM這兩個“利器”結(jié)合起來用Python和TensorFlow搭建一個端到端的時序預(yù)測模型。我把它叫做VMD-LSTM。它的工作流非常直觀第一步用VMD算法把原始時序數(shù)據(jù)分解成K個本征模態(tài)函數(shù)IMF第二步為每一個IMF分量單獨(dú)訓(xùn)練一個LSTM預(yù)測模型第三步將所有IMF分量的預(yù)測結(jié)果相加得到最終的預(yù)測值。為什么非要這么折騰因?yàn)閷?shí)測下來這種“分而治之”的策略在預(yù)測精度和穩(wěn)定性上往往能碾壓直接用原始數(shù)據(jù)訓(xùn)練的單一LSTM模型。接下來我就把自己在多個項(xiàng)目里踩坑、調(diào)參、優(yōu)化后總結(jié)的完整實(shí)現(xiàn)方案和核心經(jīng)驗(yàn)毫無保留地分享給你。2. 核心思路與方案選型為什么是VMDLSTM在動手寫代碼之前我們必須把“為什么”想清楚。市面上分解方法那么多為什么選VMD預(yù)測模型也層出不窮為什么是LSTM這個組合的優(yōu)勢和潛在坑點(diǎn)在哪里2.1 VMD分解的優(yōu)勢與參數(shù)抉擇VMD的核心思想是將信號分解為一系列具有特定稀疏性的本征模態(tài)函數(shù)IMF。其變分問題實(shí)質(zhì)是尋找一組模態(tài)使得每個模態(tài)的估計帶寬之和最小并且所有模態(tài)之和等于原始信號。數(shù)學(xué)上很優(yōu)美但對我們工程師來說更關(guān)心它的幾個實(shí)戰(zhàn)優(yōu)點(diǎn)抗模態(tài)混疊能力強(qiáng)傳統(tǒng)的EMD及其變種EEMD, CEEMDAN容易產(chǎn)生“模態(tài)混疊”即一個IMF里包含多個頻率尺度的成分或者同一尺度的成分分散到多個IMF里。VMD通過預(yù)設(shè)模態(tài)數(shù)K和懲罰因子α能有效分離頻率相近的成分。這對于金融數(shù)據(jù)中常見的突發(fā)波動與趨勢的分離特別有用。邊界效應(yīng)相對可控所有信號分解方法都怕邊界效應(yīng)端點(diǎn)效應(yīng)VMD通過鏡像延拓等方式在算法內(nèi)部進(jìn)行了一定處理相比EMD系列其分解結(jié)果的邊界失真通常更小這對預(yù)測任務(wù)至關(guān)重要因?yàn)槲覀円A(yù)測的就是未來的“邊界”。分量正交性近似VMD分解出的各IMF分量在理論上近似正交這意味著它們攜帶的信息重疊度低。讓LSTM去學(xué)習(xí)這些信息重疊度低的分量效率更高相當(dāng)于給模型提供了更“干凈”的特征。關(guān)鍵參數(shù)解析模態(tài)數(shù) K這是最重要的參數(shù)沒有之一。K太小分解不徹底高頻噪聲可能還殘留在趨勢分量里K太大會產(chǎn)生一些無意義的過分解分量增加計算負(fù)擔(dān)且可能引入噪聲。我的經(jīng)驗(yàn)是對于大多數(shù)金融、負(fù)荷序列K取3到8之間??梢酝ㄟ^觀察頻譜或直接基于經(jīng)驗(yàn)設(shè)置。一個實(shí)用的技巧是先用一個較大的K如10分解然后觀察各分量的中心頻率如果最后幾個分量的中心頻率極低且振幅很小通常就是噪聲可以剔除從而反推合理的K值。懲罰因子 α它控制著每個IMF分量的帶寬。α越大帶寬越小分量越“純”α越小帶寬容忍度越大。通常設(shè)置為2000到3000就能取得不錯效果。在TensorFlow實(shí)現(xiàn)中我們通常直接調(diào)用成熟的vmdpy庫它會提供默認(rèn)值。2.2 LSTM作為預(yù)測器的必然性在時序預(yù)測領(lǐng)域LSTM幾乎成了默認(rèn)選項(xiàng)這是有深刻原因的。相比普通RNNLSTM通過門控機(jī)制遺忘門、輸入門、輸出門解決了長期依賴問題。相比更時髦的TransformerLSTM在中小規(guī)模數(shù)據(jù)集、強(qiáng)自相關(guān)序列上往往表現(xiàn)更穩(wěn)定且訓(xùn)練成本低得多。對于VMD分解后的每個IMF其數(shù)據(jù)特性不同低頻IMF如IMF1代表趨勢項(xiàng)變化緩慢周期長。LSTM需要捕捉其長期緩慢上升或下降的模式。高頻IMF如IMF_K代表噪聲或細(xì)節(jié)波動變化劇烈且可能無明顯規(guī)律。LSTM在這里的作用更像是學(xué)習(xí)其統(tǒng)計特性或短期自相關(guān)。為每個IMF單獨(dú)訓(xùn)練LSTM相當(dāng)于為每個“專業(yè)領(lǐng)域”聘請了一位“專家”這比讓一個“通才”模型去學(xué)習(xí)所有東西要高效。這里的一個關(guān)鍵技巧是不同IMF的LSTM模型其超參數(shù)如時間步長、隱藏層維度可以不同。對于低頻趨勢可能需要更長的時間步長lookback period來捕捉趨勢對于高頻噪聲短時間步長可能就夠了。這為我們優(yōu)化模型性能提供了額外的維度。注意雖然理論上可以為每個IMF定制不同的網(wǎng)絡(luò)結(jié)構(gòu)但在工程實(shí)踐中為了簡化 pipeline我通常先使用相同的LSTM結(jié)構(gòu)如2層LSTM每層64個單元進(jìn)行基線實(shí)驗(yàn)如果發(fā)現(xiàn)某個IMF預(yù)測效果特別差再針對性地調(diào)整其網(wǎng)絡(luò)結(jié)構(gòu)或超參數(shù)。3. 環(huán)境搭建與核心工具鏈工欲善其事必先利其器。一個穩(wěn)定、隔離的Python環(huán)境是項(xiàng)目成功的基石。我強(qiáng)烈建議使用conda或venv創(chuàng)建虛擬環(huán)境避免包版本沖突。3.1 創(chuàng)建并配置Python虛擬環(huán)境# 使用conda推薦尤其對TensorFlow的依賴管理更友好 conda create -n vmd_lstm python3.9 conda activate vmd_lstm # 或者使用venv python -m venv vmd_lstm_env # Windows vmd_lstm_env\Scripts\activate # Linux/Mac source vmd_lstm_env/bin/activate3.2 安裝核心依賴庫以下是requirements.txt文件的內(nèi)容它定義了項(xiàng)目所需的所有庫及其推薦版本。# 核心計算與深度學(xué)習(xí)框架 numpy1.21.0 pandas1.3.0 scikit-learn1.0.0 # 用于數(shù)據(jù)標(biāo)準(zhǔn)化和評估指標(biāo) matplotlib3.5.0 # 繪圖 # 深度學(xué)習(xí)框架 - 重點(diǎn)注意TensorFlow版本 tensorflow2.10.0, 2.15.0 # 2.10至2.14版本在穩(wěn)定性和功能上比較均衡 # 信號處理與VMD分解 vmdpy0.2.0 # 一個純Python實(shí)現(xiàn)的VMD庫易于集成 # 可選用于更高級的優(yōu)化或可視化 scipy1.7.0 seaborn0.11.0使用pip一鍵安裝pip install -r requirements.txt關(guān)于TensorFlow版本的特別提醒 網(wǎng)絡(luò)上很多老教程還停留在TensorFlow 1.x或2.0早期版本。我們使用2.10版本它兼具了穩(wěn)定性和Keras API的完整性。安裝時如果遇到問題可以先嘗試安裝CPU版本pip install tensorflow-cpu進(jìn)行測試。確保安裝成功后在Python中運(yùn)行import tensorflow as tf; print(tf.__version__)驗(yàn)證。3.3 VMD分解庫vmdpy簡介我們選擇vmdpy庫來實(shí)現(xiàn)VMD分解。它接口簡單完全用Python實(shí)現(xiàn)便于理解和調(diào)試。其核心函數(shù)是VMDfrom vmdpy import VMD # alpha: 懲罰因子tau: 時間步長噪聲容忍度 K: 模態(tài)數(shù) DC: 是否包含直流分量 init: 初始化方式 tol: 收斂誤差 u, u_hat, omega VMD(signal, alpha, tau, K, DC, init, tol)u: 分解得到的K個IMF分量形狀為(K, N)N為信號長度。u_hat: 各IMF的頻譜。omega: 各IMF的中心頻率。在我們的預(yù)測pipeline中我們主要使用u即分解后的時域分量。4. 數(shù)據(jù)預(yù)處理與VMD分解實(shí)戰(zhàn)理論說再多不如一行代碼。我們用一個模擬的股票價格序列加入趨勢、季節(jié)性和噪聲來演示整個流程。你可以用自己的數(shù)據(jù)替換。4.1 合成示例數(shù)據(jù)與標(biāo)準(zhǔn)化import numpy as np import pandas as pd from sklearn.preprocessing import MinMaxScaler import matplotlib.pyplot as plt # 1. 生成模擬數(shù)據(jù) np.random.seed(42) n_samples 1000 time np.arange(n_samples) # 趨勢項(xiàng) trend 0.01 * time # 季節(jié)性項(xiàng)多個周期混合 seasonal 5 * np.sin(2 * np.pi * time / 50) 2 * np.sin(2 * np.pi * time / 200) # 噪聲項(xiàng) noise np.random.normal(0, 1, n_samples) # 合成信號 original_signal trend seasonal noise # 2. 數(shù)據(jù)標(biāo)準(zhǔn)化 (非常重要) # LSTM對輸入數(shù)據(jù)的尺度敏感必須標(biāo)準(zhǔn)化。這里使用MinMaxScaler縮放到[0,1]區(qū)間。 scaler MinMaxScaler(feature_range(0, 1)) signal_scaled scaler.fit_transform(original_signal.reshape(-1, 1)).flatten() # 可視化原始信號 plt.figure(figsize(12, 6)) plt.subplot(2, 1, 1) plt.plot(time, original_signal, b, labelOriginal Signal) plt.title(Original Synthetic Signal (Trend Seasonal Noise)) plt.legend() plt.subplot(2, 1, 2) plt.plot(time, signal_scaled, g, labelScaled Signal) plt.title(Min-Max Scaled Signal) plt.legend() plt.tight_layout() plt.show()4.2 執(zhí)行VMD分解并分析結(jié)果現(xiàn)在我們將標(biāo)準(zhǔn)化后的信號輸入VMD進(jìn)行分解。from vmdpy import VMD # 設(shè)置VMD參數(shù) alpha 2000 # 懲罰因子影響帶寬 tau 0. # 噪聲容忍度通常為0 K 5 # 模態(tài)數(shù)根據(jù)信號復(fù)雜程度調(diào)整 DC 0 # 不含直流分量 init 1 # 初始化方式1表示均勻初始化 tol 1e-7 # 收斂誤差 # 執(zhí)行VMD分解 u, u_hat, omega VMD(signal_scaled, alpha, tau, K, DC, init, tol) # u的形狀為(K, n_samples)每一行是一個IMF分量 # 可視化分解結(jié)果 plt.figure(figsize(14, 10)) for i in range(K): plt.subplot(K1, 1, i1) plt.plot(time, u[i], r) plt.ylabel(fIMF {i1}) if i 0: plt.title(VMD Decomposition Results) plt.subplot(K1, 1, K1) plt.plot(time, signal_scaled, b, labelOriginal (Scaled)) plt.plot(time, np.sum(u, axis0), k--, linewidth1.5, labelSum of IMFs) plt.ylabel(Original Sum) plt.legend() plt.xlabel(Time) plt.tight_layout() plt.show() # 驗(yàn)證分解的準(zhǔn)確性計算原始信號與IMF之和的誤差 reconstruction_error np.sum((signal_scaled - np.sum(u, axis0))**2) print(fReconstruction Mean Squared Error: {reconstruction_error:.6e})如果一切順利你將看到原始信號被清晰地分解為K個從低頻到高頻排列的IMF分量。最下面的子圖對比了原始信號和所有IMF分量之和兩者應(yīng)該幾乎重合重構(gòu)誤差極小。這驗(yàn)證了VMD分解的可逆性。實(shí)操心得K的選擇是門藝術(shù)。一個直觀的方法是觀察分解后的IMF。如果最后一個IMF看起來完全是隨機(jī)噪聲無規(guī)律震蕩且振幅很小那么當(dāng)前的K可能是合適的。如果倒數(shù)第二個IMF也像噪聲可以考慮減小K。反之如果某個IMF內(nèi)部明顯包含兩種不同頻率的波動例如既有緩慢波動又有快速抖動則可能是K太小發(fā)生了模態(tài)混疊需要增大K。5. LSTM模型構(gòu)建與單分量預(yù)測分解完成后我們得到了K個IMF分量u[0], u[1], ..., u[K-1]。接下來要為每一個分量構(gòu)建并訓(xùn)練一個LSTM預(yù)測模型。5.1 構(gòu)建監(jiān)督學(xué)習(xí)數(shù)據(jù)集LSTM是監(jiān)督學(xué)習(xí)模型我們需要將時間序列數(shù)據(jù)轉(zhuǎn)化為(樣本, 時間步長, 特征)格式的樣本。這里我們使用滑動窗口方法。def create_dataset(data, time_steps1): 將時間序列數(shù)據(jù)轉(zhuǎn)換為監(jiān)督學(xué)習(xí)格式。 Args: data: 一維時間序列數(shù)組。 time_steps: 用過去多少個時間點(diǎn)預(yù)測下一個點(diǎn)。 Returns: X, y: 特征矩陣和目標(biāo)向量。 X, y [], [] for i in range(len(data) - time_steps): X.append(data[i:(i time_steps)]) y.append(data[i time_steps]) return np.array(X), np.array(y) # 設(shè)置時間步長回溯窗口 TIME_STEPS 20 # 為每個IMF分量創(chuàng)建數(shù)據(jù)集 imf_datasets [] for i in range(K): imf u[i] X, y create_dataset(imf, TIME_STEPS) # 重塑X以符合LSTM輸入要求 [samples, time_steps, features] X X.reshape((X.shape[0], TIME_STEPS, 1)) imf_datasets.append((X, y)) print(fIMF {i1}: X shape{X.shape}, y shape{y.shape})5.2 定義并編譯LSTM模型我們將使用TensorFlow Keras的Sequential API來構(gòu)建一個簡單的雙層LSTM模型。為每個IMF創(chuàng)建一個獨(dú)立的模型實(shí)例。import tensorflow as tf from tensorflow.keras.models import Sequential from tensorflow.keras.layers import LSTM, Dense, Dropout from tensorflow.keras.callbacks import EarlyStopping def build_lstm_model(time_steps, n_features): 構(gòu)建一個雙層LSTM模型。 model Sequential([ # 第一層LSTM設(shè)置return_sequencesTrue以連接下一層LSTM LSTM(units64, activationrelu, return_sequencesTrue, input_shape(time_steps, n_features)), Dropout(0.2), # 丟棄20%的單元防止過擬合 # 第二層LSTM LSTM(units32, activationrelu, return_sequencesFalse), Dropout(0.2), # 輸出層預(yù)測一個值 Dense(units1) ]) # 編譯模型 model.compile(optimizeradam, lossmse, metrics[mae]) return model # 為每個IMF創(chuàng)建一個模型 lstm_models [] for i in range(K): print(f\nBuilding model for IMF {i1}...) model build_lstm_model(TIME_STEPS, 1) lstm_models.append(model) model.summary() # 打印第一個模型的結(jié)構(gòu)即可5.3 訓(xùn)練單個IMF的預(yù)測模型我們將數(shù)據(jù)集劃分為訓(xùn)練集和測試集注意時序數(shù)據(jù)不能隨機(jī)打亂然后訓(xùn)練模型。# 劃分訓(xùn)練集和測試集例如前80%訓(xùn)練后20%測試 train_ratio 0.8 predictions [] # 用于存儲每個IMF在測試集上的預(yù)測結(jié)果 true_values [] # 用于存儲每個IMF在測試集上的真實(shí)值 for i in range(K): X, y imf_datasets[i] split_idx int(len(X) * train_ratio) X_train, X_test X[:split_idx], X[split_idx:] y_train, y_test y[:split_idx], y[split_idx:] print(f\n--- Training LSTM for IMF {i1} ---) print(fTraining samples: {X_train.shape[0]}, Testing samples: {X_test.shape[0]}) # 定義早?;卣{(diào)防止過擬合 early_stop EarlyStopping(monitorval_loss, patience10, restore_best_weightsTrue) # 訓(xùn)練模型 history lstm_models[i].fit( X_train, y_train, epochs100, # 可以設(shè)置得大一些靠早停來終止 batch_size32, validation_split0.1, # 從訓(xùn)練集中再劃分10%作為驗(yàn)證集 callbacks[early_stop], verbose1 # 設(shè)置為1顯示進(jìn)度條 ) # 在測試集上進(jìn)行預(yù)測 y_pred lstm_models[i].predict(X_test).flatten() predictions.append(y_pred) true_values.append(y_test) # 計算該IMF的預(yù)測誤差 mse np.mean((y_test - y_pred) ** 2) mae np.mean(np.abs(y_test - y_pred)) print(fIMF {i1} Test MSE: {mse:.6f}, MAE: {mae:.6f}) # 可視化該IMF的訓(xùn)練過程損失曲線 plt.figure() plt.plot(history.history[loss], labelTrain Loss) plt.plot(history.history[val_loss], labelValidation Loss) plt.title(fTraining History for IMF {i1}) plt.xlabel(Epoch) plt.ylabel(Loss (MSE)) plt.legend() plt.show()注意事項(xiàng)數(shù)據(jù)泄露絕對不能用未來的數(shù)據(jù)預(yù)測過去。劃分訓(xùn)練/測試集時必須嚴(yán)格按照時間順序。X_test和y_test必須來自X和y的尾部。早停EarlyStopping這是防止LSTM過擬合的利器。它監(jiān)控驗(yàn)證集損失如果連續(xù)多個epochpatience損失不再下降就停止訓(xùn)練并恢復(fù)到驗(yàn)證損失最低的epoch的權(quán)重。批處理Batch Size對于較長的序列較小的batch size如32通常有助于模型收斂。但太小會拖慢訓(xùn)練速度。IMF特性與模型差異你可能發(fā)現(xiàn)對高頻噪聲IMF如IMF5的預(yù)測誤差MSE遠(yuǎn)大于低頻趨勢IMF。這是正常的也是VMD-LSTM價值的體現(xiàn)。噪聲本身難以預(yù)測但把它分離出來后它就不會再去干擾趨勢項(xiàng)的預(yù)測了。我們最終看的是所有IMF預(yù)測加總后對原始信號的預(yù)測精度。6. 預(yù)測結(jié)果集成與最終評估各個IMF的LSTM模型訓(xùn)練好后我們分別對測試集時間段進(jìn)行預(yù)測然后將K個預(yù)測結(jié)果相加得到對原始標(biāo)準(zhǔn)化信號的最終預(yù)測。最后別忘了將預(yù)測結(jié)果逆標(biāo)準(zhǔn)化轉(zhuǎn)換回原始量綱進(jìn)行評估。6.1 集成預(yù)測與逆標(biāo)準(zhǔn)化# 1. 集成所有IMF的預(yù)測結(jié)果 # 假設(shè) predictions 列表里已經(jīng)存儲了每個IMF在測試集上的預(yù)測序列 # 每個預(yù)測序列的長度應(yīng)該相同都等于測試集樣本數(shù) final_pred_scaled np.sum(predictions, axis0) # 按元素相加 # 2. 獲取對應(yīng)的真實(shí)值原始標(biāo)準(zhǔn)化信號在測試集部分 # 我們需要從原始標(biāo)準(zhǔn)化信號中提取出與測試集對應(yīng)的部分 # 首先找到原始信號中對應(yīng)測試集起始點(diǎn)的索引 test_start_idx int(len(signal_scaled) * train_ratio) TIME_STEPS # 加上TIME_STEPS是因?yàn)閯?chuàng)建數(shù)據(jù)集時消耗了前TIME_STEPS個點(diǎn) true_values_scaled signal_scaled[test_start_idx: test_start_idx len(final_pred_scaled)] # 3. 將標(biāo)準(zhǔn)化后的預(yù)測值和真實(shí)值逆變換回原始尺度 # 注意scaler期望輸入是二維數(shù)組 (n_samples, n_features) final_pred scaler.inverse_transform(final_pred_scaled.reshape(-1, 1)).flatten() true_values_original scaler.inverse_transform(true_values_scaled.reshape(-1, 1)).flatten() # 4. 計算最終預(yù)測誤差 from sklearn.metrics import mean_squared_error, mean_absolute_error, r2_score final_mse mean_squared_error(true_values_original, final_pred) final_mae mean_absolute_error(true_values_original, final_pred) final_r2 r2_score(true_values_original, final_pred) print(\n *50) print(FINAL VMD-LSTM MODEL PERFORMANCE) print(*50) print(fMean Squared Error (MSE): {final_mse:.6f}) print(fMean Absolute Error (MAE): {final_mae:.6f}) print(fR-squared Score (R2): {final_r2:.6f})6.2 可視化對比與效果分析數(shù)字指標(biāo)很重要但圖表更能直觀展示預(yù)測效果。# 準(zhǔn)備時間軸測試集部分 test_time time[test_start_idx: test_start_idx len(final_pred)] plt.figure(figsize(15, 10)) # 子圖1原始信號與最終預(yù)測信號對比 plt.subplot(3, 1, 1) plt.plot(time, original_signal, b-, alpha0.7, labelOriginal Signal (Full)) plt.plot(test_time, true_values_original, g-, linewidth2, labelTrue Values (Test Set)) plt.plot(test_time, final_pred, r--, linewidth2, labelVMD-LSTM Prediction) plt.fill_between(test_time, true_values_original, final_pred, colorgray, alpha0.2, labelPrediction Error) plt.title(Original Signal vs. VMD-LSTM Prediction (Test Set)) plt.xlabel(Time) plt.ylabel(Value) plt.legend() plt.grid(True, alpha0.3) # 子圖2預(yù)測誤差分布 pred_error true_values_original - final_pred plt.subplot(3, 1, 2) plt.hist(pred_error, bins50, edgecolorblack, alpha0.7) plt.axvline(x0, colorr, linestyle--, linewidth1) plt.title(Distribution of Prediction Errors) plt.xlabel(Error (True - Predicted)) plt.ylabel(Frequency) plt.grid(True, alpha0.3) # 子圖3各IMF分量預(yù)測結(jié)果可選展示前3個主要分量 plt.subplot(3, 1, 3) for i in range(min(3, K)): # 只畫前3個分量 # 同樣需要逆標(biāo)準(zhǔn)化每個IMF的預(yù)測注意這里每個IMF是獨(dú)立訓(xùn)練的其數(shù)據(jù)尺度是[0,1]內(nèi)的相對值 # 為了在同一量綱下對比我們展示其標(biāo)準(zhǔn)化后的預(yù)測值 plt.plot(test_time, predictions[i], labelfPredicted IMF {i1}, linestyle--) plt.title(Prediction of Individual IMFs (First 3, Scaled)) plt.xlabel(Time) plt.ylabel(Scaled Value) plt.legend() plt.grid(True, alpha0.3) plt.tight_layout() plt.show()第一張圖是核心它展示了模型在測試集即模型從未見過的未來數(shù)據(jù)上的預(yù)測能力。紅色虛線應(yīng)該緊密跟隨綠色實(shí)線。第二張誤差分布圖理想情況下應(yīng)該是以0為中心的正態(tài)分布說明誤差是隨機(jī)的沒有系統(tǒng)性偏差。第三張圖幫助你理解每個分量是如何被預(yù)測的。7. 進(jìn)階優(yōu)化與關(guān)鍵問題排查一個基礎(chǔ)的VMD-LSTM pipeline已經(jīng)搭建完成。但要讓它真正在復(fù)雜數(shù)據(jù)上表現(xiàn)出色還需要進(jìn)行大量調(diào)優(yōu)和問題排查。7.1 超參數(shù)調(diào)優(yōu)策略模型的性能很大程度上取決于超參數(shù)。手動調(diào)參效率低我們可以采用系統(tǒng)性的方法。1. VMD參數(shù)調(diào)優(yōu)模態(tài)數(shù) K這是調(diào)優(yōu)的重點(diǎn)??梢試L試一個范圍如3到10然后使用一些準(zhǔn)則來判斷觀察法如前述看分解出的IMF是否物理意義清晰。中心頻率法檢查omega中心頻率確保各分量頻率分布合理沒有兩個分量頻率過于接近。重構(gòu)誤差確保重構(gòu)誤差足夠小如小于1e-6。最終預(yù)測指標(biāo)驅(qū)動最實(shí)在的方法用驗(yàn)證集評估不同K值下最終集成的預(yù)測精度如MSE選擇效果最好的K。懲罰因子 α通常與信號采樣頻率有關(guān)。默認(rèn)值2000適用于大多數(shù)情況。如果發(fā)現(xiàn)分解出的高頻分量過于“平滑”或低頻分量包含太多高頻細(xì)節(jié)可以適當(dāng)增大或減小α進(jìn)行微調(diào)。2. LSTM模型參數(shù)調(diào)優(yōu)時間步長 (TIME_STEPS)即用過去多少期的數(shù)據(jù)預(yù)測下一期。對于趨勢項(xiàng)低頻IMF可能需要更長的步長如50-100對于噪聲項(xiàng)高頻IMF短步長如10-20可能更合適??梢葬槍Σ煌琁MF設(shè)置不同的步長。網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)、每層神經(jīng)元數(shù)量??梢詮暮唵蔚慕Y(jié)構(gòu)如2層每層32/64開始如果欠擬合訓(xùn)練集和驗(yàn)證集誤差都高增加層數(shù)或單元數(shù)如果過擬合訓(xùn)練集誤差低驗(yàn)證集誤差高則減少單元數(shù)、增加Dropout率或使用L2正則化。Dropout率防止過擬合的有效手段通常在0.2到0.5之間。學(xué)習(xí)率Adam優(yōu)化器的默認(rèn)學(xué)習(xí)率通常是0.001如果模型收斂慢或不穩(wěn)定可以嘗試使用tf.keras.optimizers.schedules實(shí)現(xiàn)學(xué)習(xí)率衰減。自動化調(diào)參工具對于LSTM部分可以使用KerasTuner或scikit-learn的GridSearchCV配合KerasRegressor包裝器進(jìn)行超參數(shù)搜索。但要注意由于VMD-LSTM是兩階段模型自動化調(diào)參的計算成本會非常高。7.2 常見問題與解決方案實(shí)錄以下是我在多個項(xiàng)目中遇到的典型問題及解決方法問題1模型預(yù)測結(jié)果是一條直線或常數(shù)??赡茉?數(shù)據(jù)未標(biāo)準(zhǔn)化/歸一化。LSTM內(nèi)部使用tanh、sigmoid等激活函數(shù)輸入數(shù)據(jù)尺度過大會導(dǎo)致梯度飽和模型無法學(xué)習(xí)。解決務(wù)必使用MinMaxScaler或StandardScaler??赡茉?學(xué)習(xí)率太高。導(dǎo)致優(yōu)化過程在最優(yōu)解附近震蕩甚至發(fā)散。解決降低學(xué)習(xí)率如從0.001降到0.0001或使用學(xué)習(xí)率衰減。可能原因3網(wǎng)絡(luò)結(jié)構(gòu)太簡單或太深梯度消失。解決調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)嘗試使用更少的層數(shù)或使用RNN的變種如GRU門控循環(huán)單元它有時比LSTM更易訓(xùn)練。問題2驗(yàn)證集損失震蕩劇烈或早期就停止下降早停觸發(fā)過早??赡茉蚺笮atch Size不合適。小批量會產(chǎn)生有噪聲的梯度導(dǎo)致?lián)p失震蕩。解決嘗試增大batch size如從32增加到64或128。同時可以適當(dāng)增加EarlyStopping的patience參數(shù)給模型更多“耐心”。問題3對高頻IMF噪聲的預(yù)測誤差極大拉低了整體R2分?jǐn)?shù)。分析這是正?,F(xiàn)象。高頻噪聲本質(zhì)上是不可預(yù)測的隨機(jī)部分。VMD-LSTM的優(yōu)勢在于將這部分分離避免它污染其他可預(yù)測分量的學(xué)習(xí)。解決不要試圖完美預(yù)測噪聲??梢試L試兩種策略忽略法在集成預(yù)測時完全不使用對最高頻1-2個IMF被判定為純噪聲的預(yù)測或者用其歷史均值代替預(yù)測值。平滑法對高頻IMF的預(yù)測結(jié)果進(jìn)行簡單的移動平均或低通濾波平滑掉不合理的極端預(yù)測值。問題4VMD分解耗時過長尤其是數(shù)據(jù)序列很長時。分析VMD算法的計算復(fù)雜度較高。解決降采樣如果原始數(shù)據(jù)頻率很高如秒級且預(yù)測目標(biāo)為長期趨勢可以考慮先對數(shù)據(jù)進(jìn)行適當(dāng)?shù)慕挡蓸?。分段處理對于超長序列可以將其分成重疊的段分別進(jìn)行VMD分解和預(yù)測最后再拼接結(jié)果需小心處理邊界。尋求更快的實(shí)現(xiàn)vmdpy是純Python實(shí)現(xiàn)??梢詫ふ一贜umPy向量化優(yōu)化更好的庫或者用PyTorch實(shí)現(xiàn)VMD以利用GPU加速如果存在這樣的實(shí)現(xiàn)。問題5在測試集上預(yù)測未來多步多期時效果差。分析我們目前實(shí)現(xiàn)的是“單步預(yù)測”即用過去N點(diǎn)預(yù)測下一點(diǎn)。要預(yù)測未來M步有兩種策略遞歸預(yù)測 (Recursive)用模型預(yù)測出t1時刻的值然后將這個預(yù)測值作為輸入的一部分再去預(yù)測t2時刻如此遞歸進(jìn)行。缺點(diǎn)是誤差會累積。直接多步預(yù)測 (Direct)訓(xùn)練M個獨(dú)立的模型每個模型專門預(yù)測未來第m步。計算成本高但避免了誤差累積。解決對于VMD-LSTM可以對每個IMF分量采用遞歸預(yù)測。但更穩(wěn)健的方法是將多步預(yù)測問題轉(zhuǎn)化為多變量單步預(yù)測問題。即我們不再預(yù)測一個值而是預(yù)測一個向量未來M個時間點(diǎn)的值。這需要修改LSTM模型的輸出層為Dense(M)并相應(yīng)調(diào)整標(biāo)簽y的格式。8. 項(xiàng)目總結(jié)與擴(kuò)展方向走到這一步一個完整的、可運(yùn)行的VMD-LSTM時序預(yù)測模型就已經(jīng)在你手中了?;仡櫿麄€流程其核心優(yōu)勢在于通過VMD這一先進(jìn)的信號處理技術(shù)將非平穩(wěn)、非線性的復(fù)雜時序數(shù)據(jù)“解耦”成一系列相對平穩(wěn)、規(guī)律性更強(qiáng)的子序列極大降低了LSTM模型的學(xué)習(xí)難度從而在金融價格預(yù)測、電力負(fù)荷預(yù)測、氣象預(yù)報等領(lǐng)域展現(xiàn)出比單一LSTM模型更優(yōu)的精度和魯棒性。我個人在實(shí)際操作中的體會是VMD-LSTM的成功七分靠分解三分靠預(yù)測?;〞r間理解你的數(shù)據(jù)通過頻譜分析、反復(fù)試驗(yàn)找到最合適的VMD參數(shù)尤其是K往往比盲目調(diào)整LSTM的網(wǎng)絡(luò)結(jié)構(gòu)帶來更大的性能提升。把數(shù)據(jù)“洗干凈”了哪怕用一個簡單的LSTM模型效果也不會差。這個框架還有很大的擴(kuò)展空間混合模型不必拘泥于LSTM。可以對不同IMF嘗試不同的預(yù)測器。例如對趨勢項(xiàng)使用線性回歸或ARIMA可能更簡單有效對周期性強(qiáng)的分量可以使用季節(jié)性ARIMA或傅里葉回歸對殘差噪聲可以使用輕量級模型甚至直接置零。這種“分而治之因地制宜”的策略往往能取得最佳效果。特征工程在將每個IMF輸入LSTM之前可以為其計算一些額外的特征如移動平均、波動率、與原始序列的相關(guān)性等作為LSTM的額外輸入通道input_shape(TIME_STEPS, n_features)中的n_features可以大于1。在線學(xué)習(xí)與更新對于流式數(shù)據(jù)可以定期用新數(shù)據(jù)重新進(jìn)行VMD分解和模型微調(diào)fine-tuning使模型能夠適應(yīng)數(shù)據(jù)分布的緩慢變化。不確定性量化目前的模型給出的是點(diǎn)預(yù)測??梢砸胴惾~斯神經(jīng)網(wǎng)絡(luò)或使用分位數(shù)回歸為預(yù)測結(jié)果提供置信區(qū)間這在風(fēng)險敏感的領(lǐng)域如金融至關(guān)重要。最后再分享一個保存與部署模型的小技巧訓(xùn)練好所有IMF的LSTM模型后務(wù)必將它們以及VMD的參數(shù)K, alpha、數(shù)據(jù)標(biāo)準(zhǔn)化器scaler一起保存下來。部署時新的數(shù)據(jù)需要先經(jīng)過相同的scaler進(jìn)行標(biāo)準(zhǔn)化然后用相同的VMD參數(shù)進(jìn)行分解最后用對應(yīng)的模型進(jìn)行預(yù)測和集成。這個pipeline的穩(wěn)定性是工程應(yīng)用的關(guān)鍵。你可以使用tf.keras.models.save_model和pickle保存scaler來完成這項(xiàng)工作。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月激情小说| 思思99热在线| 激情五月天啪啪| 丁香五月综合激情性爱 | 久久综合丁香| 精品欧美一区二区三区久久久| 欧美日韩成人在线| 五月香婷婷| 九九AV| 99操九九网| 夜夜爱网站| 丁香五月天狠狠| 五月丁香婷色| 青青热久久综合| 99操久久| 99热这里有精品24| 天天久| 99色在线| www.99视频| 久久三级视频| 91丨九色丨熟女高潮| 五月婷婷综合网| 亚洲视频另类| 淫视馆aV二区一区| 99这里有精品| 丁香婷婷视频| 黄色AAAAA| 狠狠肏综合网| 亚洲综合在线视频| 伊人热婷婷| 丁香五月天堂网| 大香蕉75线| 日本成人内射| 9久热在线视频| 亚洲网综合在线| 嫩BBB槡BBBB搡BBBB| 六月丁香五月天| 亚洲五月天婷婷| 色婷婷影院| 婷婷五月婷婷| 色色亚洲| 曰本久久女| 亚洲精品又粗又大又爽A片| 精品久久艹| 思思热在线播放| 激情网 五月天| 九色视频九色九色91jiuseshipin| 色婷婷五月在线| 天天综合网色欲香| 色色色9 9 9| 操碰99| 亚洲第一色色色| 五月激情婷婷播播网| 天天情色五月天| 色偷偷综合| 婷婷五月成人| 午夜九九九九九九| 狠狠香婷婷五月| 丁香五月婷婷啪啪视频| 9999热在线免费观看| 日日躁夜夜躁狠狠久久AV| 人人播| 九九热在线观看视频| 人人草人人视| 俺去也五月天| 色综合视频| 婷婷色中文字幕| 综合色激情| 另类五月激情| www九九热| 亚洲 欧洲 国产 伦综合| 日韩色色网| 日日干日日| 国产内射婷婷| 亚洲VA欧美VA| 97久久草草超级碰碰碰| 亚洲综合五月天婷婷| 3p久久| 五月开心激情网| 久久网站观看免费欧洲国产| 五月天婷婷一起草| 超碰精品在线| 五月婷啪啪| VA色婷婷| 啪啪操超碰| 激情小说视频图片网| 夜夜做天天爽| 免费看欧美成人A片无码| 久9热在线免费观看| 操人久久| 婷婷五月丁香久久| 亚州AV超碰人人操| 色婷婷香蕉| 婷婷十月丁香| 探花搜索结果 - 黄上黄| 久久婷婷五月天激情| www.五月天婷婷| 91欧美| 婷婷丁香熟妇综合网| 婷婷97C| 26uuu另类亚洲欧美日本一| 天天搽天天射| 成人.在线日韩| 婷婷久久五月天中文字幕在线观看| 色99网| 婷婷五月丁香青青草在线| 九九热最新| 色色色婷婷五月| 99黄色在线视频精品熟女| 天天爽天天草| 深爱激情五月婷婷| 天天色天天色天天色天天色天天色| 91综合在线观看| 五月丁花色综合网| 日本三级毛片| 色色射| 超碰在线99| WWW.久久.COM| 激情四射网| 深爱五月激情网| 中文AⅤ大全| 久大香蕉| Va另类视频| 色碰干| 国产伦亲子伦亲子视频观看| 日日狠狠久久偷偷四色综合免费 | 日本成人小说婷婷六月| 啊v视频在线观看| 丁香五月天信号| 久久伦乱| 婷婷综合六| 伊人大蕉香| 色情成人五月天| AV中文字幕夜夜操b天天摸bb| 俺去也在线www色官网| 亚洲人成色A777777在线观看| 九九草草逼| 久久九九免费视频| 日日夜夜小色哥| 天天综合网~91综合网| 一本色道久久88加勒比| 另类专区在线观看| 五月丁香成人视频| 97碰碰久久| 国产成人网址| 色婷婷先锋| 五月好婷婷| 狠狠狠狠狠狠草| 精品久久99| 玖玖婷婷五月| 无码动漫AV| 婷婷五月成人社区| 99人妻碰碰久久久禁片| 日本狠狠色| 色婷婷视频在线| 欧美久久婷婷| 成人五月天视频播放| 亚洲色情一区二区三区四区| 99热黄| 欧美色99| 九九精品视频在线6| 九月激情网| 欧美私人家庭影院| 啪啪色区| 久久99精品久久久久久三级| 五月婷婷亚洲色视频| 樱花99视频| 五月丁香久久呀| 五月天色色色| 99热在线观看| 日日夜夜久| 久热伊人在91| 激情五月婷婷五月| 无月播播激情在线观看视频| 9l视频自拍九色9l视频在线观看| 男女99免费视频| 人妻激情在线| 日本色婷婷久久99精品91| A片试看120分钟做受视频红杏 | 综合久久综合久久| 激情五月亚洲综合网| 婷婷五月天VI| 婷婷色操| 99爱免费在线视频| 中文字幕视频在线播放| 黄色AAAA韩国guochansanji| 五月天综合婷婷| 久久这里只有精品07 | 婷婷激情五月天综合| 天天日天天久久青青| 丁香婷婷视频在线| 99久久国产宗和精品1上映| 91夫妻网站九色| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 久久久久亚洲AV无码网影音先锋| 激情久久久久久| 日本熟妇乱妇熟色A片蜜桃| 99re最新地址| 丁香六月婷婷高清| 婷婷五月天AV在线| 色五月婷婷91在线| 日本4399天堂中出| 丁香五月天综合| 国产乱妇乱子伦| 五月丁香六月婷| 大香蕉婷婷婷| 中文成人在线| 开心五月激情网| 26UUU精品一区二区| 97色碰| 色五月色开心开心五月| 国产精产国品一二三在观看| 天天舔天天爽| 亚洲综合99| 99热手机在线精品| 91婷婷五月天嫩女| 亚城区在线| caobi四区| www、丁香五月天| 久99久视频精品| 久久a热| 九九无码| 91久久九久久九久久九久久九久久| 热久久91| 99久在线观看| 色情五月婷| 日本丰满久久| 国内精品免费一区二区2009| 午夜微拍福利| 熟女国产在线一区二区三区四区| 五月天婷婷基地| 任你搞网站| 亚洲欧美一区二区三区四区爱爱动图| 香蕉综合在线| 色婷婷婷av| 99在线资源| 伊人五月天久久| 亚洲色99综合天堂| 热99色| 无码人妻AV久久久一区二区三区| 婷婷中文字幕| 操九色| 月婷婷婷婷五月| 色色综合网站| 五月激情在线| 国产精品A成V人在线播放| 激情综合网五月| 香蕉久久国产AV一区二区| 69色婷婷| 欧美色婷婷| 可以免费观看的av| 亚洲V国产V欧美V久久久久久| 五月天久久网站| 久久国产色| www,26uuu,c0m,色情| 婷婷色情小说| 五月丁香婷婷导航视频| www.色99| 国外亚洲成AV人片在线观看| 色八戒操婷婷| 日本 欧美在线| 97碰超级人人看| 激情床戏| 天天干狠狠操| 开心深爱激情网| 婷婷丁香六月天| 色五月天丁香婷婷| 五月天激情国产综合婷婷婷| 影音先锋一区二区资源站| 九色99视频| 色色丁香色五月| 成人网页在线观看| 丁香五月1页| 天天草天天爱| 天天综合色| 中文字幕婷婷| 5月丁香综合图区| 色色97丁香婷婷五月天| 久久色情| 久久久久人妻中文| 亚洲99综合| 97色色视频| 99久热视频在线| 最新日韩久热免费视频看看| 日日噜狠狠色综| 亚洲性图一区二区| 色婷婷丁香五月天| 俺去婷婷 丁香| 婷婷六月视频| 五月天欧美激情| EEUSS鲁片一区二区三区| 综合久| 曰韩少妇内射免费播放| 亚洲免费观看高清完整版AV线| 色综合久久8| 色五月激情| 婷婷久久免费看| 综合噜噜| 亚洲午夜成人av电影网| 天天肏视频| 色综合久久伊伊婷婷五月| 狠狠操狠狠| 九九亚洲视频| 色狠狠999综合| 五月花成人网| 五月天综合久久| 婷婷五月综合基地| 天天在线久久综合| 欧美婷婷综合| 大香蕉婷婷久久| 天天射综合网天天插| 操九色| 夜夜嗨一区二区三区直播内容| 久婷狼色诱惑在线| 99这里有精品免费| 成人视频一区| 在线观看欧美| 日本丁香五月| 亚洲精品444久久久久久| 五月欧美色播| 色婷婷综合亚洲| 亚洲mm免费| 久久五月天大美女| www.99热| 色婷婷六月性| 伊人五月天在线| 成人AV网站在线| 丁香五月激情六月| 亚洲精品白浆高清久久久久久| 97丁香视频| www.minyis.com【JT】实力收量可预付TG@LXSPSW8 | 五月丁香婷婷久久| 婷婷激情综合| 五月天国产成人| 超碰在线中文字幕| 婷婷丁香五月91| 五月天色视频| 免费在线观看av网站| 欧美综合婷婷欧美综| 级情九色| 亚洲另类在线观看| 开心激情站| 9l视频自拍九色9l视频自拍九色9l社区 | 99热最新网址| 91在线看片| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | a免费在线| 丁香五月婷婷色综合基地| 五月婷婷六月丁香在线| av 一区三区四区| 久久精品系列| 婷婷午夜精品久久久| 婷婷综合成人| 99九色视频在线观看| 五月丁香激| 五月丁香激情综合啪啪| 久久久91| 26uuu美女三级视频| 五月激情影视| 全国最新疫情| 九九美女视频| 91超碰人人操| 99热这是里只有精品| 97色色视频| yazhouzonghesese| 丁香六月欧美| 久久多色| 2025最新亚洲激情在线| 亚洲色99综合天堂| 久久最新色| 影音先锋一区| 国产精品99久久久久久久女警| 97视频.干com| 欧洲色色| 亚洲色模骚货| 人人97碰| 天天碰夜夜操| 六月婷婷色色色| 黄色成人网站在线播放| 久久精品99国产精品日本| 新激情五月开心五月婷婷五月丁香五月| www.超碰| 91精品国产综合久久密臀| www.婷婷激情网.com| 免费视频无码| www.99热最新视频8| 91久久精品国产91性色TV| 日本va欧美va欧美va| 五月丁香九九| 内射在线CHINESE| 色女伊人| 欧美欧盟性爱网| 成人国产欧美大片一区| 色爱综合网| 天天色情站| 婷婷综合玖玖五月| 精品久热| 伊人五月天| 深爱激情中文五月天av| 97sese婷婷| 99热99色| 中文AV网| 色五月婷婷视频| 91丁香| 99性爱视频| 五月婷婷六月开心| 欧洲精品欧洲情| 婷婷久久五月天中文字幕在线观看| 99久在线精品99re8| 日本一级一级一级一级| 在线综合91| 五月婷婷婷| 思思久久99热只有频精品66| WWW.夜夜操.com| 久9草在线观看视频| 亚洲九九夜夜| 丁香五月婷婷AV在线| 国产永久一二一起草| 91综合色噜噜| 五月婷视频| 九月婷婷| 激情床戏| 亚洲激情五月| 天天日日夜夜爽。| 六月丁香五月亭亭| www久久99com| 丁香五月性| 五月天婷婷亚洲| 久久久av久av久片一区二区| 五月天激情影院| 丁香五月激情啪| 天天操天天操天天操天天操天天操天天操 | 五月丁香六月综合基地| 久久久精久人妻| 久思思热视频在线观看| 色欲婷婷五月天| 99久免费视频| 大香伊人婷婷影院| 激情淫乱男女| 野外99热| 热热99爱爱| 91碰免费视频| 热久免费视频9| 亚洲视频在线网站| 婷婷五月天性色| 99在线精品视频| 九九热这里只有精品6| 538任你爽| 五月婷婷激情| 中文字幕在线免费| 色色五月婷婷| 五月丁香六月婷综合成人综合| 婷婷六月久久| 丁香五月婷婷乱| 色五月之第四色| 思思久久99热| 五月天激情偷拍| 天天天久久久| 激情5月婷婷狠狠干| 五月婷婷深深的爱| 另类婷婷丁香| 亚洲色色色色| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 欧美激情 日韩无码 婷婷 五月天 久久婷婷丁香五月一二三 | 亚洲另类在线观看| 婷婷丁香五月天激情| 五月丁香婷婷成人网| 综合激情婷婷| 欧美搡BBBBB摔BBBBB| 亚洲亚洲人成综合网络| 国产偷人爽久久久久久老妇APP| 91操片| 久久色情| 国产做爰视频免费播放| 五月天大香焦| 天天爽,夜夜爽| 婷婷丁香成人五月天| 五月婷综合| 天天爱综合网| 九九热这里只有精品6| 婷婷五月天AV| www色哟哟| 1024婷婷综合久久五月天| www色婷婷| 欧美又粗又大一区二区在线观看| 日韩成人综合网| 玖玖99福利| 26uuu亚洲欧美| 99精品亚洲| 大香蕉五月天婷婷| 免费无码毛片一区二区A片| 日韩青青| 久久9精品| 久色成人| 色色五月婷婷久久| 国产偷人爽久久久久久老妇APP| www久| 亚洲欧洲美女在线观| 久久九九经典| 深爱五月激情网| 色婷婷激情五月天| 五月婷婷成人| 久久狠婷婷| 开心久久xxx色| 天天做天天爱综合| 五月天色婷婷综合| 婷婷第一页| 天天激情5月天亚洲| 五月丁香色婷婷综合| 91九色精品| 国产精品第一国产精品| 激情四射网| 丁香六月视频| www.五月.com| 六月丁香天堂| 五月丁香六月综合激情网| 九九性爱网| 国产真实乱了老女人视频| 久久99精品久久久久久三级| 五月天激情综合10p| 亚洲黄色精品| 日本在线观看91| 99'无码| 亚洲99在线| AV在线不卡播放| 色色五月天激情| 激情五月丁香五月| 激情WWW| 91丨九色丨熟女|新版| 婷婷影院A成人| 色五月婷婷中文字幕在线观看 | 99操逼| 五月花丁香婷婷| 99在线精品视频| 婷婷午夜综合| 激情影院丁香五月| 日韩三级视频一区二区| 久久久区区一久久久久久| 99亚州综合精品成人网| 亚洲综合视频在线| 99色| 色婷婷先锋| 婷婷五月花丁香| 日本猛少妇色XXXXX猛叫| 丁香六月婷| 97热91| 激情五月婷婷丁香六月| 高清不卡一区| 综合另类视频| 九九色图| 草草操操| 九九久久99| 96精品久久久久久久久| 黄色五月婷婷| 91Chinese在线| 久久五月激情| 久99| 国产激情综合五月久久| 免费视频舔| 亭亭五月丁香五月天激情| 亚洲、欧美、国产另类笫二区| 日韩激情婷婷五月天| 亚洲操B| 成人做爰A片免费看网站找不到了| 色五月六月婷婷| 九九在线热九九在线热99热| 亚洲综合婷婷五月| 97在线天堂| 婷婷五月天开心激情网| 欧美一线视频| 九九青青草成人| 国产亚洲色婷婷久久99精品91| 99精品22| 激情图片婷婷丁香五月| 超碰免费99| 一区二区成人电影| 97人人干| 国产资源91在线| a免费在线| se影音资源在线观看| 五月丁香久久丝袜啪啪| 色婷网| 激情综合五月激情XXXX| 91夫妻视频| 五月婷婷第四色| 日本在线99| 任你草| 丁香五月婷婷丫| 99视频免费播放| 久久久久人妻网址| 亚洲sesesese| 日本婷婷激情四射中文字幕在线观看| 九九热10| 九九久99免费视频| 色色色色五月天| 广东99色在线| 五月激情综合性爱| 五月天成人综合| 丁香婷婷五月综合影院| 强伦轩人妻一区二区电影| 色色色99| 五月天婷婷色综合| 思思久久网| 激情六月婷婷啪啪| 大香蕉婷婷丁香天堂AV| 思思热在线精品视频网站| 婷婷丁香五月天熟女丝袜| 99热99在线| 欧美Va在线| 色久影院| 万月丁香狠狠爱| 99精品在线观看视频| 五月天成人在线精品| 婷婷国产欧美97| www久久久| 国产在这里只有精品| www.激情.com.| 九色综合五月天婷五月| 99热这里精品| 婷婷社区五月天| 思思久久精品视频| 丁香六月啪啪啪| 五月天丁香婷婷网| 日日操天天操| 五夜丁香| 色噜噜狠狠插综合| 色。 日日日| 色v综合网| 日本成人内射| 老师的粉嫩小又紧水又多A片视频| 五月婷婷伊人久久| 久鲁鲁色网| 91九色视频在线观看| 婷婷五月欧美综合| 97色色视频| 五月婷婷啪啪啪| 天天看夜夜看| 五月丁香激情综合网官网| 五月婷婷五月天| 综合 蜜月 婷婷| 七七婷婷综合| 一本道在线电影| 九九色综合九九色| 91丨九色丨43老版熟女| 久久色亭亭五月天| 色亚洲激情| 丁香社区婷婷五月| 婷婷中文字幕版| WWW.夜夜操.com| 大香蕉520| 91精品国产99久久久久久天美| www.色综合| 精品婷婷| www色婷婷| 4438激情网| 九九热最新| 五月天婷婷激情在线色图| 五月婷婷色吧!| 天天综合激情| 久久久久久草黄色片AV在线观看| 四色五月视频| 99九九中文字幕视频| 操b视频在线观看一区二区| 五月天开心色色网| 激情人妻蜜夜系列区| AA片在线观看视频在线播放| 欧美 日韩 人妻 高清 中文| 国产又黄又爽又色的免费| 大香蕉婷婷| 五月天激情小说| 午夜不卡久久精品无码免费| 人妻丰满精品一区二区A片| 中文字幕成人| 成人中文网| 欧美电影在线观看| 99色综合久久| 超热久碰.com| 五月天色综合| WWW色综合| 丁香五月98| 婷婷五月天美女视频| 丁香五月婷婷俺也要去| 亚洲日日日| 色色色地址| 级情九色| 亚洲亚洲人成综合网络| 婷婷九月久久| 色五月婷婷综合在线| 久九色| 九九免费视频在线| 亚洲人成人五月天| 久操97| 99热6这里只有精品| 9久久精品| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 人妻VideOssS人妻| 婷婷五月天激情小说| 五月丁香91| 丁香啪啪| 九九九九九九九九九九九九九国产精品| 五月丁香久久| 日韩精品VIP| 97干视频| site:feetmall.com| 五月丁香婷婷深深爱| 天天天天天天操| 日韩在线观看网址| 美欧日韩国产成人在战| 最新精品视频99| 丁香午夜天| 99热这里只有精品22| 久久97久久99久久综合欧美| 色五月婷婷1| 99热国产这里只有| 久久久久久人妻| 色色色热| 综合亚洲AV| 色色色色色级无码| 天天爽天天| 日本少妇裸体做爰高潮片| 97碰免费精采视频| 性爱电影科技贸易有限公司| 天天爱综合网| 日本无码专区| 欧美天天草人人草| 婷婷丁香五月网| 大陆极品少妇内射AAAAAA| 久久婷婷五月天激情| 狠狠色婷婷丁香六月| xxxx久| 91狼友视频网页更新| 亚州精品色情无码A片| 五月天婷婷爱| 国产性av| 好吊操这里只有精品| 99热精品在线观看| 99riAV成人在线视频| 亚洲国产精品成人免费一区久久久在线观看AAAA | 激情丁香久久久久久| 婷婷激情鹿城五月天| 久久婷婷婷| 日本成人内射| 伊人狠狠狠综合| 深爱综合网| 婷婷激情在线| 五月婷婷在线视频| 婷婷色色色| 五月丁香婷婷六月天| 夜夜谢天天干| 夜夜 操无码| 激情综合五| 九热av| 五月婷婷丁香六月在线| 五月婷婷六月丁香| 五月丁香色色综合| 五月婷婷天| 色婷婷婷婷| 国产精品色婷婷99久久精品| 婷婷激情四射五月天| 五月婷导航| 新激情五月天| 互月天综合| 日本人妻伦在线中文字幕| 国产xxxxx在线观看| 婷婷伊人綜合中文字幕小说| 在线成人网址| 日本色婷婷| 91超碰在线播放| 亚洲激情婷婷| av在线观看免费| PORNY九色9l自拍视频成人| 五月婷久久草| A片一曲| 欧美日韩99| 欧美婷婷五月丁香| 六月婷婷六月天天在线免费| 婷婷99| 一本道综合网| 99欧美精品99日本精品| 婷婷丁香色情| 欧美日韩国产一区二区| www.色九月| 婷婷综合五月天| 狠狠操狠狠操| 五月丁香六月婷婷免费| 5月丁香综合图区| 啪到高潮激情丁香五月| av操一操| 99性视频| 婷婷五月天综合蜜桃| 国产内射婷婷| 婷婷五月婷婷| 99操视频| 婷婷五月天伊人| 五月婷婷色情| 71在线精品视频一区| 国产精品久久..4399| 嫩草AV久久伊人妇女超级A| 亚洲精品又粗又大又爽A片| 国产熟女日日骚五月丁香爱| av在线观看网址| 久草五月婷婷| 狠狠操天天操天天操| 国产97在线日韩亚洲女人被黑人巨大| mmm1717.6dbm人人爱人人操| 五月伊人91| 亚洲精品永久久久久久| 婷色五月| 超极99精品| 手机旧版看人妻1025| 久久婷婷六月| 亚洲不卡123| 婷婷九月丁香| 91小黄书网址在线观看| www.91在线观看| 日产精品一线二线三线芒果| 丁香五月婷中字幕| 亚洲综合在线伊人婷| 日韩成人影片网站| 色五月激情| 五月天五月色| AV网站免费在线| 牛牛热这里只有jingpin| 99久久五月婷婷| 天天拍夜夜撸| 久久狠婷婷| 国产日韩欧美| 五夜丁香| 五月丁香色狠狠干大屄| 婷婷久久久久| 九月婷婷人人操人人舔人人爱| 久久A V无码视频| 欧洲亚洲免费视频9| 日韩ww| 99热婷婷| 丁香五月成人av| 婷婷五月AA五月在线| 五月丁香激情综合啪啪| 九七色色六月丁香| 激情伊人五月天| 九九九九这里只有精品| 2050人人操免费工开爱| 69久久99精品久久久久| 久婷婷视平| 五月亭亭开心网| 丁香激情网| 国精产品一区二区三区| 婷婷色婷婷亚洲成人| 99re青青草| 桃色五月婷婷| 开心激情婷婷| 亚洲色久| 123草逼网| 婷婷色五月综合| 亚洲一色色色色色色色色| 99热亚洲精品| 日本久久9| 九九热狼人| 裸睡玩奶头(高H)| 久久久久久综合88| 六月丁香啪啪啪| 婷婷丁香五月综合激情视频| 国产又黄又爽又激情不遮挡视频在线观看| 人五月天婷婷喷水| 丰满少妇猛烈A片免费看观看| 狠狠操狠狠干综合| 天天综合插插| 熟女重口味αV| 成人日韩欧美| 综合99综合久久久久久久| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | www.国产亚洲69ty.久久久久久久久久久久| 亚洲人妻av伦理| 深爱五月激情| 久久网日本| 久久婷网| 99久久久久久| 操操国产| 91seav| 婷婷五月丁香六月| 激情综合网址| 日本三级日本三级99| 9久热免费视频99| 婷婷六月天天| 91超碰在线播放| 國語久久婷| 99re热在线视频| 五月丁香婷婷啪啪| 天天干夜夜谢| 国产超碰在线| 极品人妻VIDEOSSS人妻| 国产免费性爱| jiujiuxiangjiaowang| 婷婷五月丁香色色| 五月色丁香婷婷综合| 中文网婷婷字幕婷| 狼人婷婷综合| 久久新地址| 他改变了拜占庭| 激情欧美婷五月| 五月丁香六月婷婷a v| 五月婷丁香亚洲| 丁香五月天天高清在线| 丁香五月在线| AV在线免费播放| 色色色色色色网| 99热免费| 婷婷丁香五月在线观看91| 五月婷婷丁香大香蕉| 激情五月色综合网| 五月婷俺去也| 天天摸夜夜爽天天做| 99视频热| 99视频在线播放大全| 欧美激情综合| www.97视频| www.AV在线| 色五月琪琪| 亚洲射激情| 九九热最新地址| 亚洲av免费在线| 99婷婷| 无码字幕中文| 99久在线观看| 天天干夜夜b| 五月丁香偷拍| 日日夜夜天天| 婷婷五月激情在线| 国产成人AV在线| 婷婷五月色影视先锋| 五月天婷婷激情在线色图| 久久草大香蕉| 色色五月婷婷网| 欧美超级视频97| 六月欧美综合色情| 激情五月婷婷丁香| 狠狠的日| 九月大香蕉| 狠狠操.com| 橾逼网| 婷婷91| 2013AV天堂| 99在线观看这里都是精品| 婷婷午夜天| 五月丁香六月婷综合成人综合| 操操碰| 色噜久| 丁香婷婷久久激情| 日本九九视频| 中文字幕免费高清电视剧| 色婷婷狠狠久久YY| 婷婷成人丁香色情基地30 | 五月激情综合网| 日日干日日| 婷婷六月视频| 国产精品激情五月天色婷婷| 综合激情站| av在线观看网址| 色婷婷丁香五月在线| 婷婷丁香九月| 丁香激情综合| 亚洲中文丁香| 日韩欧美成人片| 第九色区AV在线| 99思思在线视频| 五月丁香婷婷婷激情爱爱| Av狠狠色丁香婷| 国产日批视频免费播放| 99综合网| 九月色婷婷婷| 综合网激情五月天| 思思热视频在线观看| 久久的爱大香蕉| 99热的无码| 九九热精品| 9l视频自拍9l九色成人| 丁香五月天堂| 99riAV成人在线视频| 日本婷婷丁香五月| 色五月婷婷丁香五月| 婷婷午夜综合| 夜夜撸夜夜骑| 六月婷婷日| 伊人9999| 一二线视频 另类| 99热精品少| 亚洲热视频| 六月婷婷综合| 九九色色网| 欧美色色色色色色色色色色| 日日夜夜天天综合| 亚洲天堂制| 人人操人av| 婷婷丁香无码专区| 97婷婷丁香五月| 丁香五月五月婷婷欧美大香蕉| 久久婷婷五月综合啪| 色婷婷激情五月天| 丁香五月伊人| 九九亚洲视频| 九九爱精品网站| 99日这里只有精品| 午夜微拍福利| 无码 色| 美女爆乳18禁www久久久久久| 欧美丁香婷婷天天操| 激情网五月| 婷婷 久综合| 色五月亚洲| 人人亚洲| 国产精品人成A片一区二区| 色99视| 精品香蕉99久久久久网站| 我爱宗和色| 色色色色色色综合网| 九色色| 蜜桃婷婷狠狠久久综合| 五月丁香啪啪啪| 色五月超碰| 五月婷婷啪啪| 久久五月人人摸| 97色婷婷| 五月天激情亚洲| 色综合视频| 国产超碰在线| 婷婷丁香午夜综合影视| se色婷婷视频| 五月婷婷中文| 婷婷午夜综合| 久久精品这里只有精品免费首页| 成人AV中文字幕| 欧美人妻一区二区| 久婷婷五月丁香在线观看| 国产SUV精品一区二区883| 日本 @ va 免费| 国产超碰人人| 日韩aaaaa| 五月天成人手机在线视频| 狠狠色综合久久久久| 亚洲熟妇无码乱子AV电影| 久久丝丝热| 亚洲综合色婷| 狠狠干狠狠干| 五月天综合缴情网网站0| 97碰碰久久| 激情丁香六月| 高清无码 一区 二区 三区| 色五月美女| 久久综合中文| 91婷婷五月天综合视频| 丁香色影院| 久久这里只有精品99| 久久五月婷天天干| 色丁香五月| 亚洲精品字幕| 五月丁香影院| 激情婷婷五六月天| 日本少妇AA一级特黄大片| 色综合激情| 日韩在线五月天婷婷| 九九热AV| 婷婷五月综合丁香久久| 综合久久婷婷| 色婷婷激情五月天在线观看| 久久资源网五月婷| 日本V在线观看不卡视频网站| 激情开心五月亚洲| 色热久| 黄色av高清| 中文av网站| 日日爽日日| 九九99视频精品| 九月婷婷综合网| 青草视频在线播放| 激情综合网五月丁香| 婷婷四色成人综合色视| 啪啪一区| 91婷婷五月丁香碰| 无码一区精品一区视频| 大香蕉五月丁香| 久久婷婷五月综合伊人| 天天看片日日夜夜| 9l视频自拍9l九色9l成人| 亚洲妇女熟BBW| www色五月| 五月天最新网| 99性爱无码| 《诡秘之主》在线观看| 97五月天婷婷综合激情网| 色婷青青| 另类小说色婷婷| 五月天丁香综合久久国产| 婷婷丁香五月天亚洲| 天天色天天爽| 五月停停999| 丁香五夜激情四射夜夜夜| 蜜桃五月天| 六月婷婷五月天| 婷婷综合亚洲| 久久久噜噜噜久久人妻| 久久五月婷天天干| 五月在在观看| 五月欧美色播| 婷婷视频网| www.97碰碰com| 97人妻碰碰碰碰碰久久久久久| 欧美99| 亚洲欧洲国产精品| 日本狠狠色| 色播播婷婷| 操操操AV| 国产成人+亚洲+欧洲| site:ornaments52.com| 五月婷婷内射网| 九九热视频精品2| 8区视频在线| 97影院一级片| 99在线视频精品| 久久综合伊人77777蜜臀| 日本三级网址| 在线99精品| 性爱人人网| 久久一级片| 欧美日韩成人在线网| 五月丁香久久丝袜啪啪| 婷婷五月激情综合啪啪| 亚洲av无码影院| 9一精品视频观看| 激情五月婷婷她| 99久久精彩视频| 97色啪| 激情四射网| 99热综合| 天天日天天插天天操| 免费AV黄在线播放| 极品 少妇 内射| 五月婷婷无码专区| 五月天婷网| 开心激情播播五月天| 六月丁香婷婷综合在线| 天天干天天做| 色三级色三级| 亭亭玉月丁香| 777精品久无码人妻蜜桃| 超碰免费成人网站| 五月丁香激情综合网官网| 密视AV综合在线| 狠狠干综合网| 少妇高潮一区二区三区99欧美| 99人人精品| 婷婷色丁香五月| 噜噜狠狠| 五月激情婷婷播播网| 亚洲天堂aaa| 91婷婷色| 丁香五月欧美| 婷婷五月天免费99| 一区二区三区XXXXXX| 超碰成人在线观看| 秋霞三级影视资源| 五月婷婷开心丁香| 色色日本欧美| 97人人超| 性色九九| 丁香九月综合激情| 日操| 天天色综网| 久99视频| 国产成人综合电影| 丁香五月天堂网AV| 久久五月综合| 五月丁香婷婷伊人| 色色色五月婷| 五月婷婷六月丁香| 涩婷婷视频快播人妻| 久久er+| 日本wwww在线| 丁香婷婷基地| 99精彩视频在线观看| 色99色| 狠狠操狠狠插| 综合色婷婷| 99热免费精品热久久66| 天天操夜夜爽| 久久色情| 中文不卡av| 操一区| 五月丁香在线婷婷美女| 操人91| 狠狠色综合图片| 天堂A∨在线| 99成人小视频| 欧美性丁香色色五月天干干| 99国产97在线,| 婷婷五月深情丁香深爱日韩| 五月丁香六月婷婷的女人| 色五月首页| 丁香社92视频| 人妻内射麻豆视频| 99超级碰碰| 激情五月四色| 亚洲色9| 色色热| 天天干在线播放| 久这里只有精品99| 国产亚洲精品久久一区二区三区| 欧美这里只有精品| 嫩草AV久久伊人妇女超级A| 99视频在线播放大全| 99热99热| 97人人干| 婷婷午夜激情| 亚洲五月花| 婷婷丁香五月综合网| 五月婷视频久久| 女人天堂AV| 亲子乱AV-区二区三区| oumeisesewang| 色色色色五月| 九九热99熟女| 激情六月日韩| 婷婷欠久少妇| 婷婷五月综合色中文字幕| 久久人人九| 亚洲第二AV| 激情九九综合网| 国产成人精品亚洲线观看| 婷婷精品视频| 色五月色图| 午夜婷婷久久| 久久婷婷五月天蜜桃| 色五月色综合| 在线色五月婷婷| 色婷婷基地| 66精品国产成人| 色婷婷成人网| 久久婷中文字幕| 五月丁香色| 91久久精品视频| 激情五月天激情综合网| 综合色图婷婷| 天天操天天操天天操| www.色婷婷| 激情啪啪五月天| 久久婷婷五月综合| 激情五月婷黄版| 天天骑天天操| 五月天社区| 99热亚洲精品| 99色激| 五月天婷婷丁香| 婷婷丁香六月综合激情站| 五月丁香六月成人| 亚洲小视频免费播放| 激情五月丁香五月| 超碰av在线| 另类视频五月天| 日日操夜夜操狠狠操| 99热伊人| xx色综合| 色综合综合综合| 天天天天天久久久久久| 日本英国美国欧美亚洲国产精亚洲日韩精品在线观看 | 51精品国内探花| 五月丁香777| 久婷首页|