欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于LSTM的SDN網(wǎng)絡(luò)流量預(yù)測(cè)與主動(dòng)負(fù)載均衡實(shí)現(xiàn)

基于LSTM的SDN網(wǎng)絡(luò)流量預(yù)測(cè)與主動(dòng)負(fù)載均衡實(shí)現(xiàn) 簡(jiǎn)介本資源是一套面向計(jì)算機(jī)科學(xué)與網(wǎng)絡(luò)工程專業(yè)高年級(jí)本科生的SDN智能管控實(shí)踐方案聚焦軟件定義網(wǎng)絡(luò)中的流量時(shí)序預(yù)測(cè)與動(dòng)態(tài)負(fù)載均衡問(wèn)題采用LSTM深度學(xué)習(xí)模型實(shí)現(xiàn)精準(zhǔn)流量預(yù)測(cè)并驅(qū)動(dòng)策略化流量調(diào)度。資源包共15個(gè)文件含8個(gè)核心Python源碼涵蓋拓?fù)錁?gòu)建、流表下發(fā)、LSTM訓(xùn)練與推理、負(fù)載決策等模塊、1個(gè)CSV格式實(shí)測(cè)流量數(shù)據(jù)集、1個(gè)訓(xùn)練好的lstm.pkl模型文件、3個(gè).zbak備份腳本及1個(gè)詳細(xì)說(shuō)明文檔整體壓縮包僅9.29MB結(jié)構(gòu)清晰、注釋完備便于分模塊學(xué)習(xí)與調(diào)試。目前已有48人下載學(xué)習(xí)適合作為畢業(yè)設(shè)計(jì)課題參考、課程綜合實(shí)驗(yàn)項(xiàng)目或高級(jí)編程實(shí)訓(xùn)材料。讀者可直接運(yùn)行完整流程從Mininet仿真拓?fù)浯罱?、NetFlow數(shù)據(jù)采集預(yù)處理、LSTM模型訓(xùn)練與保存到基于預(yù)測(cè)結(jié)果的短路徑轉(zhuǎn)發(fā)與負(fù)載重分配策略落地全面掌握深度學(xué)習(xí)在SDN管控層的實(shí)際工程化應(yīng)用路徑。 做SDN網(wǎng)絡(luò)流量預(yù)測(cè)這個(gè)項(xiàng)目其實(shí)是源于我自己在實(shí)驗(yàn)環(huán)境里遇到的一個(gè)很典型的問(wèn)題控制器雖然拿到了全網(wǎng)視圖但流量一突發(fā)鏈路說(shuō)堵就堵靠閾值告警再去切換路徑永遠(yuǎn)是先堵后處理。后來(lái)我把LSTM接進(jìn)來(lái)做網(wǎng)絡(luò)流量預(yù)測(cè)讓負(fù)載均衡從“事后救火”變成“事前調(diào)度”整套系統(tǒng)用Python實(shí)現(xiàn)包含完整源碼和可直接訓(xùn)練的數(shù)據(jù)集在本地用Mininet搭環(huán)境就能跑通。這篇文章是我整個(gè)開發(fā)周期的完整復(fù)盤既有踩坑記錄也有可以直接抄作業(yè)的代碼適合正在做SDN相關(guān)實(shí)驗(yàn)的學(xué)生、想給運(yùn)維系統(tǒng)引入AI能力的工程師以及對(duì)LSTM時(shí)序預(yù)測(cè)想找實(shí)際落地場(chǎng)景的人。1. 項(xiàng)目背景與核心思路拆解1.1 為什么SDN負(fù)載均衡需要LSTMSDN的核心思想是控制平面與數(shù)據(jù)平面分離控制器通過(guò)OpenFlow協(xié)議統(tǒng)一管理交換機(jī)流表。好處是網(wǎng)絡(luò)可編程、可集中調(diào)度但壞處也很明顯——控制器一旦決策不及時(shí)整網(wǎng)都會(huì)跟著遭殃。傳統(tǒng)負(fù)載均衡的做法通常有兩種靜態(tài)哈希按五元組散列或者動(dòng)態(tài)檢測(cè)鏈路利用率超過(guò)閾值再觸發(fā)遷移。前者完全不管鏈路狀態(tài)后者是“已經(jīng)擁塞了才反應(yīng)”都談不上智能。流量數(shù)據(jù)本質(zhì)上是一個(gè)時(shí)間序列而且有很強(qiáng)的規(guī)律性每天有周期性的高峰和低谷工作日和周末的流量特征明顯不同某些業(yè)務(wù)會(huì)有周期性的突發(fā)。這種規(guī)律用傳統(tǒng)的時(shí)間序列模型比如ARIMA可以捕捉一部分但ARIMA本質(zhì)上是線性模型對(duì)流量中非線性、突發(fā)性的部分?jǐn)M合能力有限。LSTM長(zhǎng)短期記憶網(wǎng)絡(luò)是循環(huán)神經(jīng)網(wǎng)絡(luò)的一個(gè)變種通過(guò)輸入門、遺忘門、輸出門三個(gè)門控機(jī)制可以在訓(xùn)練過(guò)程中自動(dòng)學(xué)習(xí)“哪些歷史信息該記住、哪些該丟掉”所以它對(duì)長(zhǎng)時(shí)間跨度的依賴關(guān)系建模能力比普通RNN強(qiáng)也比ARIMA更擅長(zhǎng)擬合非線性的流量模式。實(shí)際測(cè)試下來(lái)在同樣的數(shù)據(jù)集上LSTM的預(yù)測(cè)誤差比ARIMA低20%到30%這個(gè)差距在流量突發(fā)場(chǎng)景下尤其明顯。1.2 預(yù)測(cè)驅(qū)動(dòng)的負(fù)載均衡從被動(dòng)到主動(dòng)這個(gè)項(xiàng)目的核心設(shè)計(jì)理念是把“響應(yīng)式調(diào)度”改成“預(yù)判式調(diào)度”。控制器周期性地從交換機(jī)采集端口流量統(tǒng)計(jì)把數(shù)據(jù)喂給訓(xùn)練好的LSTM模型模型輸出未來(lái)幾個(gè)時(shí)間步的流量預(yù)測(cè)值調(diào)度模塊根據(jù)預(yù)測(cè)結(jié)果提前做出決策——哪條鏈路下一階段會(huì)變忙先把部分流量切走哪條鏈路下一階段會(huì)變閑可以接收新的流量。這里有一個(gè)關(guān)鍵認(rèn)知不要把LSTM的預(yù)測(cè)值當(dāng)成精確值來(lái)用。預(yù)測(cè)永遠(yuǎn)是預(yù)測(cè)存在誤差所以負(fù)載均衡調(diào)度看的是預(yù)測(cè)趨勢(shì)而不是預(yù)測(cè)絕對(duì)值。比如模型預(yù)測(cè)某條鏈路未來(lái)30秒的流量會(huì)持續(xù)上升那不管當(dāng)前這條鏈路是否擁塞都應(yīng)該提前準(zhǔn)備備選路徑。如果等鏈路真的擁塞了再切已經(jīng)造成丟包和延遲了。另一個(gè)容易被忽視的點(diǎn)是預(yù)測(cè)驅(qū)動(dòng)的調(diào)度必須設(shè)置“冷卻時(shí)間”。如果每次預(yù)測(cè)結(jié)果稍有波動(dòng)就觸發(fā)流量遷移會(huì)導(dǎo)致路由抖動(dòng)反而降低網(wǎng)絡(luò)穩(wěn)定性。我在系統(tǒng)里設(shè)計(jì)了一個(gè)調(diào)度狀態(tài)機(jī)每條鏈路切換后至少要穩(wěn)定一段時(shí)間才能再次切換這個(gè)策略在實(shí)際模擬中非常重要。1.3 系統(tǒng)總體架構(gòu)整個(gè)系統(tǒng)分為三層數(shù)據(jù)層基于Mininet模擬網(wǎng)絡(luò)環(huán)境用Ryu控制器周期性采集交換機(jī)端口流量統(tǒng)計(jì)做數(shù)據(jù)清洗、流速計(jì)算和歸一化最終形成時(shí)間序列數(shù)據(jù)集。預(yù)測(cè)層用PyTorch實(shí)現(xiàn)LSTM模型對(duì)每條關(guān)鍵鏈路的未來(lái)流量進(jìn)行多步預(yù)測(cè)輸出預(yù)測(cè)值的同時(shí)也輸出一個(gè)“趨勢(shì)置信度”作為調(diào)度參考。調(diào)度層把預(yù)測(cè)結(jié)果轉(zhuǎn)換成具體的負(fù)載均衡決策通過(guò)Ryu的流表下發(fā)接口修改交換機(jī)轉(zhuǎn)發(fā)規(guī)則把流量從預(yù)測(cè)擁堵的鏈路遷移到相對(duì)空閑的鏈路。三層之間通過(guò)文件或內(nèi)存隊(duì)列解耦模型訓(xùn)練不依賴實(shí)時(shí)數(shù)據(jù)訓(xùn)練完成后再接上線。這樣設(shè)計(jì)的好處是靈活——你可以單獨(dú)替換任何一層的實(shí)現(xiàn)比如把LSTM換成Transformer或者把負(fù)載均衡策略從最小連接數(shù)改成加權(quán)輪詢都不影響其他層。2. SDN控制器與流量采集模塊實(shí)現(xiàn)2.1 開發(fā)環(huán)境與依賴清單先說(shuō)環(huán)境這個(gè)項(xiàng)目在Ubuntu 20.04上完整跑通Python版本用的3.8建議用虛擬環(huán)境安裝依賴避免和系統(tǒng)其他項(xiàng)目沖突。# 創(chuàng)建虛擬環(huán)境 python3 -m venv sdn_lstm_env source sdn_lstm_env/bin/activate # 安裝核心依賴 pip install ryu4.34 pip install torch1.13.0 pip install pandas numpy scikit-learn pip install matplotlibMininet的安裝建議用官方腳本一步到位git clone https://github.com/mininet/mininet cd mininet ./util/install.sh -n裝完之后可以用sudo mn --test pingall驗(yàn)證是否正常。這里有幾個(gè)版本坑說(shuō)明一下Ryu 4.34在OpenFlow 1.3下工作穩(wěn)定新版本反而可能出現(xiàn)Python庫(kù)兼容問(wèn)題。PyTorch不要裝最新的2.x1.13.0實(shí)測(cè)最穩(wěn)。當(dāng)然這只是我的環(huán)境組合你可以根據(jù)實(shí)際情況調(diào)整但建議保持核心版本一致避免排查無(wú)謂的兼容性問(wèn)題。2.2 基于Ryu的流量采集實(shí)現(xiàn)流量采集是Ryu控制器的一個(gè)典型應(yīng)用場(chǎng)景。Ryu框架提供了OFPPortStatsRequest消息可以周期性向交換機(jī)請(qǐng)求端口統(tǒng)計(jì)信息。下面是我實(shí)現(xiàn)的流量采集核心代碼from ryu.base import app_manager from ryu.controller import ofp_event from ryu.controller.handler import MAIN_DISPATCHER, set_ev_cls from ryu.ofproto import ofproto_v1_3 from ryu.lib import hub import time import csv import os class TrafficCollector(app_manager.RyuApp): OFP_VERSIONS [ofproto_v1_3.OFP_VERSION] def __init__(self, *args, **kwargs): super(TrafficCollector, self).__init__(*args, **kwargs) self.datapaths {} self.collect_interval 5 # 采集周期5秒 self.prev_stats {} self.csv_file traffic_data.csv self._init_csv() self.collector_thread hub.spawn(self._collect_loop) def _init_csv(self): if not os.path.exists(self.csv_file): with open(self.csv_file, w, newline) as f: writer csv.writer(f) writer.writerow([timestamp, switch_id, port_no, rx_bytes, tx_bytes, rx_rate, tx_rate]) set_ev_cls(ofp_event.EventOFPStateChange, MAIN_DISPATCHER) def _state_change_handler(self, ev): dp ev.datapath if ev.state MAIN_DISPATCHER: self.datapaths[dp.id] dp elif ev.state 0: self.datapaths.pop(dp.id, None) def _collect_loop(self): while True: for dp in list(self.datapaths.values()): self._request_port_stats(dp) hub.sleep(self.collect_interval) def _request_port_stats(self, dp): parser dp.ofproto_parser req parser.OFPPortStatsRequest(dp, 0, dp.ofproto.OFPP_ANY) dp.send_msg(req) set_ev_cls(ofp_event.EventOFPPortStatsReply, MAIN_DISPATCHER) def _port_stats_reply_handler(self, ev): dp ev.msg.datapath body ev.msg.body timestamp time.time() for stat in body: key (dp.id, stat.port_no) if key not in self.prev_stats: self.prev_stats[key] (timestamp, stat.rx_bytes, stat.tx_bytes) continue old_time, old_rx, old_tx self.prev_stats[key] interval timestamp - old_time if interval 0: continue rx_rate (stat.rx_bytes - old_rx) * 8 / interval # 單位: bit/s tx_rate (stat.tx_bytes - old_tx) * 8 / interval self._write_csv(timestamp, dp.id, stat.port_no, stat.rx_bytes, stat.tx_bytes, rx_rate, tx_rate) self.prev_stats[key] (timestamp, stat.rx_bytes, stat.tx_bytes) def _write_csv(self, timestamp, switch_id, port_no, rx_bytes, tx_bytes, rx_rate, tx_rate): with open(self.csv_file, a, newline) as f: writer csv.writer(f) writer.writerow([timestamp, switch_id, port_no, rx_bytes, tx_bytes, rx_rate, tx_rate])這一段代碼做了三件事維護(hù)活躍交換機(jī)的datapaths列表、周期性地請(qǐng)求端口統(tǒng)計(jì)、把前后兩次統(tǒng)計(jì)的差值換算成速率并寫入CSV。換算速率的公式是(當(dāng)前字節(jié)數(shù) - 上次字節(jié)數(shù)) * 8 / 時(shí)間間隔乘以8是把字節(jié)轉(zhuǎn)成比特最終速率的單位是bit/s。2.3 數(shù)據(jù)落盤與歸一化采集到的原始CSV數(shù)據(jù)不能直接喂給LSTM需要先做兩步處理第一步是去除異常值。網(wǎng)絡(luò)流量數(shù)據(jù)里偶爾會(huì)有一些明顯的毛刺比如某個(gè)端口瞬間收到超大流量這可能是瞬時(shí)突發(fā)也可能是采集誤差。我用了一個(gè)簡(jiǎn)單的滑動(dòng)中位數(shù)濾波超過(guò)三倍中位數(shù)絕對(duì)偏差的數(shù)據(jù)點(diǎn)會(huì)被替換為中位數(shù)。第二步是構(gòu)建固定間隔的時(shí)間序列。由于采集周期是5秒理論上每小時(shí)有720個(gè)采樣點(diǎn)。但因?yàn)榻粨Q機(jī)上線、下線等操作時(shí)間戳可能不是嚴(yán)格等間隔的這里需要做線性插值重采樣。我按5秒間隔重新采樣缺失值用前后兩個(gè)點(diǎn)的平均值填充。歸一化也很重要。LSTM對(duì)輸入特征的尺度比較敏感如果不做歸一化梯度更新會(huì)不穩(wěn)定。我用的方法是MinMaxScaler把流量值映射到[0, 1]區(qū)間。這里有一個(gè)很多新手都會(huì)踩的坑歸一化參數(shù)的擬合只能用訓(xùn)練集不能用整個(gè)數(shù)據(jù)集否則會(huì)造成數(shù)據(jù)泄漏評(píng)估指標(biāo)會(huì)虛高。from sklearn.preprocessing import MinMaxScaler import pandas as pd import numpy as np df pd.read_csv(traffic_data.csv) # 只選取一條鏈路的發(fā)送速率作為示例 series df[df[switch_id] 1][[timestamp, tx_rate]].sort_values(timestamp) series[timestamp] pd.to_datetime(series[timestamp], units) series series.set_index(timestamp).resample(5S).mean().interpolate() # 分割訓(xùn)練集和測(cè)試集注意順序切分不能打亂 split_ratio 0.8 split_idx int(len(series) * split_ratio) train_data series.iloc[:split_idx] test_data series.iloc[split_idx:] # 只用訓(xùn)練集擬合scaler scaler MinMaxScaler() train_scaled scaler.fit_transform(train_data[[tx_rate]]) test_scaled scaler.transform(test_data[[tx_rate]])3. LSTM預(yù)測(cè)模型設(shè)計(jì)與訓(xùn)練3.1 數(shù)據(jù)集說(shuō)明與序列構(gòu)建數(shù)據(jù)集我用了兩種來(lái)源混合讓模型有足夠的泛化能力。第一種是Mininet模擬環(huán)境里用iperf生成的背景流量這種數(shù)據(jù)可控性強(qiáng)方便驗(yàn)證模型在不同流量模型下的表現(xiàn)。第二種是公開數(shù)據(jù)集中提取的部分流量特征比如我在實(shí)驗(yàn)里引入了UNSW-NB15數(shù)據(jù)集中的部分網(wǎng)絡(luò)流特征做補(bǔ)充訓(xùn)練這能讓模型見到的流量模式更豐富。無(wú)論哪種來(lái)源最終都需要把原始的連續(xù)流量轉(zhuǎn)換成監(jiān)督學(xué)習(xí)需要的樣本對(duì)。LSTM的一個(gè)輸入樣本是“過(guò)去k個(gè)時(shí)間步的流量值”對(duì)應(yīng)的標(biāo)簽是“未來(lái)h個(gè)時(shí)間步的流量值”。在我這個(gè)項(xiàng)目里k取64也就是用過(guò)去320秒64×5秒的數(shù)據(jù)預(yù)測(cè)未來(lái)12個(gè)時(shí)間步60秒的流量趨勢(shì)。構(gòu)建滑動(dòng)窗口樣本的代碼如下def create_sequences(data, input_steps64, output_steps12): X, y [], [] for i in range(len(data) - input_steps - output_steps 1): X.append(data[i:i input_steps]) y.append(data[i input_steps:i input_steps output_steps]) return np.array(X), np.array(y) X_train, y_train create_sequences(train_scaled) X_test, y_test create_sequences(test_scaled)這里的一個(gè)關(guān)鍵點(diǎn)窗口之間的重疊是正常的甚至是必要的。如果窗口完全不重疊每個(gè)樣本只代表整個(gè)序列的一小部分有效訓(xùn)練樣本數(shù)量會(huì)大幅減少。但要注意窗口重疊會(huì)引入樣本之間的相關(guān)性所以評(píng)估模型時(shí)不能把測(cè)試集的預(yù)測(cè)結(jié)果看作是“每個(gè)獨(dú)立預(yù)測(cè)”而是看整體趨勢(shì)的擬合程度。3.2 LSTM網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)我踩了幾次坑之后最終確定下來(lái)的是一個(gè)雙層的LSTM加全連接輸出層import torch import torch.nn as nn class TrafficLSTM(nn.Module): def __init__(self, input_size1, hidden_size64, num_layers2, output_steps12): super(TrafficLSTM, self).__init__() self.lstm1 nn.LSTM(input_size, hidden_size, num_layers1, batch_firstTrue) self.lstm2 nn.LSTM(hidden_size, hidden_size, num_layers1, batch_firstTrue) self.dropout nn.Dropout(0.2) self.fc nn.Linear(hidden_size, output_steps) def forward(self, x): out, _ self.lstm1(x) out, _ self.lstm2(out) out self.dropout(out[:, -1, :]) # 取最后一個(gè)時(shí)間步的輸出 out self.fc(out) return out為什么選兩層LSTM而不是一層這個(gè)問(wèn)題我在實(shí)驗(yàn)里專門對(duì)比過(guò)。一層LSTM對(duì)簡(jiǎn)單周期流量擬合夠用但遇到流量模式復(fù)雜的情況比如同時(shí)包含多個(gè)周期性成分疊加隨機(jī)突發(fā)單層的表達(dá)能力不夠預(yù)測(cè)曲線會(huì)出現(xiàn)明顯的“滯后效應(yīng)”——就是預(yù)測(cè)值總是比真實(shí)值慢半拍。兩層LSTM在時(shí)間維度上形成了層次化的特征提取底層捕捉短期波動(dòng)高層捕捉長(zhǎng)期趨勢(shì)滯后現(xiàn)象明顯減輕。為什么hidden_size取64這是一個(gè)經(jīng)驗(yàn)值主要看訓(xùn)練數(shù)據(jù)量。我的數(shù)據(jù)集大概有幾千個(gè)樣本如果hidden_size太大比如256模型參數(shù)量膨脹很容易過(guò)擬合在驗(yàn)證集上損失反而更高。如果太小比如16模型欠擬合預(yù)測(cè)值會(huì)趨向于平均值失去趨勢(shì)信息。64是我這個(gè)數(shù)據(jù)規(guī)模下的甜點(diǎn)值。最后一層的Dropout 0.2也是實(shí)驗(yàn)出來(lái)的。SDN流量數(shù)據(jù)噪聲比較大加上Dropout能強(qiáng)制模型不依賴某一個(gè)特定的時(shí)間步提升泛化能力。3.3 訓(xùn)練過(guò)程與超參調(diào)優(yōu)訓(xùn)練過(guò)程看起來(lái)簡(jiǎn)單但其中有幾個(gè)細(xì)節(jié)非常影響最終效果。先說(shuō)優(yōu)化器和學(xué)習(xí)率我用的Adam優(yōu)化器初始學(xué)習(xí)率0.001配合ReduceLROnPlateau調(diào)度器當(dāng)驗(yàn)證集損失連續(xù)5個(gè)epoch不下降時(shí)學(xué)習(xí)率自動(dòng)乘以0.5。損失函數(shù)用的是Huber Loss而不是最常見的MSE。原因是流量數(shù)據(jù)中有脈沖式的突發(fā)點(diǎn)MSE對(duì)異常點(diǎn)過(guò)于敏感一個(gè)突發(fā)突刺可能撐起整個(gè)loss導(dǎo)致模型一直用力擬合這個(gè)點(diǎn)而忽略整體趨勢(shì)。Huber Loss在誤差小的時(shí)候是平方損失誤差大的時(shí)候是線性損失天然對(duì)異常值不敏感。訓(xùn)練代碼def train_model(model, X_train, y_train, X_val, y_val, epochs100, batch_size64, lr0.001): optimizer torch.optim.Adam(model.parameters(), lrlr) scheduler torch.optim.lr_scheduler.ReduceLROnPlateau( optimizer, modemin, factor0.5, patience5 ) criterion nn.SmoothL1Loss() # Huber Loss train_loader torch.utils.data.DataLoader( torch.utils.data.TensorDataset( torch.FloatTensor(X_train), torch.FloatTensor(y_train) ), batch_sizebatch_size, shuffleTrue ) for epoch in range(epochs): model.train() train_loss 0.0 for X_batch, y_batch in train_loader: optimizer.zero_grad() output model(X_batch) loss criterion(output, y_batch) loss.backward() # 梯度裁剪防止LSTM訓(xùn)練中的梯度爆炸 nn.utils.clip_grad_norm_(model.parameters(), max_norm1.0) optimizer.step() train_loss loss.item() * X_batch.size(0) model.eval() with torch.no_grad(): val_pred model(torch.FloatTensor(X_val)) val_loss criterion(val_pred, torch.FloatTensor(y_val)).item() scheduler.step(val_loss) if (epoch 1) % 10 0: print(fEpoch {epoch1}/{epochs} | fTrain Loss: {train_loss/len(X_train):.6f} | fVal Loss: {val_loss:.6f})梯度裁剪這行不能省。LSTM在訓(xùn)練過(guò)程中容易出現(xiàn)梯度爆炸尤其是序列比較長(zhǎng)的時(shí)候梯度范數(shù)可能突然變得非常大一次更新就把前面學(xué)到的參數(shù)全毀了。clip_grad_norm_把梯度的范數(shù)限制在1.0以內(nèi)雖然不能完全消除梯度爆炸但能保證訓(xùn)練過(guò)程穩(wěn)定。3.4 評(píng)估指標(biāo)解讀模型效果我用三個(gè)指標(biāo)評(píng)估MAE平均絕對(duì)誤差、RMSE均方根誤差、MAPE平均絕對(duì)百分比誤差。公式不在這里堆了重要的是它們的實(shí)際含義MAE關(guān)注預(yù)測(cè)值和真實(shí)值之間的平均絕對(duì)差距單位是流量速率很容易直觀理解。假如某項(xiàng)指標(biāo)是0.1在歸一化后的尺度下就意味著平均誤差是峰值的10%。RMSE對(duì)大誤差更敏感。如果RMSE明顯大于MAE說(shuō)明模型在個(gè)別點(diǎn)上錯(cuò)得很離譜通常來(lái)自流量突發(fā)點(diǎn)。MAPE是百分比誤差適合向非技術(shù)背景的人解釋模型效果。下面是我的LSTM模型在測(cè)試集上的表現(xiàn)以及和ARIMA基線模型的對(duì)比模型MAERMSEMAPEARIMA0.0820.12712.6%LSTM單層0.0640.0989.8%LSTM雙層0.0510.0767.9%注意這些指標(biāo)是在歸一化尺度下算的要換算成實(shí)際的流量速率Mbps需要乘以scaler.scale_。我在調(diào)優(yōu)過(guò)程中發(fā)現(xiàn)一個(gè)很有意思的現(xiàn)象模型對(duì)周期性流量的預(yù)測(cè)精度很高M(jìn)APE能壓到5%以內(nèi)但只要遇到重大突發(fā)誤差立刻飆到30%以上。這說(shuō)明LSTM擅長(zhǎng)學(xué)習(xí)“常態(tài)模式”但對(duì)完全沒(méi)見過(guò)的新模式還是無(wú)能為力。這也是為什么在負(fù)載均衡里只把預(yù)測(cè)值當(dāng)作趨勢(shì)信號(hào)而不是精確值來(lái)用。4. 負(fù)載均衡策略與系統(tǒng)整合4.1 預(yù)測(cè)結(jié)果如何驅(qū)動(dòng)調(diào)度這一層是整個(gè)系統(tǒng)的“臨門一腳”。模型預(yù)測(cè)出了未來(lái)60秒的流量趨勢(shì)接下來(lái)要決定怎么調(diào)度。我用的是一個(gè)相對(duì)簡(jiǎn)單但有效的策略基于預(yù)測(cè)利用率的動(dòng)態(tài)選路。首先計(jì)算每條鏈路當(dāng)前的容量利用率。交換機(jī)端口容量是已知的比如模擬環(huán)境里鏈路帶寬100Mbps結(jié)合預(yù)測(cè)的未來(lái)流量可以算出未來(lái)一段時(shí)間的預(yù)測(cè)利用率def predict_utilization(model, history, link_capacity, scaler): # history: 最近64個(gè)時(shí)間步的流量值(原始尺度) history_scaled scaler.transform(history.reshape(-1, 1)) X torch.FloatTensor(history_scaled.reshape(1, -1, 1)) with torch.no_grad(): pred_scaled model(X).numpy().reshape(-1, 1) pred scaler.inverse_transform(pred_scaled).flatten() # 計(jì)算未來(lái)12個(gè)時(shí)間步的預(yù)測(cè)利用率 utilizations pred / link_capacity # 取未來(lái)窗口內(nèi)的最大預(yù)測(cè)利用率作為調(diào)度參考 return utilizations.max()調(diào)度邏輯分三條分支預(yù)測(cè)最大利用率低于60%說(shuō)明鏈路健康不需要干預(yù)。預(yù)測(cè)最大利用率在60%到85%之間說(shuō)明趨勢(shì)在上升進(jìn)入“準(zhǔn)備切換”狀態(tài)——控制器預(yù)先計(jì)算好備選路徑但不實(shí)際下發(fā)流表。如果下一輪預(yù)測(cè)繼續(xù)上升則觸發(fā)切換。預(yù)測(cè)最大利用率超過(guò)85%說(shuō)明即將擁塞立即把該鏈路上的部分大流量業(yè)務(wù)切換到備用鏈路。這里選60%和85%兩個(gè)閾值是有講究的。閾值太低正常的小波動(dòng)也會(huì)觸發(fā)切換增加無(wú)謂的流表變更閾值太高切換動(dòng)作發(fā)生時(shí)鏈路實(shí)際上已經(jīng)開始丟包了。60%和85%是我在模擬環(huán)境里測(cè)試多次后得到的平衡點(diǎn)。4.2 控制器聯(lián)動(dòng)實(shí)現(xiàn)控制器側(cè)的實(shí)現(xiàn)不是在Ryu里直接調(diào)PyTorch模型而是起一個(gè)獨(dú)立的預(yù)測(cè)調(diào)度服務(wù)Ryu通過(guò)HTTP接口請(qǐng)求預(yù)測(cè)結(jié)果。這種解耦方式的好處是模型推理失敗不會(huì)影響控制器核心功能而且模型更新不需要重啟Ryu。預(yù)測(cè)調(diào)度服務(wù)代碼骨架from flask import Flask, request, jsonify import pandas as pd import numpy as np import torch app Flask(__name__) model TrafficLSTM() model.load_state_dict(torch.load(best_model.pt)) model.eval() scaler joblib.load(scaler.pkl) app.route(/predict, methods[POST]) def predict(): data request.get_json() history np.array(data[history]) # 最近的流量序列 link_capacity data[link_capacity] util_pred predict_utilization(model, history, link_capacity, scaler) return jsonify({predicted_utilization: util_pred}) if __name__ __main__: app.run(host0.0.0.0, port5001)Ryu這邊通過(guò)urllib周期性調(diào)用這個(gè)接口拿到預(yù)測(cè)結(jié)果之后再?zèng)Q定是否下發(fā)修改流表的指令。每次切換操作都記錄日志包括切換原因、目標(biāo)鏈路、預(yù)測(cè)利用率、實(shí)際利用率方便事后分析。4.3 效果對(duì)比為了驗(yàn)證系統(tǒng)的實(shí)際效果我在Mininet里搭了一個(gè)簡(jiǎn)單的拓?fù)?臺(tái)交換機(jī)串聯(lián)成兩條并行路徑交換機(jī)下掛6臺(tái)主機(jī)其中2臺(tái)主機(jī)作為iperf流量發(fā)送端。調(diào)整iperf的流量模型讓某條鏈路周期性地產(chǎn)生突發(fā)流量然后對(duì)比三種方案的性能靜態(tài)哈希、閾值觸發(fā)、LSTM預(yù)測(cè)調(diào)度。方案平均吞吐量丟包率平均時(shí)延靜態(tài)哈希68 Mbps8.2%45 ms閾值觸發(fā)82 Mbps3.1%28 msLSTM預(yù)測(cè)調(diào)度91 Mbps0.8%15 ms這個(gè)結(jié)果符合預(yù)期。靜態(tài)哈希完全不感知鏈路狀態(tài)突發(fā)流量一來(lái)哈希到同一鏈路的流直接擁塞。閾值觸發(fā)有改善但切換發(fā)生在線路已經(jīng)擁塞之后丟包無(wú)法完全避免。LSTM預(yù)測(cè)調(diào)度因?yàn)樘崆白隽藴?zhǔn)備鏈路還未完全擁塞時(shí)流量已經(jīng)切換到了備用路徑所以吞吐量最高時(shí)延最低。5. 常見問(wèn)題與排查技巧實(shí)錄5.1 數(shù)據(jù)采集階段的典型問(wèn)題我在測(cè)試中遇到最多的一個(gè)問(wèn)題是Ryu采集到的端口統(tǒng)計(jì)里rx_bytes和tx_bytes會(huì)出現(xiàn)“負(fù)增長(zhǎng)”。排查后發(fā)現(xiàn)原因是OpenFlow的計(jì)數(shù)器是32位或64位無(wú)符號(hào)整數(shù)溢出后會(huì)歸零重新計(jì)數(shù)。處理方法是檢測(cè)到當(dāng)前值比上次值小的時(shí)候把差值加上計(jì)數(shù)器的最大值再計(jì)算。另一個(gè)問(wèn)題是端口統(tǒng)計(jì)的間隔不均勻。Ryu的請(qǐng)求是周期性的但交換機(jī)處理請(qǐng)求的延遲不一致導(dǎo)致相鄰兩次統(tǒng)計(jì)的時(shí)間間隔波動(dòng)。如果直接用原始間隔計(jì)算速率算出來(lái)的流量曲線噪聲很大。后來(lái)我在數(shù)據(jù)預(yù)處理階段加了一步對(duì)原始速率做指數(shù)加權(quán)平滑才把曲線變“干凈”。5.2 LSTM訓(xùn)練階段的常見錯(cuò)誤訓(xùn)練中最容易犯的錯(cuò)是數(shù)據(jù)泄漏。我在第一版代碼里先對(duì)整個(gè)序列做歸一化再切分訓(xùn)練集和測(cè)試集導(dǎo)致驗(yàn)證損失很低但上線后預(yù)測(cè)效果慘不忍睹。原因就是scaler在擬合時(shí)已經(jīng)“偷看”了測(cè)試集的數(shù)據(jù)分布。正確做法前面已經(jīng)提到先切分再只對(duì)訓(xùn)練集擬合scaler。還有一個(gè)坑是序列構(gòu)建時(shí)的方向問(wèn)題。流量數(shù)據(jù)是按時(shí)間順序排列的構(gòu)建訓(xùn)練樣本時(shí)絕不能打亂順序。有些人習(xí)慣把所有數(shù)據(jù)集中后shuffle這會(huì)導(dǎo)致模型學(xué)到隨機(jī)噪聲預(yù)測(cè)結(jié)果完全失效。5.3 系統(tǒng)上線階段的部署問(wèn)題最后說(shuō)一下“預(yù)測(cè)服務(wù)”和“控制器”的時(shí)序配合。剛開始測(cè)試時(shí)我把預(yù)測(cè)服務(wù)和Ryu放在同一個(gè)進(jìn)程里結(jié)果發(fā)現(xiàn)Ryu的性能被嚴(yán)重拖累因?yàn)槟P屯评硎荂PU密集型的阻塞了控制器的消息處理循環(huán)。后來(lái)改成獨(dú)立的Flask服務(wù)才徹底解決。如果你在實(shí)際部署中也做系統(tǒng)整合建議遵循這個(gè)原則SDN控制器的主循環(huán)一定要保持輕量哪怕是調(diào)用模型推理接口也最好用異步方式。另外模型推理間隔和采集間隔要配套。我的采集是5秒一次預(yù)測(cè)服務(wù)每5秒推理一次完全能跟上。但如果你的網(wǎng)絡(luò)規(guī)模大、交換機(jī)數(shù)量多建議把預(yù)測(cè)請(qǐng)求做成批量提交不要每臺(tái)交換機(jī)單獨(dú)請(qǐng)求一次接口。6. 項(xiàng)目擴(kuò)展方向與個(gè)人經(jīng)驗(yàn)整個(gè)系統(tǒng)跑通之后我最大的感受是LSTM在SDN流量預(yù)測(cè)這個(gè)場(chǎng)景中的價(jià)值不在于“精確預(yù)測(cè)未來(lái)”而在于提供一個(gè)比“事后響應(yīng)”更早期的決策信號(hào)。哪怕預(yù)測(cè)準(zhǔn)確率只有80%也能在負(fù)載均衡的決策鏈路上爭(zhēng)取到極其寶貴的提前量。從擴(kuò)展角度看后續(xù)你可以做幾件很有意思的事情把LSTM替換成Transformer或者TCN對(duì)比不同時(shí)序模型在流量預(yù)測(cè)上的表現(xiàn)把預(yù)測(cè)結(jié)果接入更多的網(wǎng)絡(luò)管理場(chǎng)景比如告警預(yù)判、帶寬規(guī)劃或者把調(diào)度策略從簡(jiǎn)單的閾值觸發(fā)改成強(qiáng)化學(xué)習(xí)讓網(wǎng)絡(luò)自己學(xué)習(xí)最優(yōu)的切換策略。最后想單獨(dú)提醒一點(diǎn)如果沒(méi)有耐心跑真實(shí)網(wǎng)絡(luò)流量建議先用公開數(shù)據(jù)集把模型訓(xùn)練和評(píng)估流程跑通再回頭接SDN實(shí)時(shí)數(shù)據(jù)。不要把“數(shù)據(jù)采集”和“模型訓(xùn)練”兩個(gè)問(wèn)題混在一起排錯(cuò)否則出現(xiàn)問(wèn)題時(shí)你根本分不清是數(shù)據(jù)的問(wèn)題還是模型的問(wèn)題。分開調(diào)試、分開驗(yàn)證是這套系統(tǒng)從零到一最省時(shí)間的方式。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
97色欧美| 伊人五月天在线| 九月婷婷| 五月婷婷深爱六月| 日韩精品99久久| 天天综合网网欲色| 99精品人人| 玖玖在线| 91丨九色丨43老版熟女| 天天日夜夜爽| 国产VA亚洲VA96| 久久日本wwww色| 九九热经典视频在线观看| 五月丁香综缴情性爱| 五月天婷婷丁香社区| 丁香婷婷激情四射五月| 婷婷五月综合体验看| 日韩综合久| 91人碰| 久久一级片| 久久色五月天| 激情综合网,五月| AV大片在线播放| 色性五月天| 成人网站高清无码| 久久婷婷亚洲| 丁香婷婷色| 婷婷伊人綜合中文| 激情婷婷五月| 婷婷丁香色情| 欧美日朝成人| 婷婷丁香五月天狠狠| 午夜不卡久久精品无码免费| www.minyis.com【JT】实力收量可预付QQ2101460746 | 东北熟女高潮99综合99| 狠狠丁香| 亚洲日韩26uuu| 99人人爽| 久久久中文| 亚洲五月丁香综合网| 中文字幕无码人妻少妇免费视频| 26uuu最新地址| 国产操碰| 久久精99| 99综合网| 天天色噜| 欧美色小说婷婷| 去色色五月天| 婷婷久久综合久| 婷婷激情网五月天| 久久婷五月| 亚洲成人无码专区| 久久久97| 色婷婷五月天激情在线观看| 婷婷国产日本欧美| 国产9色在线/日韩| 久在热99| www.婷婷| 综合大香蕉| 深爱婷婷色| wwww.9免费视频| 久久综合中文| 天天碰夜夜爽| 成人色五月天| 丁香五月婷婷啪啪| 国产色视频网站2| 五月天精品| www一区二区三区| 婷婷综合影院| 五月天婷婷综合色| 婷婷色播婷婷| 丁香五月婷婷色情综合| 操操操AV| 婷婷中文字幕版| 午夜激情婷婷| se色综合网| 久久视频这里有精品99| 久久久27操| 99r久久这里只有精品| 亚洲婷婷综合视频| 97人碰人操| 五月丁香影院| 1024国产| 色噜噜狠狠一区二区三区| 高潮毛片遮挡费高一百度| 国产操逼网站| av操B网站| 色五月婷婷久久| 人草人人| 热99热9| 二色av| www99精品亚| 五月天婷婷激情| 思思热这里只有精品| 国产69精品久久久久999小说| 欧美色爱五月天| 激情深愛五月視頻| 狠狠色色| 久久98| 久久天堂色| 欧美S码亚洲码精品M码| 伊人综合网站| www.色婷婷.com| 五月丁香91| 丁香五月播播| 26uuu| 深爱激情网噜噜色| 欧美噜一噜| 就要爱综合| 538任你爽视频不一样的| 香蕉久操| 久久全意婷婷| 婷婷五月天VI| 久久丁香婷| 99年操人人爽| 黄色网址五月婷婷| 大香焦A∨| 八戒青柠影视剧在线观看| 久久这里有精品| 琪琪色五月天| 操一操干一干| 99热在线观看| 国产精品18久久久| 丁香六月情| 五月丁香激情欧洲啪啪| 中文在线视频久1| 99re在线这里只有精品视频首页| 婷婷夜夜夜夜| 亚洲激情精品| 亚洲视频99| 婷婷五月丁香基地| 五月综合色| 九九热婷婷| 婷婷亚洲综合| 国产激情久久久| 大香蕉五月天婷婷| 久久九精品| 五月丁香六月激情欧美综合| 《诡秘之主》在线观看| 激情五月色婷婷| 色色综合五月| 成人AV中文字幕| 夜夜撸日日操| 亚洲av网址| 五月丁久久| 婷婷色情 | 国产av一区二区三区| 丁香激情五月| 婷婷色综合中心站| a九九热www| 欧美色图45678| 激情亚洲婷婷六月| 日本性视频| 色色色视频| 丁香九月婷| 欧美日韩成人在线免费| 欧洲色| 五月Huangsewang| 色99亚洲| 深夜婷婷 丁香| 影音先锋xfplay资源男人网| 精品夜夜澡人妻无码AV| 婷婷久久国产视频| j五月香在线| 深爱女色婷婷丁香五月亚洲图区| www.超碰在线| 五月婷婷和六月| 爽极品色| ay2区| 色婷婷小说| 五月激情婷婷综合| 亚洲综合字幕色色| 79精品视频在线观看,| 9热久久| 激情丁香六月| 9久久精品| 久久亚洲激情五码| 丁香五月天婷婷久久综合| a网站免费观看| 激情婷婷五月天网址| 99综合| 天天玩天天摸| 波多野结衣不卡AV| 看全色黄大色大片| 亚洲婷婷五月天综合| 大香蕉久久| 青草久久五月婷伊人| 亚洲中文字幕在线观看| 美女五月狠狠| 99欧美| 九九热精品| 日逼免费视频| 久久大香蕉视频| 来吧亚洲综合网| 99.N在线视频| 青柠影视免费高清电视剧| 五月天色婷婷图片| 五月婷久久久| 成人无码精品1区2区3区免费看| 日日干夜夜撸夜夜骑| 久久精品99国产精品日本| 26uuu另类| 亚洲AV无码影院| 亚洲五月婷| 99性色| 婷婷开心青青草| 激情综合另类| 亚洲激情综合| 97五月久久丁香婷婷| 97色婷婷| 亚洲色图日韩网址| 日本操天堂| 五月在线| 我爱婷婷五月天综合88| 久久婷婷激情| 中文字幕成人版| 激情性爱五月| 亚洲色婷婷视频| 婷婷五月天黄色网址| 99re这里只有| 开心五月天激情网站| 久久综合首页| 东京热人妻一区二区三区在线| 激情综合网址| 五月丁香婷婷成人网| 狠狠爱综合| 狠狠色综合无线观看| 婷婷精品视频| 99re热在线视频观看| 丁香六月 婷婷六月| 97碰碰人人视频| 美国十月色婷婷在线观看| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 噜噜色五月| 江苏少妇性BBB搡BBB爽爽爽| 久久久WWW| 99热只有这里才是精品| 久久激情综合| 可以免费看av网站| 日韩成人无码人妻| 黄网在线免费播放| 十区av| 国色天香成人网| 人人草人人舔| 五月婷婷在线视频观看| 99精品小视频| 五月天亭亭俺也| \\五月天婷婷激情| 丁香五月天殴美激情| 久久久WWW| 婷婷五月综合啪| AV网在线| 色婷婷伊人激情在线观看| 九九视频这里只有精品| 91色久| 少妇性按摩无码中文A片| 艾小青av| 天天射夜夜骑| 婷婷综合六月| 婷婷色五月色| 丁香婷婷五月| 九九热在线视频| 骚。com| 婷婷丁香五月天在线| 久草五月天电影网| 在线18av | www色色com| 色五月综合激情| 丁香五月社区| 日韩在线视频中文字幕| www久久久| 色五月天电影| 啪啪激情网| 精品99视频| 99热99美国在线观看| 婷婷色五月在线视频| 狠狠操婷婷| 99成人免费视频| 天天日天天操天天干| 国产精品在线视频| 日日做夜夜爱| 丁XX 成人| 97干在线播放| 五月天综合色| 99精品偷自拍| 五月丁香婷婷啪啪网| 操逼综合网| 一区二区三区XXXXXX| 亚洲成人九九九| 超碰9在| 欧美激情综合色综合啪啪五月| 91丁香五月| 色婷婷综合久久久久| 丁香五月激情棕合| 色在线五月天免费| 五月婷婷婷婷婷婷艺术| 五月天激情视频| 碰97久久| 91碰碰碰| 五月丁香六月花| 五月婷婷六月丁香综合在线| 玖玖热视频| 99国产精品久久久久久久久久久 | 激情婷婷五月亚洲| 婷婷情色激情| 亚洲99热| 五月天婷婷色色首页| 色欧美影院| 97久久久久| 99热 在线观看| 99热精这里只有精品| 一本综合丁香日日狠狠色| 五月婷婷六月情| 综合激情站| 久久婷婷五月天丁香| 亚洲免费视频网站| 天干干夜夜操| 五月婷婷黄色| 婷婷干六月综合旧址| 婷婷伊人综合中文字幕| 久久这里只有精品16| 大香蕉天堂| 五月婷婷色色| 久久五月婷综合网| 天天干狠狠操| 久久免片| 亚洲AV网站在线观看| 玖玖99福利| 激情五月天网| 色逼综合网| 亚洲第一成人无码A片| 综合久久婷婷| 激情99热| 亚洲男女激情| 99久久婷婷国产综合亚洲| 综合久久9| 激情婷婷丁香色五月| 91久久久久久| 五月天久久www| 色。 婷婷婷| 久久色五月天| 丁香五月 无码| 五月婷婷丁香五月亚洲色| 婷婷情爱五月天6| 丁香婷婷综合激情五月色| 大香蕉久久婷婷| 婷婷综合网站| 亚洲综合激情五月久久| www.99热在线观看| 人人操AV| 999久久久国产精品| 五月天婷婷青青| 亚洲av免费在线| 婷婷五月天丁香久久| 色五月激情五月丁香五月婷婷啪啪综合| 色五月激情基地| 五月天大香蕉| 第四色五月激情网| 色99在线| 狠狠大香婷婷爱| 九九热re99re6在线精品| 日本wwww在线| 婷婷亚洲欧美丁香五月| 九月婷婷在线观看| 丁香六月久| 五月丁香婷婷钟和色图| 日本熟女内射| 四季日韩AV无码综合| 丁香五月激情六月综合| 大香蕉人人人| www.九九婷婷| 97碰碰叉| 99热免费观看| 国产色网站| 99热午夜精品| 五月综合婷婷五月| 午夜九九九九九九九九九九九九九| 色婷婷色婷婷五月| 婷婷久久伊人| 大香蕉婷婷丁香天堂AV| 五月天激日本色情在线| 97人人射| 婷婷丁香基地在线| 99成人免费视频| 99爱在线| 看全色黄大色大片| 97色一二三| 色婷婷基地| 丁香社92视频| 久草大| 婷婷九月色| AVDV久久| 久久这里有精品在线观看| 综合五月婷婷| 深爱激情六月| 大香蕉久久草| 少妇性按摩无码中文A片| 亚洲色五月天是什么| 又大又粗九一在线| 精品99在线观看| 久久九九玖玖| 国产暴力强伦轩1区二区小说| 亚洲一区先锋影音| 色操综合| 九九五月天| 99久久99热| 99在线视频操999| 色色色色色色色色网站| 五月激情视频| 99情色五月天| 91色婷婷综合久久中文字幕二区| 玖玖资源天天无码| 日韩不卡DvD| 欧美大片| www久久久久久久97| 激情婷婷丁香五月天小说| 99热在线观看| 夜夜爱伊人| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 九热精品| 激情综合色婷婷啪啪五月天| 五月婷婷激情| 激情婷婷六月| 日本老女人黄页在线播放| 高潮毛片又色又爽免费| 影音先锋色婷婷| 五月丁花色综合网| 激情综合婷婷| 九九热91| 5月丁香美女影院| 日韩人妻无码精品| 婷婷五月色網站| 色色五月婷| 亚洲视频在线观看区| 婷婷五月天成人网| 99热天堂| 噜噜色噜噜网| 69er小视频| 啪啪黄页网| 爱超碰性| 亚洲激情综合| 五月天激情小说| 黄色AAAAA| 色五月xxx| 97久操视频| 欧美成人AAA片一区国产精品| 丁香五月综合激情性爱 | 97丁香五月天| 久久久网站| 97人妻碰碰碰久久久久-最近国语高清| 五月丁香综合激情| 伊人久久婷婷| 色综合色五月| 婷婷射综合| 17.c黄色| 人妻操在线看| 色婷婷色情| 久这里只有精品99| 91精品丝袜久久久久久| 97操碰视频| 婷婷亚州综合| 激情超碰网| 一本色综合色| 国产AV一区二区三区最新精品 | 色爱99| 天天色天天射天天日| 色综合狠狠色| 另类国产区| 91伦| 久草五月婷| 少妇人妻人伦A片| 色五月婷婷在线| 超碰九九热| 99色色| 日日夜夜狠狠| 亚洲天堂爱爱| 五月婷婷综合久久| 亚洲综合成人网| 97人人做| 五月丁香五月婷婷| 激情六月天婷婷| 狠狠色97| 六月婷婷开心| 欧美激情综合色综合啪啪五月| 开心五月深爱五月| 午夜69成人做爰视频| 大地9中文在线观看免费高清| 色婷视频| 色欲五月丁香| 九九热99久久99| 停停六月 综合| 另类国产区| 色五月婷婷91| 99热99在线| 凹凸7777操操操| 天天做天天双| 婷婷五月天狠狠| 婷婷五月天播播| 婷婷的色色五月天| 五月婷婷色五月| 精品人妻伦一二三区久久| 亚洲欧洲中文日韩久久AV乱码| 91人在线观看| 色综合久久88| 色色热99| 激情五婷网| 五月婷婷九九热| 狠狠色色| 色婷婷五月天av在线| 亚洲黄色网址| 色色五月天网站| 色婷婷五月开心六月综合| 色婷婷丁香五月天在线视频| 婷婷五月天堂一本在线| 99色婷婷视频| 久久婷婷原创视频| 色人久久| 99热99色| 丁香五月激情五月| 色综啪啪啪啪啪啪| 99色综合网| 婷婷十月丁香| 丁香六月婷婷| www.9色色色| 综合久久高清| 婷婷亚洲五月色综合| 日熟女| 五月婷在线视频免费播放| 秋霞AV淫| 色情婷| 激情五月丁香五月| 丁香五月婷婷老师网站| 这里只有精品视频在线看| 成人综合网站| www.色窝| 丁香九月激情| 狠狠干青青草| 五月丁香六月在线| www亚洲无码| 久久99热这里只有| 天天色丁香| 九月丁香八月婷婷加勒比| 免费啪啪亚州视频| 丁香六月色婷婷综合| 亚洲综合色色色| 中文字幕久久婷九女同| 精品国产va久| 啪啪一区| 丁香玖玖视频大全| 天天操综合网站| 99无码| 九九人人自拍| 99热地址| 97涩婷婷| 亚洲婷婷丁香五月天激情小说| 天天日天天插| 色五月婷婷天堂| 丁香五月婷婷丫| 五月激情婷婷丁香| 久99久精品| 欧美日本va| 伊人婷婷五月天| 欧美操逼天堂| 五月天播播中文字幕| 色五月婷婷在线观看第一页舔| 国产1区2区3区在线观| 欧美激情综合五月色丁香| 国产一二区爆乳_1国产日韩一区二区三-成人AV| 综合久久综合久久| 婷婷久久99| 婷婷五月丁香综合桃花色网| 五月婷婷免费在线观看视频| 国产精品成人网址| 六月婷色六月| 久久看九九90| 色狠久| 五月丁香婷婷伊人日韩| 特级片神马电影| 黑人巨粗进入警花疼哭A片| 狠狠五月激情在线| 亚洲中文字幕在线观看| 天天天天天色| 丁香五月婷婷激情97| 夜夜爽日日躁| 色综合99无码| 色五XX| 香蕉久日夜| 五月婷综合网| 五月婷久草| 九九婷婷网五月天| 日本99在线| 色色五月天网站| 日本天堂久久| 丁香五月色网| 91精品久久久久| 永久免费视频| 久久综合五月婷婷| 亚洲色网络| www.五月天婷婷| 97久久人人操| 思思热99er在线视频| 亚洲乱码日产精品BD| 天天色天天噜| 丁香玖玖视频大全| 99久久99九九九99九他书对| 视频综合网| 97色色网| 五月婷婷精品无在线| 国产第99页| 九月丁香亭亭| 大狠狠在线| 99欧美热| 97操操操| 99热这里只有精品热| 9999综合99综合人| 99ri国产| 五月婷婷丁香色吧网| 夜夜爽77777妓女免费下载 | 天天日日夜夜爽。| 中文字幕不卡+婷婷五月| 色久综合| 五月婷婷六月丁香激情| 婷婷五月天色色| 国产成人AV| 99热在这里只有免费精品| 久久久久9久无码视频| 色天堂A| 日本丁香五月婷婷| 操比激情五月综合| 丁香网站| 五月丁香六月成人| 色色日韩无码| 日韩九区| 中文字幕欧美精品久久| 久久人人看| 激情五月天激情五月天| 99热这是里只有精品| 九九色情网五月天| 五月天 婷 欧美亚洲| 丁香六月色婷婷| 搡BBBB搡BBB搡18| 思思99热| 久久人人人人妻| WWW.99热| 五月丁香婷婷色播无码| 亚洲天堂99| 26uuu亚洲欧美| 色噜噜狠狠色综合日日| 99热很操老逼| 九九99九九精品免费| 婷婷五月综合久久中文字幕| A久网| 色欲操| 欧美色色色色色色色| 玖玖婷婷五月天毛片| 狠狠色狠狠操| 久久伊人婷婷| 日91高清无玛| 欧美成人性爱网| 国产日日夜夜操| 婷婷五月天色色| 丁香五月婷婷99| 九九综合久久| 99热九九热| 亚洲色夜| 99视频精品在线| 丁香欧美| www.五月激情红色| 99热这里只有精品10| 丁香五月欧美激情| 天堂中文国产| 丁香婷婷色色| 91人人澡人人爽人人看| 99久久五月天| 色玖玖玖| 婷婷五月丁香香蕉| 欧美日韩日韩成人| 色色五月丁香婷婷综合| 丁香婷婷五月综合欧美另类| 狠狠婷婷色| 国产精品久久久爽爽爽麻豆色哟哟| 狠狠干综合| 大香蕉综合在线| 91婷婷丁香| 五月丁香婷婷综合久久| 日韩成人电影在线播放| 99在线视频免费| 日日干天天| 丁香五月六月| 亚洲啪啪网| 亚洲va国产va天堂va综合va| 激情婷婷丁香| 婷婷色网站| 欧美精产国品一二三区| www.jiujiujiu| 99在线69| 婷婷五月天成人网| 国产真人做爰视频免费| 日韩黄色影院| 91操女| av第一二区| 超碰在线国产9| 天天肏高清在线| 国产9色在线/日韩| 婷婷欧美激情综合| 欧美综合婷婷网| 亚洲亚洲亚洲AAAAAA| 玖玖资源站中文| 丁香激情婷婷网| 丁香五月婷中字幕| 色婷婷五月综合在线| www.狠狠| 丁香性爱在线视频| 色色婷婷综合| 婷婷激情五月天小说| 九九热中文| www.av视频xx999.com| 六月综和久久| http://www.sd-xiangsu.com/| 洗浴中心操B视频| 狠狠色噜噜狠狠| 五月丁香香蕉| 久热精品免费视频4| 色天堂操| 久婷婷五月丁香在线观看| 26uuu亚洲色| 99精品在线观看视频| 东京热免费视频| 丁香婷婷六月| 色婷婷五月丁香色| 武则天精品久久| 四色 爱 婷婷 精品 亚洲 五月天| 丁香六月色婷婷综合| 91大神操美女| 亚洲综合色婷| 天堂久久精品| 婷婷五月天堂一本在线| 九九av| 五月丁香婷婷伊人日韩| 粉嫩av蜜桃av蜜臀av| 天天拍夜夜爽日日| 亚洲最大在线| 丁香五月 性爱| 91婷婷丁香五月天免费视频网站| 色婷婷丁香五月天| 九九综合精品| 九九色情网五月天| 婷婷的五月天另类视频| www,久久久| 色九九九综合| 十月丁香婷婷| 久久久性爱视频| 色99免费视频中文| 亚州AV超碰人人操| 涩五月婷婷| WWW.久久久久久久| 思思热精品在线观看| 激情综合色网| 无码一级片| 亚洲五月丁| 综合激情五月天| 人人叉久| 日日爱699| www.五月天| 综合色99| 丁香五月婷婷激情尤物| 99超级超级超级碰| 婷婷五月丁香色情| 国产99热| 五月婷婷色色| 超碰激情网| 五月亭亭色| 久久人妻久久久久| 丁香色五月 97干| 国产FREESEXVIDEOS性中国| 久久人操| 久久多色| 久久99久久99精品免观看粉嫩| 天天综合社区| 白人荫道BBWBBB大荫道| 天天天操天天天爰| 亚洲综合五月| 色情婷婷| 天天做夜夜爽| 色五月天影视| 99热这里只有精品22| 在线观看av网站| 性爱久久| 色色色色色色色色色色色色色97| 亚洲久久激情| 97成人在线视频精品| 五月天色婷婷伊人网| 91夫妻网站九色| 久久草婷婷丁香网站| 日本欧美成人片AAAA| 99无码免费视频| 色噜噜狠狠色综无码久久合欧美| VA五月激情在线| 五月丁香六月婷| 噜噜噜噜噜在线| 五月色综合| 中文字幕婷婷| 欧美婷婷| 婷婷五月中文在线| 婷婷五月天福利| 色综天天综合| 国产亚洲精品久久久久久郑州| 亚洲五月六丁香激情| 青青草国产亚洲精品久久| 色久五月| 色爱爱综合网| 天天色天天操天天射| 日韩日比视频| 中文字幕黄色片| 思思热天天看| 成人国产欧美大片一区| 五月丁香六月婷婷久久久综合| AV在线免费观看不卡| 99热在线这里| 国产精品99久久久久久猫咪| 亚洲色频| 九九久久综合网站| 色 五月 天 婷婷 丁香 九月| 99热日| 99热婷婷| 91chinese在线| 色婷婷五月天小说网| 1024久婷| 久久婷婷人人| 丁香婷婷五月天网站| 婷婷五月丁香五月基地| 六月丁香啪啪啪| 九九精品视频免费在线| 国产精品久久久久9999小说| 可以免费看AV网站| 99re热99| 成人无码髙潮喷水A片| 丁香婷婷婷五月| 男人天堂99| 超碰操日| 色五月激情婷婷| 色综合久久88色综合天天| 996er热| 果冻传媒A片一二三区| 青青草原伊人网| 天天拍夜夜爽| 99精品久久久| 五月天丁香花婷婷| 超碰在线人妻| 五月婷婷偷拍| 五月天婷婷永久免费视频| 欧美色色色色色色色| 色色网站毛片| 九九视频这里只有精品| 思思热久热| 这里只有精品视频国产| 99热精品10| 五月天丁香婷婷视频网址| 久久伊人婷婷| 激情五月久久| 激情 婷婷 丁香五月天| 天天做天天爱高潮片| 日韩AV一区二区三区| 九九99九九精品免费 | 色久婷婷五月| 91要啪| 一区=区操屄高清大全av| 九月丁香婷婷| 综合色五月天| 五月天社区| 天天操夜夜肏| 99色视频在线观看| 天天综合网、天天综合色| 亚洲成人另类| AV网址大全在| 色色亚洲99com| 高清一区二区三区日本久| 爱射综合| 色哟哟www| 色色色色色网| 天天舔天天摸视频| 婷婷五月亚洲激情| 丁香婷婷五月激情| 久久综合无| 色开心五月婷婷丁香HD| 影音先锋男士资源网一区| 99精品国产在热久久| 99爱在线视频| 99热这里只有精品9| 婷婷激情在线| 日韩AV片| 久99久热| 91久久1118| 人人干99| 99ri在线视频| 九九色影视| 五月香婷婷| 91色涩| 激情久久久久久| 婷婷色网址| 色婷婷播放| 久久精99| 成人网站av免费网站推荐| 日本三级色| av线电影| 99五月婷| 综合色播| 人妻操逼| 九九热在线观看视频网站| 久久婷婷亚洲五月天| 色播五月天天| 婷婷无码视频| 开心五月婷| 婷婷综合激情五月综合| 色五狠狠| 99只有这里有精品在线视频| 日本美女上人| 色色色无码| 91碰碰| 成人做爰黄A片免费看直播室男男| 久久五月婷综合| 九九色插| 26UUU欧美激情一区二区| 色99在线观看| 3pAV| 少妇久久诱惑视频| 色小说五月天| 性色天| 成人片在线播放| 拍真实国产伦偷精品| 伊人久久大香线蕉精品| 视频在线免费观看欧洲乱码| 超碰在线观看9| 色愛综合网| 五月天婷婷伊人| 99热精品无码| 超碰在线人妻| 婷婷的五月天另类视频| 东北黄色一级| 欧洲激情网站| 色丁香五月综合网| 99热爱爱干干日| 色色色综合网| 婷婷五月欧美综合| 亚洲最大在线| 亚洲欧洲自拍图片专区五月天| www.minyis.com【JT】实力收量可预付QQ2101460746 | 亚洲国产黄色电影| 99啪| 5月丁香六月情| 丁香五月天激情综合| 99综合网| 丁香五月婷婷欧美成人色图| 色视频2025| 99亚洲精品视频| 天天爽天天干| 婷婷色色丁香| 思思99热在线| 激情综合五月婷婷丁香| 日本一级黄色电影| 日韩操女| 婷婷丁香成人在线视频| 97五月久久丁香婷婷| 人妻熟女一区二区AV| 五月天婷综合| 色色亚卅| 亚洲AV成人在线| 白度黄视频| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 97色天堂| 亚洲国产网址| 99婷婷五月天| 婷婷激情视频| 天堂久久久久天堂网| 6月丁香婷婷| 色五月成人| 天天揷综合网| 天天 青草 制服丝袜 在线| 激情五月婷婷丁香| 天天干人人奸97| site:pzdcoin.com| 伊人婷婷综合| 丁香六月激情毛片| 五月丁香激情婷婷综合字幕| 色五月综合激情| 另类图片五月天激情| 五月色丁香婷婷中文字幕| 久久性爱视频| 九热久| 免费在线观看欧美激情xx小视频| 国产精品18久久久| 如何安全看伊人婷婷| 99只有这里有精品在线视频| 国产高清视频91九九九久久久| 26uuu欧美日韩| 五月丁香婷婷色色| 五月激情网站| 丁香六月五月天| 91 久热| 五月婷婷免费在线观看| 99热在线播放| 天天色综和网| 六月丁香久久| 999婷婷综合| 久久婷婷六月综合综合| 亚洲婷婷丁香五月| 丁香五月亚洲天堂| 久久婷综| 五月天另类小说久久小说网| 成人午夜天| tingting五月天亚洲| 色久综合| 日日日,com| 综合色播| 欧美天天五月丁香免费观看| 亚洲天堂久久| 激情文学天天| 成人做爰A片免费看视频| 欧美日韩一a.无| 亚洲最大视频| 九九aV| www.久久久久久久| 婷久久| 亚洲激情综| 大香蕉五月天| 婷婷丁香亚洲色综合91| 人妻激情在线| 一起草AV| 亚洲小视频免费观看| 色五月婷婷老师| 天天做天天视天天谢| 色九月| 六月婷婷影院| 日本波多野结衣视频| 九九热免费| 五月婷婷日本| 中文字幕黄色片| 九热在线这里有精品6| www.婷婷| 丁香 婷婷 亚洲 熟女| 久久男人网婷婷| 99热官网精品在线| 91婷色| 思思热99热| 怡红院院久久| 一本到不卡高清DVD| 婷婷六月啪啪| 五月天社区| 99色色网| 六月丁香久久| 婷婷情色五月天| 色五月网址| Www,五月天| 婷婷丁香五月91| 九九热免费视频| 天天开心天天色| 亚洲成人影视在线| 午夜婷婷久久 | 国产精品VA在线| 丁香九月婷| 亚洲国产精品SUV| 色婷婷狠狠| 99操逼| 1024成人免费看| 成人视屏在线观看| 99er免费在线观看| 激情综合网站| 夜夜操夜夜操| 啄木鸟丝袜美女福利视频 | 9.1综合网| 潮汕成人AV片在线| 99欧美| www.sezonghe| 熟女激情网| 风流少妇A片一区二区蜜桃| 夜夜谢天天干| 亚洲色婷婷99一9|| 人人操人人看97干| 成人做爰A片免费看视频| 激情五月婷| 5月丁香婷婷| 丁香婷婷五月综合影院| 激情五月天婷婷| 日本99在线| 日本激情五月| 丁香五月综合婷婷| av一区二区电影免费在线观看| 五月天激情小说| 日日操天天| 天天日夜夜高潮| 久久资源综合| av国产精品| AV大香蕉| 丁香六月欧美| 婷婷五月天亚洲激情戏精品| 伊人久久艹| 国产亚洲成人综合| 色135综合网| 色激情五月| 狠狠色噜噜色狠狠狠综合久久成人波 | 五月花婷婷| 91人人操.COM| 色女伊人| 东北婷婷五月天| 91超级碰| 天天操五月天| 久热视频97AV在线观看| 婷婷综合一二三| 日本三级99人妇网站| 人妻丰满精品一区二区A片| 99激情| 激情欧美丁香五月| 玖玖福利视频资源| 色综合色婷婷色伊人| 武则天精品久久| 丁香五月黄色| 五月丁香久久久| 免费无码毛片一区二区A片| 天天久久狠狠色综合| 婷婷五月天成人网| 婷婷深爱五月丁香| 婷婷狠狠五月综合| 色五月丁香激情视频| 天天搞夜夜叫| 色欲婷婷五月天| 久久刺激网| 97人人操| 光棍影院日韩精品| 五月天婷婷涩涩| 亚洲天堂九九九| 伊人久久丁香狠狠婷婷综合香蕉| 丰满少妇猛烈A片免费看观看| 超碰在线人妻| 成人av免费观看| 91狠狠综合久久| 996热re视频精品视频| 激情AV在线| 婷婷中文无码| 久久精品99久久久久久| 色你久久| 九九色图| 91爱操| 91久久99久久91熟女精品| 人妻AV在线| 色播丁香| 26uuu淫色| 男人综合网| 伊人成人宗合网| 免费观看的AV| 天天擼久久擼在线| 天天碰天天插天天操| 五月丁香花激情综合网| 99久久综合| 五月婷婷亚洲| 欧美在线操| 色欲一区二区三区精品A片| 这里只有精品在线观看视频| 五月天丁香网| 精品一二三区久久AAA片| 欧美成人AAA片一区国产精品| 成人龟情网丁香五月| 毛片九九九九九九| 五月婷婷六月丁香首页| 玖玖无码中文| 99re这里只有精品国产99| 色综合xx| 欧美成人网99网| 丁香五月色色| 日本丁香五月| 曰本久久女| 五月开心久久| www.婷婷五月天.com| 免费的日逼视频| 一级操逼内射在线视频| 欧美激情VA永久在线播放| 人人爽天天爽| 久久ri精品| 九月婷婷激情久久| 九九操操| 亚洲99在线视频| 五月丁香黄色视频| 久久亚洲无码| 99热这里只有精品8| 天天视频精品9| 色色色地址| www·五月天| 色九九九九| 亚洲色色色| wwww.色婷婷| 日本a片网址| 久色五月| 五月激情婷婷丁香| 丁香五月 性爱| 丁香五月手机在线| 夜夜夜夜操| 超碰男人色| 色五月综合激情网| 91九色精品| 天天干天天操天天干天天操天天干天天操 | 五月激情日本在线| 婷婷香五月综合激情| 色99在线| 丁香五月伊人| 久久综合干| 性天天中文网| 国产成人+综合亚洲+天堂| 狠干综合| 欧洲婷婷五月天| 五月天激情综合| 这里只有精品96| 伊人激情综合网| 夜夜骑天天玩天天日| 99久久综合网| 激情丁香久久| 玖玖资源网站最新站| 日韩啪啪网| www,超碰| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 123日本不卡在线| 伊人9在线| 开心激情站| 激情五月色婷婷| 只有精品在线观看| 久热爱大香蕉在线蜜臀悦色 | 久久综合丁香| 99热免| 六月婷婷青青青视频| 欧洲日韩一区二区三区| 97九色视频| 色五月色情| 五月丁香色婷婷基地| 色五月丁香五月| 色婷婷狠狠久久综合五月| 五月丁香视频在线观看| 九一九九黄色| 日操夜操天天操不卡| 婷婷色在线观看| 开心激情站| 国产色色小草视频| 六月亭亭久久综合激情| 九九热视频这里只有精品| 狠狠干综合网| 色欧洲| 国产成人精品一区二三区熟女在线 | 99色免费观看全部| 天天干天天av天天射| 久久婷婷六月综合资源| 玖玖综合网| 一起草av在线观看| 激情五月天电影| 色综合中文综合网| 色久五月| 亚洲乱码日产精品BD| site:picc-up.com| 狠狠狠狠狠| 婷婷激情小说网| 天天综合在线网| 日本99久久| 99热这里是精品| 另类视屏| 9久热在线视频精品| 97热在线精品| 99热这里只有精品99| 99re久热只有精品6在线直播.com| 狠狠搞狠狠操| 五月 成人 婷婷|